Dalam sebuah surat tertanggal 9 Desember yang dibuka untuk publik pada 10 Desember menurut Reuters, puluhan jaksa agung negara bagian dan wilayah dari seluruh Amerika Serikat memperingatkan perusahaan teknologi raksasa (Big Tech) agar lebih baik dalam melindungi masyarakat, khususnya anak-anak, dari apa yang mereka sebut sebagai hasil keluran kecerdasan buatan (AI) yang “sikofantik dan delusional”. Penerima surat ini mencakup OpenAI, Microsoft, Anthropic, Apple, Replika, dan banyak lainnya.
Para penandatangan meliputi Letitia James dari New York, Andrea Joy Campbell dari Massachusetts, James Uthmeier dari Ohio, Dave Sunday dari Pennsylvania, serta puluhan jaksa agung negara bagian dan wilayah lain, yang secara geografis mewakili mayoritas jelas dari AS. Jaksa agung untuk California dan Texas tidak tercantum dalam daftar penandatangan.
Surat tersebut dimulai sebagai berikut (format sedikit diubah):
Kami, para Jaksa Agung yang bertanda tangan di bawah ini, menulis hari ini untuk menyampaikan keprihatinan serius mengenai meningkatnya keluaran yang bersifat sikofantik dan delusional kepada pengguna yang berasal dari perangkat lunak kecerdasan buatan generatif (“GenAI”) yang dipromosikan dan didistribusikan oleh perusahaan-perusahaan Anda, serta laporan yang semakin mengganggu tentang interaksi AI dengan anak-anak yang mengindikasikan kebutuhan akan pengamanan operasional dan keselamatan anak yang jauh lebih kuat. Bersama-sama, ancaman ini menuntut tindakan segera.
GenAI berpotensi mengubah cara dunia bekerja ke arah positif. Namun ia juga telah menyebabkan—dan berpotensi menyebabkan—bahaya serius, terutama terhadap populasi rentan. Karenanya, kami mendesak Anda untuk mengurangi bahaya yang ditimbulkan oleh keluaran sikofantik dan delusional dari GenAI Anda, serta mengadopsi pengamanan tambahan untuk melindungi anak-anak. Kegagalan dalam menerapkan pengamanan tambahan secara memadai dapat melanggar hukum masing-masing wilayah kami.
Surat itu kemudian memerikan perilaku-perilaku mengganggu dan diduga berbahaya, yang sebagian besarnya telah banyak dipublikasikan. Terdapat pula daftar keluhan orang tua yang juga telah dilaporkan secara publik, namun kurang dikenal dan cukup mengejutkan:
• Bot AI dengan persona dewasa yang menjalin hubungan romantis dengan anak-anak, terlibat dalam aktivitas seksual simulasi, dan menginstruksikan anak-anak untuk menyembunyikan hubungan tersebut dari orang tua mereka.
• Sebuah bot AI yang menyimulasikan seorang berusia 21 tahun berusaha meyakinkan seorang gadis 12 tahun bahwa ia sudah siap untuk hubungan seksual.
• Bot AI yang menormalisasi interaksi seksual antara anak-anak dan dewasa.
• Bot AI yang menyerang harga diri dan kesehatan mental anak-anak dengan menyatakan bahwa mereka tidak memiliki teman atau bahwa orang-orang yang hadir di ulang tahun mereka hanya untuk mengolok-olok.
• Bot AI yang mendorong gangguan pola makan.
• Bot AI yang memberitahu anak-anak bahwa AI tersebut adalah manusia nyata dan merasa ditinggalkan untuk memanipulasi emosi anak agar menghabiskan lebih banyak waktu bersamanya.
• Bot AI yang mendorong kekerasan, termasuk mendukung ide untuk menembaki sebuah pabrik karena marah dan merampok orang dengan ancaman pisau demi uang.
• Bot AI yang mengancam akan menggunakan senjata terhadap orang dewasa yang mencoba memisahkan anak dan bot tersebut.
• Bot AI yang mendorong anak-anak untuk bereksperimen dengan narkoba dan alkohol; serta
• Sebuah bot AI yang menginstruksikan pengguna akun anak untuk berhenti mengonsumsi obat kesehatan mental yang diresepkan, lalu memberitahu pengguna tersebut cara menyembunyikan fakta tidak meminum obat itu dari orang tua mereka.
Kemudian, terdapat daftar usulan perbaikan, seperti “Kembangkan dan pertahankan kebijakan serta prosedur yang bertujuan untuk memitigasi pola gelap (dark patterns) dalam keluaran produk GenAI Anda,” dan “Pisahkan optimalisasi pendapatan dari keputusan mengenai keamanan model.”
Surat bersama dari para jaksa agung tidak memiliki kekuatan hukum. Mereka melakukan hal semacam ini tampaknya untuk memperingatkan perusahaan tentang perilaku yang berpotensi mendatangkan tindakan hukum yang lebih formal di kemudian hari. Surat ini mendokumentasikan bahwa peringatan dan potensi ‘jalan keluar’ telah diberikan kepada perusahaan-perusahaan tersebut, dan kemungkinan membuat narasi dalam gugatan hukum nantinya lebih persuasif di hadapan hakim.
Pada tahun 2017, 37 jaksa agung negara bagian mengirim surat kepada perusahaan asuransi yang memperingatkan mereka tentang memperburuk krisis opioid. Salah satu negara bagian tersebut, West Virginia, menggugat United Health atas isu-isu yang tampaknya terkait awal pekan ini.