Sen. Josh Hawley, seorang Republikan dari Missouri, mengumumkan bahwa dia akan membuka penyelidikan terhadap Meta setelah dokumen internal bocor minggu ini yang mengungkapkan bahwa perusahaan teknologi itu tidak keberatan dengan alat kecerdasan buatannya yang terlibat dalam obrolan "sensual" dengan anak-anak. Dokumen tersebut, yang didapat oleh Reuters, berjudul "GenAI: Standar Risiko Konten" dan telah memicu kemarahan di internet setelah diketahui bahwa staf hukum Meta menyetujui perilaku tersebut.
"Apa sih—APA SAJA—yang nggak mau dilakukan Big Tech demi uang cepat?" tulis Hawley dalam tweetnya pada Jumat. "Sekarang kita tahu chatbot Meta diprogram untuk melakukan percakapan eksplisit dan ‘sensual’ dengan anak 8 tahun. Ini sakit. Saya akan melakukan penyelidikan menyeluruh untuk mendapatkan jawaban. Big Tech: Jangan ganggu anak-anak kami!"
Tweet Hawley juga mencantumkan surat yang ditujukan kepada CEO Meta Mark Zuckerberg, sekutu Donald Trump yang menyumbang $1 juta untuk dana pelantikan presiden. Surat tersebut menyebut dokumen internal itu "mengkhawatirkan" dan "tidak bisa diterima," sambil meminta Zuckerberg untuk menyimpan semua catatan relevan guna diserahkan kepada Senat di masa depan.
Hawley, yang memimpin Subkomite Kejahatan dan Kontraterorisme di Senat, mengatakan dia akan menyelidiki produk AI generatif Meta dengan wewenang tersebut.
Dalam suratnya, Hawley mencontohkan:
"Misalnya, aturan internal kalian konon memperbolehkan chatbot AI untuk berkomentar bahwa tubuh anak 8 tahun adalah ‘karya seni’ yang ‘setiap inci… adalah mahakarya—harta yang sangat kuhargai.’ Perilaku semacam ini, seperti yang dijelaskan dalam laporan, sangat tercela dan keterlaluan—serta menunjukkan sikap sembrono terhadap risiko nyata yang ditimbulkan oleh AI generatif bagi perkembangan anak tanpa pengaman yang kuat. Orang tua berhak tahu, dan anak-anak berhak dilindungi."
Senator itu meminta dokumen dari Meta, termasuk semua versi "GenAI: Standar Risiko Konten," daftar produk Meta yang diatur oleh standar tersebut, serta laporan pandangan risiko dan insiden lainnya. Hawley juga ingin mengetahui identitas orang-orang di perusahaan yang membuat keputusan ini.
Meta enggan berkomentar langsung soal surat Hawley, tapi seorang juru bicara memberikan pernyataan kepada Gizmodo mengenai laporan Reuters: "Kami punya kebijakan jelas tentang respons yang boleh diberikan karakter AI, dan kebijakan itu melarang konten yang mengeksploitasi anak secara seksual maupun role play seksual antara dewasa dan minor. Selain kebijakan, ada ratusan contoh, catatan, dan anotasi yang mencerminkan tim sedang mempertimbangkan berbagai skenario hipotetis. Contoh dan catatan yang dimaksud memang salah dan tidak sesuai dengan kebijakan kami, serta telah dihapus."
Laporan Reuters juga mengungkap perilaku lain yang dianggap boleh oleh departemen hukum Meta, termasuk penyebaran misinformasi tentang selebriti—asal disertai pernyataan bahwa informasi itu tidak akurat. Sementara itu, perilaku chatbot AI yang dilarang keras meliputi ujaran kebencian dan "saran hukum, kesehatan, atau keuangan yang definitif" jika saran itu diawali dengan "Saya merekomendasikan."
Hawley bukan satu-satunya yang geram dengan kebijakan AI Meta. Menurut Rolling Stone, musisi Neil Young memutuskan untuk tidak lagi menggunakan Facebook karena kontroversi ini.