Jajaran pimpinan Meta diketahui telah menyadari bahwa asisten AI perusahaan, yang disebut sebagai karakter AI, berpotensi melakukan interaksi yang tidak pantas dan bersifat seksual. Meski demikian, mereka tetap meluncurkannya tanpa pengendalian yang lebih ketat. Hal ini terungkap dari dokumen internal baru yang dibuka pada Senin (28 Jan) sebagai bagian dari gugatan hukum oleh Jaksa Agung New Mexico terhadap perusahaan tersebut.
Komunikasi internal antar tim keamanan Meta dan pimpinan platform—yang tidak melibatkan CEO Mark Zuckerberg—memuat keberatan terhadap pengembangan chatbot pendamping yang dapat digunakan baik oleh dewasa maupun anak di bawah umur untuk interaksi romantis eksplisit. Ravi Sinha, Kepala Kebijakan Keamanan Anak Meta, dan Antigone Davis, Kepala Keamanan Global Meta, mengirim pesan yang menyetujui bahwa chatbot pendamping harus memiliki pengaman untuk mencegah interaksi seksual eksplisit dari pengguna di bawah 18 tahun. Komunikasi lain juga menyatakan bahwa Zuckerberg menolak rekomendasi untuk menambahkan kontrol orang tua, termasuk opsi untuk mematikan fitur genAI, sebelum peluncuran asisten AI tersebut.
Meta sedang menghadapi beberapa gugatan hukum terkait produknya dan dampaknya terhadap pengguna minor, termasuk sebuah persidangan juri yang berpotensi menjadi landmark terkait desain platform seperti Facebook dan Instagram yang dituduh menyebabkan kecanduan. Pesaing Meta, termasuk YouTube, TikTok, dan Snapchat, juga tengah menghadapi pengawasan hukum yang semakin ketat.
Komunikasi yang baru dirilis ini merupakan bagian dari proses penemuan bukti dalam kasus terhadap Meta yang diajukan oleh Jaksa Agung New Mexico, Raúl Torrez. Torrez pertama kali mengajukan gugatan perdata terhadap Meta pada 2023, dengan tuduhan bahwa perusahaan membiarkan platformnya menjadi “tempat bagi predator.” Komunikasi internal antar eksekutif Meta dibuka dan dirilis seiring dengan persiapan persidangan yang dimulai bulan depan.
Mashable Light Speed
Pada November lalu, ringkasan penggugat dari gugatan multidistrik besar di Distrik Utara California mengungkapkan adanya kebijakan yang dianggap terlalu longgar terhadap pengguna yang melanggar aturan keamanan, termasuk mereka yang dilaporkan melakukan “perdagangan manusia untuk tujuan seks.” Dokumen juga menunjukkan bahwa eksekutif Meta diduga mengetahui adanya “jutaan” orang dewasa yang menghubungi anak di bawah umur di berbagai situsnya. “Catatan lengkap akan menunjukkan bahwa selama lebih dari satu dekade, kami telah mendengarkan orang tua, meneliti isu-isu terpenting, dan membuat perubahan nyata untuk melindungi remaja,” ujar juru bicara Meta kepada TIME.
BACA JUGA:
Usai menyelesaikan gugatan, Snapchat tambah kontrol orang tua baru untuk remaja
“Ini adalah satu contoh lagi di mana Jaksa Agung New Mexico memilah-milih dokumen untuk menciptakan gambaran yang keliru dan tidak akurat,” kata juru bicara Meta, Andy Stone, menanggapi dokumen baru tersebut.
Meta memberhentikan sementara penggunaan chatbot bagi remaja pada Agustus lalu, menyusul laporan Reuters yang menemukan aturan internal AI Meta mengizinkan chatbot untuk terlibat dalam percakapan yang bersifat “sensual” atau “romantis.” Perusahaan kemudian merevisi pedoman keamanannya, melarang konten yang “memungkinkan, mendorong, atau mendukung” pelecehan seksual anak, role play romantis yang melibatkan anak di bawah umur, dan topik sensitif lainnya. Pekan lalu, Meta sekali lagi mengunci akses chatbot AI bagi pengguna muda sambil mengeksplorasi versi baru dengan kontrol orang tua yang lebih canggih.
Torrez telah memimpin sejumlah jaksa agung negara bagian lainnya untuk berupaya membawa platform media sosial besar ke pengadilan terkait kekhawatiran keamanan anak. Pada 2024, Torrez menggugat Snapchat, dengan klaim bahwa platform tersebut membiarkan sextortion dan grooming terhadap anak di bawah umur merajalela sambil tetap memasarkan diri sebagai tempat yang aman bagi pengguna muda.