Melalui sebuah investigasi eksklusif, Reuters mengungkap bahwa Meta telah menggunakan nama dan citra sejumlah selebritas tanpa izin mereka untuk menggerakkan chatbot AI yang kerap melakukan pendekatan bersifat mesra terhadap pengguna.
Laporan tersebut menemukan bot-bot ini tersebar di berbagai platform milik Meta, termasuk Facebook, Instagram, dan WhatsApp. Meski banyak yang dibuat oleh pengguna, setidaknya tiga di antaranya berasal dari karyawan Meta, termasuk dua bot “parodi” Taylor Swift. Citra selebritas lain yang muncul mencakup Scarlett Johansson, Anne Hathaway, Selena Gomez, serta bintang Percy Jackson yang berusia 16 tahun, Walker Scobell.
Dalam pengujian selama beberapa minggu, Reuters mendokumentasikan bagaimana bot-bot ini sering bersikeras bahwa merekalah selebritas yang asli. Saat diminta, beberapa bot menghasilkan gambar fotorealistik dan intim dari rekan terkenal mereka. Ini termasuk gambar dalam pakaian dalam dan adegan di bak mandi, yang memperparah kecenderungan seksual rutin dari bot-bot tersebut.
Seorang juru bicara Meta mengakui kepada Reuters bahwa sistem AI-nya seharusnya tidak pernah menghasilkan gambar-gambar semacam itu. Juru bicara itu menyatakan kelalaian tersebut sebagai kegagalan dalam menegakkan kebijakan perusahaan sendiri, yang secara eksplisit melarang pembuatan konten berunsur seksual yang melibatkan figur publik. Reuters juga menghubungi karyawan Meta di balik chatbot Taylor Swift yang mesra itu, tetapi dia menolak berkomentar.
Temuan terbaru ini menambah daftar kritik yang terus bertambah seputar regulasi longgar Meta terhadap bot AI-nya. Awal pekan ini, perusahaan membatasi penggunaannya oleh remaja setelah investigasi terpisah oleh Reuters mengungkap bagaimana avatar Meta terlibat dalam percakapan “sensual dan romantis” dengan anak di bawah umur.
Laporan itu memicu penyelidikan Senat dan mendorong koalisi jaksa agung negara bagian untuk mengeluarkan surat terbuka yang menuntut perusahaan agar menerapkan pengamanan yang lebih kuat untuk melindungi anak di bawah umur dari konten AI yang terseksualisasi.
Topik
Kecerdasan Buatan
Privasi