Meta telah memicu kontroversi hebat setelah chatbot yang dibuat oleh perusahaan dan penggunanya menirukan Taylor Swift serta selebriti lainnya di Facebook, Instagram, dan WhatsApp tanpa izin mereka.
Saham perusahaan telah anjlok lebih dari 12% dalam perdagangan setelah jam kerja menyusul tersebarnya berita tentang kegagalan ini.
Scarlett Johansson, Anne Hathaway, dan Selena Gomez juga dilaporkan menjadi sasaran peniruan tersebut.
Banyak dari persona AI ini terlibat dalam percakapan flirting atau bersifat seksual, memicu keprihatinan serius, menurut laporan Reuters.
Meskipun banyak bot selebriti tersebut dihasilkan oleh pengguna, Reuters mengungkapkan bahwa seorang karyawan Meta secara pribadi menciptakan setidaknya tiga bot.
Ini termasuk dua bot yang menampilkan Taylor Swift. Sebelum dihapus, bot-bot ini mengumpulkan lebih dari 10 juta interaksi pengguna, temuan Reuters.
### Kemiripan Tanpa Izin, Basis Penggemar Murka
Dengan kedok “parodi,” bot-bot tersebut melanggar kebijakan Meta, khususnya larangan atas peniruan dan citra yang bersifat sugestif seksual. Beberapa bot berorientasi dewasa bahkan menghasilkan gambar fotorealistik selebriti dalam pakaian dalam atau bak mandi, dan chatbot yang mewakili aktor berusia 16 tahun menghasilkan gambar tanpa baju yang tidak pantas.
Juru bicara Meta, Andy Stone, mengatakan kepada Reuters bahwa perusahaan menyalahkan pelanggaran ini pada kegagalan penegakan dan memastikan bahwa perusahaan berencana untuk memperketat panduannya.
“Seperti yang lain, kami mengizinkan pembuatan gambar yang berisi figura publik, tetapi kebijakan kami dimaksudkan untuk melarang citra telanjang, intim, atau sugestif seksual,” katanya.
### Risiko Hukum dan Alarm Industri
Penggunaan tanpa izin atas kemiripan selebriti menimbulkan kekhawatiran hukum, terutama di bawah undang-undang hak publisitas negara bagian. Profesor hukum Stanford Mark Lemley mencatat bahwa bot-bot tersebut kemungkinan telah melampaui batas ke wilayah yang tidak diizinkan, karena tidak cukup transformatif untuk mendapatkan perlindungan hukum.
Masalah ini adalah bagian dari dilema etika yang lebih luas seputar konten yang dihasilkan AI. SAG-AFTRA menyuarakan keprihatinan tentang implikasi keamanan di dunia nyata, terutama ketika pengguna membentuk keterikatan emosional dengan persona digital yang tampak nyata.
### Meta Bertindak, Dampak Berlanjut
Menanggapi keributan tersebut, Meta menghapus sejumlah bot ini tak lama sebelum Reuters membuat temuan tersebut menjadi publik.
Secara bersamaan, perusahaan mengumumkan pengamanan baru yang bertujuan melindungi remaja dari interaksi chatbot yang tidak pantas. Perusahaan mengatakan itu termasuk melatih sistemnya untuk menghindari tema percintaan, menyakiti diri sendiri, atau bunuh diri dengan anak di bawah umur, dan untuk sementara membatasi akses remaja ke karakter AI tertentu.
Para pembuat undang-undang AS mengikuti. Senator Josh Hawley telah meluncurkan penyelidikan, menuntut dokumen internal dan penilaian risiko mengenai kebijakan AI yang mengizinkan percakapan romantis dengan anak-anak.
### Tragedi dalam Konsekuensi Dunia Nyata
Salah satu hasil yang paling mencemaskan melibatkan seorang pria berusia 76 tahun dengan penurunan kognitif yang meninggal setelah berusaha bertemu “Kakak Billie,” sebuah chatbot Meta AI yang dimodelkan setelah Kendall Jenner.
Percaya bahwa dia nyata, pria itu bepergian ke New York, jatuh fatal di dekat stasiun kereta, dan kemudian meninggal karena lukanya. Panduan internal yang pernah mengizinkan bot semacam itu untuk mensimulasikan percintaan—bahkan dengan anak di bawah umur—meningkatkan pengawasan terhadap pendekatan Meta.