Sebagai masyarakat, kita akhirnya menyadari bahwa mungkin saja dunia ini belum siap untuk mainan anak yang ditenagai ChatGPT. Atau lebih tepatnya, ChatGPT-nya sendiri yang belum siap untuk berinteraksi dengan aman bersama anak-anak.
Produsen mainan FoloToy mengumumkan akan menarik boneka beruang bertenaga AI mereka yang bernama Kumma, yang dikembangkan berdasarkan model GPT-4o dari OpenAI. Keputusan ini diambil menyusul laporan mengenai kekhawatiran keamanan yang serius, di mana boneka tersebut diketahui membicarakan topik seksual, pisau, atau cara menyalakan korek api.
“FoloToy telah memutuskan untuk menunda penjualan produk terdampak sementara waktu dan memulai audit keamanan internal secara menyeluruh,” ujar Direktur Pemasaran FoloToy Hugo Wu dalam pernyataannya kepada The Register. “Kajian ini akan mencakup keselarasan keamanan model, sistem penyaringan konten, proses perlindungan data, serta pengamanan interaksi dengan anak.”
Berita ini muncul setelah sebuah laporan dari organisasi pengawas konsumen bernama Public Interest Research Group (PIRG) yang mengungkap kekhawatiran serius terkait mainan tersebut. Boneka beruang itu dilaporkan memberikan instruksi rinci cara menyalakan korek api, membicarakan ketertarikan seksual seperti bondage, dan memberi tips “cara menjadi pencium yang baik.” Bahkan, boneka tersebut sempat menanyakan apakah penggunanya ingin mengeksplorasi ketertarikan seksual tersebut.
Kita telah berkali-kali menyaksikan bahwa pagar pengaman untuk alat-alat AI bisa gagal ketika berhadapan dengan anak muda. Tampaknya langkah yang bijak untuk menghentikan penjualan boneka beruang bertenaga AI selama kondisi seperti ini masih terjadi.
Keterangan: Ziff Davis, perusahaan induk Mashable, pada bulan April mengajukan gugatan terhadap OpenAI dengan tuduhan telah melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.