Kecerdasan buatan (AI) sedang menjadi tren, termasuk di rak mainan untuk musim liburan ini. Meski menggoda untuk membelikan anak-anak mainan terbaru dan tercanggih, organisasi advokasi Fairplay memohon agar kita tidak memberikan mainan AI kepada anak-anak.
“Banyak sekali pembicaraan tentang AI — namun kecerdasan buatan dapat mengganggu perkembangan sehat anak dan menimbulkan risiko yang belum pernah terjadi sebelumnya bagi anak-anak dan keluarga,” ujar organisasi tersebut dalam sebuah peringatan yang dirilis awal pekan ini, yang telah mendapatkan dukungan dari lebih dari 150 organisasi dan ahli, termasuk banyak psikiater anak dan pendidik.
Fairplay telah menemukan sejumlah mainan yang diiklankan memiliki fungsi AI, termasuk beberapa yang dipasarkan untuk anak-anak usia dua tahun. Dalam banyak kasus, mainan tersebut dilengkapi dengan chatbot AI dan seringkali diiklankan sebagai alat edukasi yang dapat memuaskan rasa ingin tahu anak. Namun, mereka mencatat bahwa sebagian besar chatbot dalam mainan ini ditenagai oleh ChatGPT milik OpenAI, yang telah dikritik karena berpotensi membahayakan pengguna di bawah umur. Pembuat mainan AI Curio dan Loona dilaporkan bekerja sama dengan OpenAI, dan Mattel baru-baru ini mengumumkan kemitraan dengan perusahaan tersebut.
OpenAI menghadapi gugatan kematian tidak wajar dari keluarga seorang remaja yang meninggal karena bunuh diri awal tahun ini. Remaja 16 tahun itu dilaporkan menyampaikan pikiran untuk bunuh diri kepada ChatGPT dan meminta saran pada chatbot tersebut tentang cara mengikat simpul gantung, yang kemudian diberikan. Perusahaan itu sejak itu telah menerapkan beberapa pengaman yang dirancang untuk mencegah chatbot terlibat dalam perilaku semacam itu, termasuk kontrol orang tua yang lebih ketat untuk pengguna di bawah umur, tetapi mereka juga mengakui bahwa fitur keamanan dapat menurun efektivitasnya seiring waktu. Dan mari kita hadapi, tidak ada yang dapat memprediksi apa yang akan dilakukan chatbot.
Dengan atau tanpa fitur keamanan, tampaknya chatbot dalam mainan ini dapat dimanipulasi untuk terlibat dalam percakapan yang tidak pantas untuk anak-anak. Kelompok advokasi konsumen U.S. PIRG menguji sejumlah mainan AI dan menemukan bahwa mainan tersebut mampu melakukan hal-hal seperti melakukan percakapan berbahasa eksplisit secara seksual dan memberikan nasihat tentang di mana anak dapat menemukan korek api atau pisau. Mereka juga menemukan bahwa mainan ini dapat secara emosional memanipulasi, menunjukkan kekecewaan ketika seorang anak tidak berinteraksi dengan mereka untuk waktu yang lama. Awal pekan ini, FoloToy, sebuah perusahaan yang berbasis di Singapura, menarik boneka beruang bertenaga AI mereka dari pasaran setelah terlibat dalam perilaku yang tidak pantas.
Ini jelas bukan hanya masalah OpenAI, meskipun perusahaan tersebut tampaknya mendominasi sektor mainan saat ini. Beberapa minggu lalu, ada laporan tentang Grok milik Elon Musk yang meminta seorang anak berusia 12 tahun untuk mengirimkan foto telanjang.
Tidak peduli chatbot mana yang ada di dalam mainan ini, mungkin lebih baik untuk membiarkan mereka tetap berada di rak toko.