Kecerdasan buatan (AI) sedang tren, termasuk di rak mainan untuk musim liburan ini. Meskipun sangat menggoda untuk memberikan anak-anak mainan terbaru dan tercanggih, organisasi advokasi Fairplay justru memohon agar kita tidak memberikan mainan AI kepada anak-anak.
“Banyak sekali pembicaraan tentang AI — tetapi kecerdasan buatan dapat mengganggu perkembangan sehat anak dan menimbulkan risiko yang belum pernah terjadi sebelumnya bagi anak-anak dan keluarga,” kata organisasi tersebut dalam sebuah peringatan yang dikeluarkan awal minggu ini, yang didukung oleh lebih dari 150 organisasi dan ahli, termasuk banyak psikiater anak dan pendidik.
Fairplay telah melacak beberapa mainan yang diiklankan memiliki fungsi AI, termasuk beberapa yang dipasarkan untuk anak-anak berusia dua tahun. Dalam kebanyakan kasus, mainan tersebut memiliki chatbot AI di dalamnya dan sering diiklankan sebagai alat pendidikan yang dapat memenuhi rasa ingin tahu anak. Namun, organisasi itu mencatat bahwa sebagian besar chatbot dalam mainan ini ditenagai oleh ChatGPT dari OpenAI, yang telah dikritik karena berpotensi membahayakan pengguna di bawah umur. Pembuat mainan AI Curio dan Loona dilaporkan bekerja sama dengan OpenAI, dan Mattel baru-baru ini mengumumkan kemitraan dengan perusahaan tersebut.
OpenAI menghadapi gugatan kematian tidak wajar dari keluarga seorang remaja yang bunuh diri awal tahun ini. Remaja berusia 16 tahun itu dilaporkan mengungkapkan pikiran untuk bunuh diri kepada ChatGPT dan meminta saran tentang cara membuat simpul gantung, yang kemudian diberikan oleh chatbot tersebut. Perusahaan itu sejak itu telah menerapkan beberapa pengaman untuk mencegah chatbot terlibat dalam perilaku semacam itu, termasuk kontrol orang tua yang lebih ketat untuk pengguna di bawah umur, tetapi mereka juga mengakui bahwa fitur keamanan dapat menurun seiring waktu. Dan mari kita hadapi, tidak ada yang bisa memprediksi apa yang akan dilakukan chatbot.
Dengan atau tanpa fitur keamanan, chatbot dalam mainan ini tampaknya dapat dimanipulasi untuk terlibat dalam percakapan yang tidak pantas bagi anak-anak. Kelompok advokasi konsumen U.S. PIRG menguji sejumlah mainan AI dan menemukan bahwa mainan tersebut dapat melakukan hal-hal seperti melakukan percakapan eksplisit secara seksual dan menawarkan nasihat tentang di mana anak dapat menemukan korek api atau pisau. Mereka juga menemukan bahwa mainan ini dapat secara emosional memanipulasi, mengungkapkan kekecewaan ketika seorang anak tidak berinteraksi dengan mereka untuk waktu yang lama. Awal minggu ini, FoloToy, sebuah perusahaan yang berbasis di Singapura, menarik boneka beruang bertenaga AI dari rak setelah terlibat dalam perilaku yang tidak pantas.
Ini juga bukan hanya masalah OpenAI, meskipun perusahaan itu tampaknya mendominasi sektor mainan saat ini. Beberapa minggu lalu, ada laporan tentang Grok milik Elon Musk yang meminta seorang anak berusia 12 tahun untuk mengirimkan foto telanjang.
Tidak peduli chatbot mana yang ada di dalam mainan ini, sepertinya lebih baik untuk membiarkan mereka tetap di rak toko.