Televisi, media sosial, junk food — orang tua sejak dulu selalu membatasi anak-anak mereka. Kini, tambahkan chatbot AI ke dalam daftar tersebut. Meta mengumumkan pada hari Jumat bahwa, mulai tahun 2026, orang tua akan dapat memblokir remaja untuk berinteraksi dengan chatbot AI di Instagram. Orang tua dapat memblokir semua akses atau memblokir akses ke karakter AI tertentu.
Meta, pemilik Instagram, Facebook, dan WhatsApp, menambahkan kontrol orang tua ini berbulan-bulan setelah sebuah laporan terbit pada Agustus yang menunjukkan pedoman AI perusahaan mengizinkan chatbot untuk “terlibat dalam percakapan romantis atau sensual dengan anak.” Laporan lain yang terbit awal bulan ini menyatakan bahwa 3 dari 5 anak berusia 13 hingga 15 tahun menemui konten tidak aman atau pesan yang tidak diinginkan di Instagram.
Jangan lewatkan konten teknologi impartial dan ulasan berbasis lab kami. Tambahkan CNET sebagai sumber pilihan di Google.
Perusahaan tersebut mengatakan dalam postingan blog hari Jumat bahwa kontrol chatbot AI yang baru ini sejalan dengan kekhawatiran orang tua tentang “dengan siapa (anak-anak) berinteraksi, jenis konten apa yang mereka lihat, dan apakah waktu mereka digunakan dengan baik.”
“Kami berharap pembaruan hari ini memberikan ketenangan pikiran bagi orang tua bahwa remaja mereka dapat memanfaatkan semua keuntungan yang ditawarkan AI, dengan pengawasan dan pagar pengaman yang tepat,” ujar kepala Instagram Adam Mosseri dan Kepala Petugas AI Alexandr Wang dalam postingan blog tersebut.
Bagaimana orang tua dapat mengontrol interaksi dengan chatbot AI
Meta
Remaja dapat berinteraksi dengan chatbot AI melalui bagian pesan langsung Instagram. Obrolan tersebut bisa dilakukan dengan AI seorang kreator, karakter AI kustom, atau AI penggunaan umum milik Meta.
Meta mengatakan kontrol baru ini memungkinkan orang tua untuk menonaktifkan akses obrolan satu lawan satu anak remaja mereka dengan karakter AI sepenuhnya atau memblokir karakter AI tertentu jika mereka tidak ingin mematikan akses ke karakter AI sama sekali.
Selain itu, orang tua dapat “mendapatkan wawasan tentang topik-topik yang dibicarakan remaja mereka dengan karakter AI.”
Perusahaan tidak menjelaskan secara rinci bagaimana cara orang tua dapat mengetahui topik AI apa yang sedang dibicarakan oleh anak-anak mereka.
Remaja tetap dapat menggunakan asisten AI reguler Meta “dengan perlindungan bawaan yang sesuai usia untuk membantu menjaga keamanan remaja.”
Pakar: Kontrol ini ‘tidak memadai’
James Steyer, pendiri dan CEO lembaga nirlaba advokasi dan riset digital Common Sense Media, menyebut kontrol chatbot AI baru Meta sebagai “konsesi reaktif” dan tidak memadai.
“Penolakan Meta untuk memperlakukan keselamatan anak-anak kita dengan urgensi yang semestinya sangat mengecewakan tapi sayangnya tidak mengejutkan,” kata Steyer kepada CNET. “Terlalu lama, perusahaan ini telah mengejar keterlibatan tanpa henti di atas keselamatan anak-anak kita, mengabaikan peringatan dari orang tua, pakar, dan bahkan karyawannya sendiri.”
Steyer mengatakan tidak ada seorang pun di bawah 18 tahun yang seharusnya menggunakan chatbot AI Meta “sampai kegagalan keamanan mendasar mereka diperbaiki.”
Perwakilan Meta menyatakan bahwa perusahaan terus meningkatkan keamanan.
“Kami telah mengumpulkan masukan tingkat tinggi dari para pakar yang telah membentuk pemikiran awal kami, dan kami akan terus bekerja sama dengan pakar dan orang tua untuk membantu memastikan pendekatan yang bijaksana dan sadar privasi,” ujar perwakilan tersebut kepada CNET.
Pagar pengaman lebih lanjut untuk chatbot AI
Meta juga menjelaskan perlindungan tambahan seputar chatbot AI dan remaja:
Karakter AI “dirancang untuk tidak terlibat dalam diskusi yang tidak sesuai usia mengenai hal-hal seperti melukai diri sendiri, bunuh diri, atau gangguan makan.”
Karakter AI hanya dapat berfokus pada “topik-topik yang sesuai usia seperti pendidikan, olahraga, dan hobi.”
Orang tua dapat melihat apakah remaja mereka sedang mengobrol dengan karakter AI.
Awal pekan ini, Instagram mengatakan mereka hanya akan mengizinkan remaja untuk melihat konten “serupa dengan yang mereka lihat di film rating PG-13,” di bawah pedoman barunya untuk Akun Remaja.