Meta telah mengumumkan rencananya untuk menangani penggunaan karakter AI oleh remaja: Lebih banyak pembatas konten dan perluasan pengawasan orang tua.
Selain kontrol moderasi baru yang dirancang untuk mencerminkan rating film PG-13, yang diumumkan awal pekan ini, orang tua akan dapat mengakses ringkasan penggunaan chat remaja, membatasi anak mereka pada avatar AI tertentu, atau memblokir anak mereka untuk berinteraksi dengan teman pendamping AI sepenuhnya.
Perusahaan mencatat bahwa Akun Remaja tetap akan diizinkan untuk berinteraksi dengan asisten AI Meta jika mereka diblokir dari percakapan dengan avatar AI.
Mashable Light Speed
LIHAT JUGA:
Akun Remaja Instagram: Apakah ini hanya sekadar PR?
Pada bulan Agustus, Meta mengumumkan penguncian sementara pada avatar AI-nya setelah investigasi oleh Reuters menemukan bahwa chatbot perusahaan tersebut mampu melibatkan pengguna muda dalam percakapan “romantis atau sensual”, meniru selebriti dalam percakapan menggoda, dan menghasilkan gambar yang bernuansa seksual. Saat itu, juru bicara Meta Stephanie Otway mengatakan kepada TechCrunch bahwa produk-produk tersebut sedang dilatih untuk tidak terlibat dalam percakapan tentang bahaya diri, bunuh diri, gangguan makan, atau percakapan romantis yang berpotensi tidak pantas. Meta meresmikan pembatas tersebut sebulan kemudian, menarik garis antara mengizinkan suatu subjek untuk mendiskusikan topik—seperti pelecehan atau keintiman antar karakter fiksi—dengan kemampuan chatbot untuk “mendeskripsikan, memungkinkan, atau mendorongnya”.
OpenAI mengumumkan kontrol serupa untuk ChatGPT pada bulan yang sama, dengan batasan tambahan pada chat suara bot, memori chat, dan pembuatan gambar. Kedua pendekatan untuk pengawasan AI remaja ini mengharuskan pengguna muda untuk mendaftar akun yang diawasi dan orang tua untuk secara proaktif memantau penggunaan chat anak-anak mereka.
“Kami percaya AI dapat melengkapi metode pembelajaran tradisional dan eksplorasi dengan cara yang terasa mendukung, semua dengan pembatas yang sesuai usia yang tepat,” tulis perusahaan dalam postingan blog. “Kami menyadari orang tua sudah memiliki banyak hal yang harus diurusi ketika berhubungan dengan navigasi internet yang aman bersama remaja mereka, dan kami berkomitmen untuk menyediakan mereka dengan alat dan sumber daya yang membantu yang mempermudah bagi mereka, terutama ketika mereka mempertimbangkan teknologi baru seperti AI.”
Kontrol teman pendamping AI yang baru ini tidak akan tersedia untuk akun pengawas hingga awal tahun depan, dan akan diluncurkan secara eksklusif untuk akun Instagram di AS, Inggris, Kanada, dan Australia sebelum diperluas ke negara lain dan platform Meta.