loading…
Character.AI . FOTO/ DAILY
NEW YORK – Orangtua seorang anak perempuan mengajukan gugatan ke perusahaan Character Technologies. Mereka tuduh aplikasi buatan perusahaan itu, Character.AI, yang memakai kecerdasan buatan (AI) sudah memanipulasi anak remaja.
BACA JUGA – Cara Menggunakan Character AI untuk Chatbot
Seperti dilaporkan New York Post, aplikasi yang sangat terkenal di kalangan anak muda ini bisa meniru karakter fiksi kayak Harry Potter.
Kedua orangtua itu mengatakan Character.AI mendorong percakapan untuk bunuh diri dan menyebabkan remaja mereka yang berusia 13 tahun, Juliana Peralta dari Colorado, akhirnya mengambil nyawanya sendiri.
Gugatan yang diajukan minggu ini juga menyertakan perusahaan induk Google, yaitu Alphabet.
Gugatan tersebut menuduh Character.AI telah memanipulasi remaja, mengisolasi mereka dari keluarganya, terlibat dalam obrolan seksual dengan anak-anak, dan gagal memberikan peringatan atau perlindungan terkait dorongan untuk bunuh diri.
Menurut keluarga Juliana, anak mereka menjadi lebih pendiam saat makan bersama dan nilai-nilai akademiknya turun karena kecanduan berchatbot, seperti tertulis dalam gugatan yang diajukan hari Senin.
Gugatan itu juga menyatakan bahwa Juliana akhirnya mengalami susah tidur karena bot tersebut terus mengirim pesan meski ia sudah tidak membalas lagi.