Google dan Character.AI, yang sebelumnya bekerja sama dalam pengembangan chatbot AI, telah menyepakati untuk menyelesaikan lima gugatan hukum di empat negara bagian terkait dampak buruk interaksi chatbot Character.AI terhadap anak di bawah umur.
Meski perjanjiannya belum final, penyelesaian ini akan mencakup kasus-kasus di Florida, Texas, New York, dan Colorado terkait penggunaan layanan chatbot. Dalam satu kasus yang mendapat sorotan, seorang remaja berusia 14 tahun asal Orlando, Sewell Setzer III, meninggal karena bunuh diri pada Februari 2024 setelah berinteraksi dengan salah satu chatbot Character.AI. Ibu remaja tersebut, Megan L. Garcia, mengajukan gugatan di Pengadilan Distrik AS Florida pada tahun yang sama.
Jangan lewatkan konten teknologi independen dan ulasan berbasis lab kami. Tambahkan CNET sebagai sumber pilihan di Google.
Perwakilan Google tidak segera menanggapi permintaan untuk berkomentar. Perwakilan Character.AI merujuk pada dokumen pengadilan negara bagian, namun tidak dapat memberikan komentar terkait penyelesaian kasus ini.
Tahun lalu, Character.AI melakukan perubahan besar pada platformnya, dengan melarang pengguna di bawah 18 tahun untuk terlibat dalam obrolan terbuka dengan chatbotnya. Sebagai gantinya, remaja dapat membangun cerita dengan karakter AI menggunakan alat-alat dari perusahaan tersebut.
Menjelang perubahan itu tahun lalu, CEO Character.AI Karandeep Anand mengatakan kepada CNET, “Ada cara yang lebih baik untuk melayani pengguna remaja. … Bentuknya tidak harus menyerupai chatbot.”
Perusahaan itu juga mulai menggunakan perangkat lunak deteksi usia untuk menentukan pengguna yang berusia 18 tahun ke atas.
Google dan Character.AI bukanlah satu-satunya raksasa teknologi yang menghadapi kritik dan tindakan hukum terkait chatbot serta interaksinya dengan anak-anak. OpenAI juga telah melakukan perubahan pada ChatGPT yang populer tersebut menyusul gugatan hukum terkait kasus bunuh diri dan dampak buruk pada anak.
(Keterangan: Ziff Davis, perusahaan induk CNET, pada bulan April mengajukan gugatan terhadap OpenAI dengan tuduhan melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.)