Platform chatbot populer Character.AI, tempat pengguna berinteraksi dengan berbagai persona, mengumumkan pada Rabu bahwa mereka tidak akan lagi memperbolehkan pemegang akun di bawah 18 tahun untuk melakukan percakapan terbuka dengan chatbot. Perusahaan juga akan mulai menerapkan teknik age assurance untuk memastikan anak di bawah umur tidak dapat membuka akun dewasa. Perubahan drastis ini terjadi hanya … Baca Selengkapnya
“AI itu mahal. Jujur saja,” kata Anand. Pertumbuhan vs. Keamanan Pada Oktober 2024, ibu seorang remaja yang meninggal akibat bunuh diri mengajukan gugatan kematian akibat kelalaian terhadap Character Technologies, pendirinya, Google, dan Alphabet. Dia menuduh perusahaan itu menargetkan anaknya dengan “pengalaman antropomorfik, hiperseksual, dan sangat realistis, sambil memprogram [chatbot] untuk menyamar sebagai orang sungguhan, psikoterapis … Baca Selengkapnya
/cdn.vox-cdn.com/uploads/chorus_asset/file/25362061/STK_414_AI_CHATBOT_R2_CVirginia_D.jpg "Karakter.AI dan Google diseret ke pengadilan setelah kematian remaja yang terobsesi dengan chatbot")
Sebuah gugatan telah diajukan terhadap Character.AI, pendirinya Noam Shazeer dan Daniel De Freitas, dan Google setelah kematian seorang remaja, yang menuduh pembunuhan salah, kelalaian, praktik perdagangan yang menipu, dan tanggung jawab produk. Diajukan oleh ibu remaja tersebut, Megan Garcia, yang mengklaim platform untuk chatbot AI khusus “berbahaya secara tidak wajar” dan kurang memiliki pagar pengaman … Baca Selengkapnya