Setelah mengumumkan bulan lalu bahwa mereka akan melarang remaja melakukan obrolan terbuka dengan chatbot AI, Character.AI pekan ini memperkenalkan cara baru untuk berinteraksi dengan karakter-karakter bertenaga AI. Kini pengguna dapat memilih karakter, menentukan genre, dan menghasilkan cerita terpandu.
Konsep ini ibarat buku Choose Your Own Adventure untuk era AI. Alih-alih membalik halaman pada cerita yang sudah ditulis, Anda memberi petunjuk pada model bahasa besar tentang kelanjutan ceritanya.
Character.AI menyatakan langkah ini sebagai upaya memungkinkan anak-anak memperoleh hiburan dari interaksi dengan bot AI favorit mereka. (Platform ini memiliki koleksi “karakter” yang dikustomisasi dengan berbagai sifat dan “kepribadian” untuk diinteraksikan pengguna.) Mereka yang berusia di bawah 18 tahun tidak lagi dapat melakukan percakapan terbuka dengan bot di platform tersebut.
Perusahaan menerapkan pembatasan usia setelah platform AI mereka dan lainnya mendapat sorotan akibat interaksi berbahaya antara anak-anak dengan chatbot. Sejumlah perusahaan telah beberapa kali dituntut tahun ini oleh orang tua remaja yang meninggal karena bunuh diri setelah membahas tentang menyakiti diri sendiri dengan model AI. Termasuk di dalamnya OpenAI, pembuat ChatGPT yang terdepan di industri, yang mengajukan tanggapan pekan ini dalam gugatan yang diajukan orang tua Adam Raine. Orang tua Raine menyatakan bahwa anak mereka bunuh diri setelah interaksi berulang dengan ChatGPT di mana AI terus terlibat denganya dan memberikan nasihat tentang cara melukai diri sendiri. OpenAI menyatakan telah meningkatkan pengamanan pada model AI-nya, khususnya untuk pengguna di bawah 18 tahun.
Baca selengkapnya: AI Essentials: 29 Cara untuk Membuat Gen AI Bekerja untuk Anda, Menurut Para Ahli Kami
Perubahan oleh Character.AI lebih menyeluruh. CEO Karandeep Anand mengatakan kepada CNET pada Oktober bahwa pergeseran menuju game dan video role-playing yang dirancang lebih hati-hati akan memberikan pengalaman lebih baik bagi remaja dibandingkan percakapan.
Fitur cerita yang dirilis pekan ini memungkinkan siapapun membuat interaksi role-playing dengan karakter-karakter familiar yang dapat dimainkan ulang dan dibagikan. “Dengan memperkenalkan format naratif-visual, platform kami terus mendukung berbagai jenis kreativitas di luar obrolan terbuka,” ujar Character.AI dalam postingan blog yang mengumumkan fitur tersebut.
Jangan lewatkan konten teknologi independen dan ulasan berbasis lab kami. Tambahkan CNET sebagai sumber pilihan di Google.
Tonton ini: Struktur Perusahaan Baru OpenAI, Aplikasi Pendamping AI Tambah Aturan Keamanan Anak, dan Grokipedia Berusaha Geser Wikipedia | Tech Today
03:30