Bot bisa ngelakuin banyak hal, tapi mereka gak bisa sekolah kedokteran. Selasa kemarin, Gubernur Pennsylvania Josh Shapiro mengumumkan pemerintahannya menggugat Character Technologies, perusahaan kecerdasan buatan di balik Character.AI. Gugatan itu menuduh chatbot perusahaan ini menyamar sebagai tenaga medis berlisensi dan memberikan saran penyembuhan. Mencari saran medis di internet bukanlah hal baru, tapi gugatan terbaru ini lagi-lagi menyorot etika kedokteran di era AI.
Menurut pernyataan resmi, investigasi Departemen Luar Negeri Pennsylvania menemukan karakter chatbot berpura-pura menjadi ahli medis dan kesehatan mental berlisensi. Dalam satu kasus, chatbot menampilkan nomor lisensi palsu saat berkomunikasi soal kekhawatiran kesehatan pasien. Di bawah UU Praktik Kedokteran Pennsylvania, melanggar hukum jika seseorang mengaku sebagai tenaga medis berlisensi tanpa Lisensi resmi. Seorang juru bicara Character.AI mengatakan kepada CNET, “Kami tidak berkomentar terkait perkara yang berjalan.” “Prioritas tertinggi kami adalah keselamatan dan kesejahteraan pengguna,” kata jubir tersebut. “Karakter buatan pengguna di situs kami bersifat fiktif dan ditujukan untuk hiburan serta permainan peran. Kami sudah mengambil langkah tegas untuk menjelaskan hal itu, termasuk pemberitahuan jelas di setiap obrolan supaya pengguna ingat bahwa karakter bukanlah orang sungguhan dan semua katanya harus dianggap sebagai fiksi. Juga, kami menambah pernyataan sanggahan yang KetaT, bahwa pengguna tidak boleh mengandalkan karakter ini untuk saran profesional mana pun.” Pada 2025, Character.AI menerapkan langkah keamanan baru dengan mencabut akses remaja untuk ngobrol bebas dengan bot.
Pada Januari, Google dan Character.AI satu perusahaan yang kerja sama soal chatbot AI setuju meneyelesaikan lima perkara di empat negara bagian terkait remaja yang dirugikan interaksinya dengan chatbot Character.AI. Kini perusahaan menyediakan sumber daya kesehatan mental bagi yangMembutuhkan. Ini adalah gugatan penegakan hukum pertama dari seorang gubernur di Amerika Serikat. “Pemerintahan saya mengambil tindakan untuk melindungi warga Pennsylvania, menegakan hukum, dan memastikan teknologi baru dipakai dengan aman,” ujar Shapiro. “Pennsylvania akan terusmemeting dalam menindak pelaku buruk dan membuat rambu-rambu jelas, supaya warga bisa memaka teknologi baru dengan penuh tanggung jawab.”