Presiden Donald Trump mengumumkan pekan ini bahwa ia bermaksud menadatangani perintah eksekutif yang dirancang untuk menghalangi negara bagian membuat undang-undang guna mengatur kecerdasan buatan.
Namun, sebuah pengumuman layanan masyarakat baru menantang posisi Trump dengan berusaha menggambarkan bagaimana anak-anak dan remaja telah dirugikan oleh chatbot AI, akibat tidak adanya regulasi yang kuat dari negara bagian maupun federal. Iklan layanan masyarakat tersebut ditugaskan oleh kelompok advokasi keselamatan anak Heat Initiative, ParentsTogether Action, dan Design It For Us, serta dinarasikan oleh aktris Juliette Lewis.
Manusia dengan penampilan menyeramkan diperankan sebagai suara dan wajah dari chatbot AI nyata yang diduga membagikan informasi berbahaya kepada pengguna muda, seperti cara melukai diri sendiri dan menyembunyikan gangguan makan dari orang tua. Tiga contoh merujuk insiden di mana ChatGPT diduga membimbing pengguna muda untuk mencoba bunuh diri. Para ahli baru-baru ini meninjau chatbot AI utama dan menyimpulkan bahwa chatbot tersebut tidak aman bagi remaja untuk diskusi mengenai kesehatan mental.
OpenAI, pembuat ChatGPT, sedang digugat oleh beberapa keluarga remaja yang meninggal karena bunuh diri setelah interaksi intens dengan chatbot tersebut. Perusahaan baru-baru ini menampik tanggung jawab atas kematian Adam Raine, seorang remaja 16 tahun yang berbicara dengan ChatGPT tentang perasaan bunuh dirinya dan akhirnya mengakhiri hidupnya awal tahun ini.
"Sebagai orang tua, kami melakukan segala daya untuk melindungi anak-anak dari bahaya, tetapi bagaimana kami melindungi mereka dari teknologi kuat yang dirancang untuk mengeksploitasi kerentanan mereka demi keuntungan?" kata Megan Garcia, yang putranya, Sewell Setzer III, meninggal karena bunuh diri setelah mengembangkan hubungan intens dengan chatbot di Character.AI. Perusahaan tersebut sejak itu telah menutup obrolan untuk remaja di platformnya.
"Jika regulasi AI diblokir dan perusahaan AI dibiarkan terus membangun produk yang tidak teruji dan berbahaya, saya khawatir lebih banyak keluarga lagi akan merasakan penderitaan kehilangan anak. Kita tidak bisa menerima kehilangan satu anak lagi akibat dampak buruk AI," ujar Garcia.
Jika Anda memiliki pikiran untuk bunuh diri atau mengalami krisis kesehatan mental, harap berbicara dengan seseorang. Anda dapat menghubungi 988 Suicide & Crisis Lifeline di 988 melalui telepon atau SMS, atau chatting di 988lifeline.org. Untuk dukungan spesifik, hubungi Trans Lifeline di 877-565-8860 atau Trevor Project di 866-488-7386. Kirim SMS "START" ke Crisis Text Line di 741-741. Hubungi NAMI HelpLine di 1-800-950-NAMI, Senin hingga Jumat pukul 10:00 pagi hingga 10:00 malam ET, atau email [email protected]. Jika tidak nyaman dengan telepon, pertimbangkan untuk menggunakan 988 Suicide and Crisis Lifeline Chat. Berikut adalah daftar sumber daya internasional.
Keterangan: Ziff Davis, perusahaan induk Mashable, pada bulan April mengajukan gugatan terhadap OpenAI, dengan tuduhan melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.