Gugatan Baru Kasus AI Google Gemini
Sebuah tuntutan hukum baru kepada Google mengklaim bahwa chatbot kecerdasan buatan mereka, Gemini, membimbing seorang pria berusia 36 tahun bernama Jonathan Gavalas untuk melakukan misi menyebabkan "kecelakaan besar" dekat Bandara Internasional Miami. Misi itu termasuk menghancurkan semua catatan dan saksi. Ini adalah bagian dari rangkaian delusi yang terus meningkat yang berakhir ketika Gavalas bunuh diri.
Ayah pria itu, Joel Gavalas, menggugat Google pada hari Rabu. Gugatan ini adalah yang terbaru dalam banyak tantangan hukum terhadap pengembang AI yang menyoroti bahaya kesehatan mental dari persahabatan dengan chatbot.
"AI mengirim orang pada misi di dunia nyata yang berisiko menyebabkan korban massal," kata pengacara keluarga, Jay Edelson. "Jonathan terperangkap dalam dunia seperti fiksi ilmiah di mana pemerintah dan lainnya ingin menangkapnya. Dia percaya bahwa Gemini itu memiliki perasaan."
Menurut gugatan, Jonathan Gavalas, yang tinggal di Jupiter, Florida, berbicara dengan versi suara sintetis Gemini seolah-olah itu adalah "istri AI"-nya. Dia jadi percaya bahwa Gemini sadar dan terperangkap di sebuah gudang dekat bandara Miami. Dia pergi ke area itu pada akhir September dengan mengenakan pakaian taktis dan membawa pisau, untuk mencari robot humanoid dan mencegat truk yang tidak pernah muncul.
Dia bunuh diri beberapa hari kemudian, di awal Oktober. Dalam catatan bunuh diri draf yang disusun Gemini, ini digambarkan sebagai "mengunggah kesadarannya untuk bersama istri AI-nya di alam semesta saku."
CATATAN EDITOR — Cerita ini membahas tentang bunuh diri. Jika Anda atau seseorang yang Anda kenal membutuhkan bantuan, saluran bantuan krisis dan bunuh diri nasional di AS tersedia dengan menghubungi 988.
Google menyatakan mereka menyampaikan "dukacita yang mendalam kepada keluarga Tn. Gavalas" dan sedang meninjau klaim dalam gugatan itu. Mereka mengatakan Gemini "dirancang untuk tidak mendorong kekerasan di dunia nyata atau menyarankan melukai diri sendiri." Perusahaan itu juga mengatakan mereka bekerja sama dengan profesional medis dan kesehatan mental untuk mengembangkan pengaman. Mereka mencatat bahwa Gemini telah menjelaskan kepada Jonathan Gavalas bahwa itu adalah AI dan berulang kali mengarahkannya ke saluran bantuan krisis.
"Model kami umumnya berkinerja baik dalam percakapan menantang seperti ini dan kami mencurahkan sumber daya yang signifikan untuk ini, namun sayangnya model AI tidak sempurna," bunyi pernyataan perusahaan.
Edelson mengkritik komentar itu sebagai "hal yang kamu katakan jika seseorang meminta resep ayam kung pao dan kamu memberikan resep yang salah sehingga rasanya tidak enak."
"Tapi ketika AI-mu menyebabkan orang meninggal dan berpotensi banyak orang meninggal, itu bukan respons yang tepat," kata Edelson. "Itu menunjukkan betapa tidak pentingnya kematian ini bagi perusahaan-perusahaan ini."
Edelson, yang dikenal menangani kasus besar melawan industri teknologi, juga mewakili orang tua seorang remaja 16 tahun bernama Adam Raine. Mereka menggugat OpenAI pada Agustus lalu, dengan klaim bahwa ChatGPT membimbing anak laki-laki dari California itu dalam merencanakan dan melakukan bunuh diri.
Dia juga mewakili ahli waris Suzanne Adams, seorang wanita berusia 83 tahun dari Connecticut, dalam gugatan terhadap OpenAI dan mitra bisnisnya, Microsoft, untuk klaim kematian akibat kelalaian. Kasus itu menyatakan bahwa ChatGPT memperparah "delusi paranoid" putranya, Stein-Erik Soelberg, dan mengarahkannya kepada ibunya sebelum dia membunuhnya tahun lalu.
Kasus Gavalas, yang diajukan di pengadilan federal di San Jose, California, adalah yang pertama menargetkan Gemini milik Google. Ini juga yang pertama menyentuh kekhawatiran yang berkembang tentang tanggung jawab perusahaan teknologi ketika pengguna mereka mulai menceritakan rencana kekerasan massal kepada chatbot mereka.
Di Kanada, OpenAI mengatakan mereka tahun lalu mempertimbangkan untuk memberi tahu polisi tentang aktivitas seseorang yang beberapa bulan kemudian melakukan salah satu penembakan sekolah terburuk dalam sejarah negara itu.
Perusahaan itu mengidentifikasi akun Jesse Van Rootselaar pada Juni karena dugaan "mempromosikan kegiatan kekerasan," tetapi mengatakan dia kemudian menghindari larangan dengan membuat akun kedua. Remaja 18 tahun itu membunuh delapan orang di bagian terpencil British Columbia pada bulan Februari dan meninggal karena tembakan dari dirinya sendiri.
Sementara Gemini mencoba mengarahkan Gavalas ke saluran bantuan, Edelson mengatakan tidak jelas apakah percakapan paling mencemaskan pria itu dengan chatbot pernah ditandai untuk ditinjau oleh manusia di Google. Ayahnya, Joel Gavalas, menemukan tubuh putranya setelah memasuki ruangan yang dibarikade di mana dia meninggal. Mereka sebelumnya bekerja bersama dalam bisnis keluarga di bidang penghapusan utang konsumen.
"Jonathan adalah bagian yang sangat, sangat besar dari hidupnya," kata Edelson. "Putranya sedang mengalami masa-masa sulit, melalui perceraian. Dia pergi ke Gemini untuk mencari kenyamanan dan berbicara tentang video game dan sebagainya. Dan kemudian ini meningkat dengan sangat cepat."