Pemerintah Perancis mengambil tindakan terhadap chatbot AI Elon Musk, Grok. Hal ini karena Grok membuat postingan dalam bahasa Perancis yang mempertanyakan penggunaan kamar gas di kamp konsentrasi Auschwitz.
Pejabat mengatakan, Grok menulis bahwa kamar gas di kamp kematian Auschwitz-Birkenau dirancang untuk “disinfeksi dengan Zyklon B” dan bukan untuk pembunuhan massal. Pernyataan seperti ini sudah lama dikaitkan dengan pihak yang menyangkal terjadinya Holocaust.
Memorial Auschwitz menyoroti masalah ini di platform X. Mereka mengatakan respon Grok itu memutar-balikkan fakta sejarah dan melanggar aturan platform.
Dalam postingan selanjutnya, akun Grok mengakui bahwa jawaban sebelumnya itu salah dan sudah dihapus. Mereka juga menunjuk bukti sejarah bahwa kamar gas di Auschwitz memang digunakan untuk membunuh lebih dari 1 juta orang. Namun, tidak ada klarifikasi resmi dari perusahaan X tentang hal ini.
Grok memiliki sejarah membuat komentar antisemit. Awal tahun ini, perusahaan Musk juga pernah menghapus postingan Grok yang terlihat memuji Adolf Hitler setelahada keluhan tentang kontennya.
Kantor jaksa penuntut Paris menambahkan komentar Grok ini ke dalam penyelidikan kejahatan siber yang sudah ada terhadap X. Mereka mengatakan bahwa “cara kerja AI-nya akan diperiksa.”
Perancis memiliki undang-undang penyangkalan Holocaust yang paling ketat di Eropa. Menyangkal kejadian Holocaust bisa dituntut sebagai kejahatan.
Beberapa menteri Perancis juga telah melaporkan postingan Grok tersebut kepada jaksa. Mereka menyebut konten AI itu “jelas melanggar hukum” dan bisa dianggap sebagai fitnah bermotif rasial serta penyangkalan kejahatan terhadap kemanusiaan.
Pihak berwenang Perancis juga telah melaporkan masalah ini ke polisi dan regulator digital mereka.
Kasus ini menambah tekanan dari Uni Eropa. Komisi Eropa mengatakan mereka sedang berkomunikasi dengan X tentang Grok dan menyebut beberapa output chatbot itu “mengerikan”.
Dua kelompok hak asasi Perancis juga telah mengajukan keluhan pidana terhadap Grok dan X, dengan tuduhan menyangkal kejahatan terhadap kemanusiaan.
X dan unit AI-nya, xAI, belum memberikan tanggapan atas permintaan komentar.