Akses Grok telah ditangguhkan bagi pengguna di Indonesia dan Malaysia menyusul kekhawatiran bahwa pembatas keamanannya tidak efektif.
Kedua negara menerapkan penangguhan sementara yang dimaksudkan untuk berlaku hingga xAI menerapkan pembatas yang memenuhi tuntutan regulator.
“Pemerintah memandang praktik deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga di ruang digital,” tulis Menteri Komunikasi dan Informatika Meutya Hafid dalam pernyataan yang dirilis Sabtu. Indonesia memiliki undang-undang sensor internet yang luas yang mengatur konten yang dianggap “tidak senonoh”.
Malaysia baru-baru ini meluncurkan investigasi atas “penyalahgunaan alat kecerdasan buatan (AI) di platform X,” bagian dari gelombang tindakan intervensi oleh regulator. Investigasi ini menyusul pemberitahuan dari Kementerian Teknologi Informasi India yang mengarahkan X untuk mengambil tindakan segera terkait dugaan penyalahgunaan Grok. Pemberitahuan itu menyiratkan potensi pelanggaran terhadap Undang-Undang Teknologi Informasi negara tersebut.
Otoritas Prancis di kantor jaksa penuntut Paris dan pemerintah asing lainnya, termasuk Inggris dan sebuah penyelidikan UE, telah mengumumkan investigasi serupa terhadap teknologi xAI dan regulasinya di bawah undang-undang keselamatan daring yang relevan. Perdana Menteri Australia Anthony Albanese juga mengeluarkan pernyataan mengenai masalah deepfake Grok, mengulangi keputusan negara tersebut untuk melarang media sosial bagi pengguna di bawah usia 16 tahun. Selain itu, National Center on Sexual Exploitation (NCOSE) berbasis AS telah menyerukan kepada Departemen Kehakiman dan Komisi Perdagangan Federal untuk menyelidiki X di bawah undang-undang materi eksploitasi seksual anak (CSAM) yang ada dan Take It Down Act yang baru.
Menteri Teknologi Inggris Liz Kendall baru-baru ini mengatakan ia akan mendukung pemblokiran X secara langsung, jika Office of Communications (Ofcom) Inggris menyimpulkan platform tersebut melanggar Online Safety Act. Kendall mengatakan ia mengharapkan keputusan dibuat dalam beberapa hari mendatang.
Elon Musk, yang sebelumnya menyatakan pengguna harus menghadapi konsekuensi karena “mengunggah konten ilegal” di X, menanggapi ancaman larangan dengan menuduh pemerintah Inggris terlalu bersemangat untuk menyensor perusahaannya. Dalam sebuah postingan di X, Musk menulis: “Mereka hanya ingin menekan kebebasan berekspresi.” Musk juga membagikan beberapa postingan X yang mengklaim bahwa Grok menjadi sasaran pejabat pemerintah.
Sebuah investigasi Wired baru-baru ini menemukan bahwa versi desktop dan aplikasi Grok Imagine mampu menghasilkan materi kekerasan seksual dan grafis, penggambaran selebritas dalam skenario seksual, dan potensi CSAM yang dihasilkan AI, meskipun memiliki pembatas bawaan. Chatbot ini kini memiliki rekam jejak yang terdokumentasi dengan baik dalam memproduksi deepfake yang diseksualisasi, termasuk atas permintaan pengguna yang meminta Grok untuk “membuka pakaian” individu dalam foto yang diunggah publik tanpa persetujuan.
LIHAT JUGA:
Character.AI menyelesaikan gugatan terkait kematian remaja
Mashable Light Speed
Topik: