Pemerintah Inggris akan mulai menegakkan hukum yang melarang pembuatan gambar dan video seksual tanpa persetujuan, menurut Menteri Teknologi Liz Kendall. Pengumuman ini muncul setelah regulator Inggris mengumumkan penyelidikan terhadap chatbot AI Grok dari xAI, yang dalam beberapa pekan terakhir digunakan untuk membuat citra seksualisasi anak-anak serta orang dewasa tanpa persetujuan mereka.
“Konten yang beredar di X itu keji. Ini bukan hanya penghinaan bagi masyarakat yang beradab, tapi juga ilegal,” ujar Menteri Teknologi Liz Kendall di Parlemen pada Senin.
Kendall mencatat bahwa xAI membatasi beberapa fitur deepfake pada Grok hanya untuk pelanggan berbayar, yang ia gambarkan sebagai penghinaan bagi korban dan cara untuk “memonetisasi penyalahgunaan.” Di bawah Undang-Undang Data Inggris yang disahkan tahun lalu, membuat atau meminta pembuatan gambar intim tanpa persetujuan seseorang adalah ilegal. Hukum itu akan mulai ditegakkan minggu ini.
Pengguna X mulai secara rutin melecehkan perempuan dan anak perempuan di aplikasi tersebut pada akhir Desember, mendorong Grok untuk mengubah foto menjadi citra yang diseksualisasi. Paling umum, Grok mengubah foto asli menjadi gambar bikini hasil AI, tetapi taktik lain melibatkan perintah untuk mengenakan pita saja, memosisikan tubuh secara seksual, atau menambahkan “lapisan donat,” sebuah metode untuk membuatnya terlihat seperti perempuan dan anak perempuan tersebut terkena cairan ejakulasi.
“Internet Watch Foundation melaporkan citra kriminal anak-anak hingga usia 11 tahun, termasuk anak perempuan yang diseksualisasi dan tanpa atasan. Ini adalah pelecehan seksual anak,” kata Kendall. “Kami telah melihat laporan foto perempuan dalam bikini, diikat dan dicekik dengan memar berlumuran darah, dan masih banyak lagi. Hidup bisa dan telah dihancurkan oleh konten ini, yang dirancang untuk melecehkan, menyiksa, dan melanggar martabat orang.”
Kendall menyebut gambar-gambar itu sebagai “senjata penyalahgunaan yang tidak proporsional diarahkan pada perempuan dan anak perempuan” dan menekankan bahwa bukan hanya pengguna individu yang harus bertanggung jawab, tetapi juga perusahaan yang membuat alat seperti Grok, termasuk xAI milik Elon Musk. Musk sebelumnya berusaha mengalihkan kesalahan kepada pengguna, meskipun sebagian besar perusahaan AI besar berusaha meminimalkan hal semacam ini dengan pagar pengaman dalam produk mereka sendiri.
Ofcom, regulator Inggris yang berwenang mengawasi platform media sosial, mengumumkan lebih awal pada Senin bahwa mereka telah membuka penyelidikan terhadap Grok. Negara lain juga merespons, dengan Malaysia dan Indonesia mengumumkan larangan total terhadap Grok terkait kontroversi ini. Komisi UE juga menyatakan sedang menyelidiki perilaku Grok dan orang-orang di balik chatbot AI tersebut.
“Saya merasa ngeri bahwa platform teknologi memungkinkan pengguna untuk membuka pakaian perempuan dan anak-anak secara digital di internet. Ini adalah perilaku yang tak terpikirkan. Dan bahaya yang ditimbulkan oleh deepfake ini sangat nyata,” kata Presiden Komisi UE Ursula von der Leyen.
“Kami tidak akan mengalihkan perlindungan anak dan persetujuan ke Silicon Valley. Jika mereka tidak bertindak, kami yang akan melakukannya,” lanjutnya.
Presiden Donald Trump dan pemerintahannya mengeluh bahwa Eropa terlalu restriktif dalam mengawasi ucapan di platform media sosial. Departemen Luar Negeri AS, yang dipimpin Menteri Luar Negeri Marc Rubio, memberlakukan sanksi bulan lalu pada karyawan organisasi Eropa yang memerangi disinformasi. Departemen Luar Negeri AS menyatakan mereka terlibat dalam “sensor.”
Ketika Elon Musk membeli Twitter (kini X) akhir tahun 2022, ia menyambut kembali ekstremis sayap kanan yang sebelumnya dilarang dalam upaya mengarahkan wacana daring dan membuktikan bahwa ia dapat mempertahankan platform media sosial meski terdapat ujaran kebencian. Dan kini tampaknya Musk mencoba melakukan hal yang sama dengan topik yang lebih kontroversial: materi pelecehan seksual anak yang dibuat dengan alat kecerdasan buatan.
Setelah seorang kreator sayap kanan membagikan cuplikan layar dari salah satu video pelecehan seksual anak paling terkenal dalam sejarah pada 2023, Musk mengembalikan akun kreator itu setelah larangan singkat. Ketika legislator Australia kemudian menanyakan insiden tersebut, termasuk intervensi pribadi Musk, seorang eksekutif Twitter menjawab bahwa mungkin kreator itu membagikan citra ilegal tersebut karena kemarahan atas pelecehan anak. Legislator Australia tidak menerima penjelasan itu, tetapi platform tersebut diizinkan terus beroperasi di negara itu.
Ashley St. Clair, penulis buku anak-anak konservatif yang merupakan ibu dari salah satu anak Musk, mengeluh di X bahwa fotonya diubah menjadi citra seksual, termasuk foto masa kecilnya. Itu menyebabkan akunnya dicabuti tanda centang verifikasi biru dan semua monetisasi di platform, menurut cuplikan layar yang ia unggah ke X. St. Clair juga mencabut keyakinan anti-transnya sebelumnya, yang mendorong Musk untuk mengetwit pada Senin bahwa ia akan mencari hak asuh penuh atas anak mereka. Musk memiliki setidaknya empat belas anak dari empat perempuan berbeda.
Pemerintah AS di bawah Trump kemungkinan tidak akan bertindak tegas terhadap pembuatan materi pelecehan seksual anak, meski Senator Ron Wyden, seorang Demokrat dari Oregon, mengatakan kepada Gizmodo pekan lalu bahwa AI tidak mendapat perlindungan di bawah Bagian 230. Wyden menyarankan negara bagian mulai menuntut pertanggungjawaban platform seperti X jika pemerintah federal tidak mau.
X, yang secara teknis dimiliki xAI, tidak menanggapi pertanyaan yang dikirim via email pada Senin. xAI membalas dengan “Legacy Media Lies,” sebuah penjawab otomatis untuk jurnalis yang telah disiapkan sejak beberapa waktu.