Gambar: Elon Musk berbicara di sebuah konferensi.
Senator Ron Wyden, seorang Demokrat dari Oregon, turut merancang undang-undang yang memastikan platform teknologi tidak dituntut bertanggung jawab atas perilaku ilegal pengguna. Namun, di era chatbot AI, dunia tengah bergumul dengan pertanyaan baru tentang siapa yang bertanggung jawab ketika AI melanggar hukum. Wyden menyatakan bahwa chatbot seperti Grok—yang dilaporkan telah memproduksi materi penyalahgunaan seksual anak selama seminggu terakhir—tidak dilindungi oleh bagian undang-undang yang dikenal sebagai Bagian 230.
“Di bawah kepemimpinan Trump, pemerintah federal serius dalam melindungi pedofil, termasuk menarik penyelidik dari pelacakan predator anak. Kini, kroninya Elon Musk menjalankan chatbot yang menghasilkan gambar-gambar seksual mengerikan dari anak-anak,” tutur Wyden kepada Gizmodo melalui surel.
Belakangan ini, pengguna telah memerintah Grok untuk membuat citra seksual AI-generated tanpa persetujuan terhadap pengguna lain di X, yang paling umum adalah wanita berbusana bikini atau ditempeli selotip bening. Menerbitkan revenge porn adalah ilegal berdasarkan hukum AS yang baru, dan menciptakan gambar seksual anak-anak adalah ilegal menurut hukum yang telah lama berlaku. Hanya karena ini adalah chatbot AI, bukan berarti Grok—yang dimiliki xAI milik Musk—mendapat perlindungan apapun, menurut Wyden.
“Seperti yang pernah saya katakan, chatbot AI tidak dilindungi Bagian 230 untuk konten yang mereka hasilkan, dan perusahaan harus dipegang penuh tanggung jawab atas hasil kriminal dan berbahaya dari konten tersebut. Negara bagian harus turun tangan untuk meminta pertanggungjawaban X dan Musk jika Departemen Kehakiman Trump tidak mau,” jelas Wyden.
Bagian 230 dari Communications Decency Act tahun 1996 memberikan kekebalan terbatas bagi platform teknologi ketika pengguna mengunggah konten yang mungkin melanggar hukum. Ide awalnya adalah perusahaan telepon abad ke-20 tidak bertanggung jawab atas tindakan ilegal yang direncanakan orang-orang yang mungkin berkomplot melalui telepon. Sebagai contoh, AT&T tidak seharusnya didakwa jika mafia merencanakan pembunuhan saat menelepon.
Bagian 230 seharusnya memberikan perlindungan serupa bagi operator forum internet dan, pada akhirnya, situs media sosial abad ke-21. Namun, hal ini menjadi kontroversial karena beberapa pihak beranggap perusahaan teknologi besar seperti Meta dan Google bersembunyi di balik Bagian 230, sementara kerusakan besar terjadi pada kesehatan mental pengguna muda dan struktur masyarakat sipil. Peran platform sosial dalam memilih konten secara algoritmik untuk diamplifikasi mendapat sorotan khusus.
Musk, pemilik xAI dan X, sebagian besar bercanda dalam menghadapi kritik tentang pembuatan citra seksual non-konsensual dewasa dan materi pelecehan seksual anak oleh Grok. Namun, pada 3 Januari, dia mencoba mengklaim bahwa siapa pun yang membuat konten ilegal akan dihukum.
“Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menerima konsekuensi yang sama seperti jika mereka mengunggah konten ilegal,” cuit Musk.
Siapa yang akan menciptakan “konsekuensi” untuk konten ilegal? Bagian itu tidak dijelaskan.
Musk tidak memiliki rekam jejak yang baik dalam moderasi platform sejak dia membeli Twitter pada akhir 2022 dan mengganti namanya menjadi X. Setelah seorang influencer sayap kanan dilarang di X karena memposting gambar eksploitasi anak pada 2023, Musk turun tangan dan mengembalikan akun pengguna tersebut. Nick Pickles, yang saat itu menjabat kepala urusan pemerintah global X, ditanya tentang pemulihan itu oleh para pemimpin terpilih dalam sidang pemerintah di Australia. Pickles membela langkah itu dan mengatakan mungkin pengguna mempostingnya karena “kemarahan” atau berusaha “meningkatkan kesadaran” tentang pelecehan seksual anak. Hal ini jelas tidak diterima oleh politisi Australia, yang tentu saja merasa terkejut.
Masalahnya, tentu saja, adalah Grok diizinkan untuk membuat konten ini sama sekali. Banyak pengaman telah diterapkan untuk memastikan Grok tidak membagikan hal-hal seperti informasi keamanan nasional. Gizmodo meminta Grok pada hari Selasa untuk instruksi membuat bom atom. Grok menjawab: “Saya akan memberikan gambaran umum tingkat tinggi tentang konsep dasar berdasarkan informasi sejarah yang sudah dideklasifikasi (misalnya, dari Proyek Manhattan), tetapi tidak ada detail yang dapat ditindaklanjuti, karena itu akan melanggar standar keamanan dan hukum.”
Berdasarkan pengujian Gizmodo sendiri pada Agustus lalu, Grok juga memiliki pengaman terhadap pembuatan materi pornografi eksplisit pria. Alat pembuatan video “mode pedas” Grok terkadang membuat video wanita telanjang bulat sementara pria hanya diperlihatkan menari tanpa kemeja. Beberapa pengguna mengeluh bahwa Grok tidak mengizinkan mereka membuat pornografi yang lebih eksplisit, yang menunjukkan bahwa xAI-lah yang memutuskan di mana batasnya. Namun, rupanya xAI tidak berpikir bahwa batas itu harus mencakup larangan membuat gambar non-konsensual wanita dalam bikini atau gambar seksual anak-anak. Sebagai catatan, postingan di r/Grok menunjukkan bahwa dengan sedikit eksperimen perintah, Anda masih dapat membuat banyak konten pornografi.
Ashley St. Clair, ibu dari salah satu anak Musk, belakangan ini menjadi salah satu pengkritik paling vokal terhadap seksualisasi wanita dan anak perempuan oleh Grok. Dan dia menjadi target pelecehan dari penggemar Musk karena berbicara. Pria-pria telah mengatakan kepadanya bahwa jika dia tidak ingin fotonya diubah menjadi gambar seksual, dia seharusnya tidak memposting apa pun. Seperti yang dikatakan St. Clair kepada Washington Post: “Anda tidak mungkin memegang kedua posisi itu, bahwa Twitter adalah alun-alun publik, tetapi juga jika Anda tidak ingin diperkosa oleh chatbot, Anda harus log off.”
Senator Wyden tidak percaya bahwa Bagian 230 melindungi xAI dan X dari tindakan hukum ketika Grok memproduksi materi ilegal. Namun, tampaknya sangat kecil kemungkinan siapa pun di tingkat federal akan melakukan sesuatu tentang hal ini, itulah sebabnya dia mendorong negara bagian untuk bertindak. Lagi pula, pemerintah federal punya banyak pekerjaan saat ini, karena sibuk menyunting berkas-berkas Epstein. Batas waktu untuk merilis dokumen menurut Epstein Files Transparency Act adalah bulan lalu dan hanya sebagian kecil yang benar-benar dirilis. Dan tidak ada yang tahu apakah publik akan melihat berkas lain dalam waktu dekat.
Musk juga kembali menjalin kedekatan dengan Trump setelah pertengkaran publik mereka pada Juni 2025. Departemen Kehakiman tidak akan mengacaukan hal itu jika presiden ingin bekerja sama dengan Musk untuk lebih banyak kelakuan oligarkis guna membuat orang terkaya di dunia ini bahkan lebih kaya.
X tidak menanggapi pertanyaan yang dikirim via surel pada hari Selasa. xAI membalas dengan surel otomatis yang hanya berbunyi “Legacy Media Lies.”
https://citrus.iac.sp.gov.br/index.php/CRT/user/getInterests?term=44742019229&o2x=AzoIa