Pada Senin, Ibu Negara Melania Trump menyatakan dukungannya untuk Undang-Undang TAKE IT DOWN, yang menargetkan deepfakes.
Deepfakes adalah video dan gambar yang dihasilkan oleh AI. Banyak yang dibuat adalah gambar eksplisit tanpa persetujuan menggunakan wajah seseorang. Tahun lalu, misalnya, deepfakes eksplisit dari Taylor Swift menjadi viral di X, tetapi bukan hanya selebriti yang berisiko menjadi korban deepfakes. Orang biasa (biasanya perempuan) juga berisiko, dan menjadi korban deepfakes dapat merugikan kesehatan mental seseorang.
LIHAT JUGA:
Perubahan keselamatan anak Apple menempatkan lebih banyak tanggung jawab pada pengembang aplikasi
Apa itu Undang-Undang TAKE IT DOWN?
Sebagaimana yang ditulis oleh Meera Navlakha dari Mashable pada tahun 2024, beberapa negara bagian di AS sudah mengambil tindakan terhadap deepfakes, meskipun regulasinya bervariasi menurut lokasi. Bulan lalu, Senat menyetujui Undang-Undang TAKE IT DOWN, sebuah rancangan undang-undang yang akan membuatnya menjadi kejahatan federal untuk sengaja mempublikasikan atau mengancam untuk mempublikasikan gambar eksplisit tanpa izin seseorang, termasuk gambar yang dihasilkan oleh AI, seperti yang dilaporkan oleh Associated Press. TAKE IT DOWN didukung oleh anggota kedua partai, termasuk Senator Republik Ted Cruz dan Senator Demokrat Amy Klobuchar.
Platform media sosial juga akan diberi waktu 48 jam untuk menghapus konten tersebut dan mencegah duplikatnya diposting. Komisi Perdagangan Federal dapat menggugat platform yang tidak patuh, menurut Axios.
Dalam diskusi bulat di Capitol Hill pada hari Senin, Melania Trump mengatakan, “Setiap orang muda layak mendapatkan ruang online yang aman untuk mengekspresikan diri secara bebas, tanpa ancaman eksploitasi atau bahaya yang mengintai.”
Mashable Kecepatan Cahaya
Meskipun bahaya deepfakes, banyak organisasi kebebasan berbicara memiliki kekhawatiran tentang Undang-Undang TAKE IT DOWN.
Mengapa Undang-Undang TAKE IT DOWN kontroversial?
Organisasi seperti Electronic Frontier Foundation, SIECUS: Pendidikan Seks untuk Perubahan Sosial, dan Woodhull Freedom Foundation mengirim surat kepada Senat sebelum pemungutan suara untuk menyatakan kekhawatiran mereka tentang rancangan undang-undang tersebut.
Surat tersebut berpendapat bahwa tujuan TAKE IT DOWN patut diapresiasi, tetapi teks saat ini akan mengakibatkan penghapusan gambar eksplisit yang disetujui (alias pornografi) atau bahkan konten seperti jurnalisme atau pidato politik.
“Dalam bentuknya yang sekarang, rancangan undang-undang ini menciptakan mekanisme pemberitahuan dan penghapusan (NTD) yang akan mengakibatkan penghapusan tidak hanya gambar intim tanpa persetujuan [NDII] tetapi juga pidato yang tidak ilegal atau sebenarnya bukan NDII,” demikian bunyi surat tersebut. “Mekanisme ini kemungkinan tidak konstitusional dan pasti akan memiliki dampak sensoris pada ekspresi bebas pengguna.”
Kekhawatiran lain adalah bahwa Undang-Undang TAKE IT DOWN akan mendorong filter otomatis, yang dapat dengan tidak akurat menandai konten legal, dan dapat membahayakan enkripsi end-to-end (tidak ada yang bisa membaca pesan kecuali orang yang mengirim dan menerima). Platform mungkin tidak dapat mematuhi undang-undang jika mereka tidak bisa melihat pesan yang berpotensi melanggarnya, dan kekhawatirannya adalah bahwa platform akan meninggalkan enkripsi.
Organisasi-organisasi tersebut meminta agar undang-undang tersebut dimodifikasi untuk memperhitungkan masalah-masalah ini. Meskipun demikian, Dewan Perwakilan Rakyat diharapkan segera memberikan suara terhadap rancangan undang-undang tersebut.