Pelajar SMP di Florida Ditangkap karena Diduga Membuat Deepfake Telanjang Teman Sekelasnya

Dua remaja laki-laki dari Miami, Florida, ditangkap pada bulan Desember karena diduga membuat dan membagikan gambar telanjang yang dihasilkan oleh AI dari teman sekelas laki-laki dan perempuan tanpa persetujuan, menurut laporan polisi yang diperoleh WIRED melalui permintaan catatan publik. Laporan penangkapan mengatakan bahwa kedua remaja tersebut, berusia 13 dan 14 tahun, membuat gambar dari para siswa yang “berusia antara 12 dan 13 tahun.” Kasus Florida ini tampaknya menjadi penangkapan pertama dan tuduhan pidana sebagai akibat dari dugaan pembagian gambar telanjang yang dihasilkan oleh AI yang terungkap. Anak-anak laki-laki tersebut dituduh dengan felonies tingkat ketiga—tingkat kejahatan yang sama dengan pencurian mobil besar atau penahanan palsu—berdasarkan undang-undang negara bagian yang disahkan pada tahun 2022 yang menjadikan sebagai tindak pidana untuk membagikan “setiap gambaran seksual yang diubah” dari seseorang tanpa persetujuan mereka. Orang tua salah satu anak laki-laki yang ditangkap tidak merespons permintaan komentar tepat waktu untuk publikasi. Orang tua anak laki-laki lainnya mengatakan bahwa dia “tidak memiliki komentar.” Detektif yang ditugaskan pada kasus ini, dan jaksa negara yang menangani kasus ini, tidak merespons komentar tepat waktu untuk publikasi. Seiring dengan semakin banyaknya alat pembuat gambar AI yang tersedia, terjadi beberapa insiden terkenal di mana anak di bawah umur diduga membuat gambar telanjang yang dihasilkan oleh AI dari teman sekelas dan membagikannya tanpa persetujuan. Tidak ada penangkapan yang diungkapkan dalam kasus-kasus yang dilaporkan secara publik—di Issaquah High School di Washington, Westfield High School di New Jersey, dan Beverly Vista Middle School di California—meskipun laporan polisi telah diajukan. Di Issaquah High School, polisi memilih untuk tidak menekan dakwaan. Laporan media pertama tentang kasus Florida muncul pada bulan Desember, mengatakan bahwa kedua anak laki-laki tersebut dihentikan dari Pinecrest Cove Academy di Miami selama 10 hari setelah administrator sekolah mengetahui dugaan bahwa mereka membuat dan membagikan gambar telanjang palsu tanpa persetujuan. Setelah orang tua korban mengetahui tentang kejadian tersebut, beberapa mulai mendesak sekolah untuk mengeluarkan kedua anak laki-laki tersebut. Nadia Khan-Roberts, ibu dari salah satu korban, mengatakan kepada NBC Miami pada bulan Desember bahwa bagi semua keluarga yang anaknya menjadi korban, kejadian itu traumatik. “Putri kami tidak merasa nyaman berjalan di lorong yang sama dengan anak laki-laki ini,” katanya. “Ini membuat saya merasa terganggu, saya merasa dimanfaatkan, dan saya merasa digunakan,” kata seorang korban yang meminta untuk tetap anonim, kepada stasiun TV tersebut. WIRED memperoleh catatan penangkapan minggu ini yang mengatakan bahwa kejadian tersebut dilaporkan kepada polisi pada 6 Desember 2023, dan kedua anak laki-laki tersebut ditangkap pada 22 Desember. Catatan-catatan tersebut menuduh pasangan tersebut menggunakan “aplikasi kecerdasan buatan” untuk membuat gambar eksplisit palsu. Nama aplikasi tersebut tidak ditentukan, dan laporan-laporan tersebut mengklaim bahwa anak-anak laki-laki tersebut membagikan gambar-gambar tersebut satu sama lain. “Kejadian tersebut dilaporkan kepada seorang administrator sekolah,” kata laporan-laporan tersebut, tanpa menentukan siapa yang melaporkannya atau bagaimana orang tersebut mengetahui tentang gambar-gambar tersebut. Setelah administrator sekolah “mendapatkan salinan gambar yang diubah”, administrator tersebut mewawancarai korban yang digambarkan dalam gambar tersebut, laporan-laporan tersebut mengatakan bahwa korban-korban tersebut mengatakan bahwa mereka tidak memberikan persetujuan untuk pembuatan gambar tersebut.

MEMBACA  Elon Musk akan melarang penggunaan perangkat Apple di perusahaannya karena kesepakatan dengan OpenAI