Remaja Florida ditangkap karena membuat gambar telanjang AI palsu dari teman sekelas.

Dua siswa sekolah menengah di Florida ditangkap pada bulan Desember dan dituduh melakukan pelanggaran kelas tiga karena diduga membuat foto telanjang deepfake dari teman sekelas mereka. Laporan dari Wired mengutip laporan polisi yang mengatakan dua anak laki-laki, berusia 13 dan 14 tahun, dituduh menggunakan aplikasi kecerdasan buatan yang tidak disebutkan namanya untuk menghasilkan gambar eksplisit dari siswa lain “dengan usia antara 12 dan 13 tahun.” Insiden ini mungkin merupakan kasus pertama di AS yang melibatkan tuduhan pidana terkait gambar telanjang yang dihasilkan oleh AI.

Mereka didakwa dengan pelanggaran kelas tiga berdasarkan undang-undang Florida tahun 2022 yang mempidanakan penyebaran gambar telanjang deepfake tanpa persetujuan korban. Baik penangkapan maupun dakwaan tersebut tampaknya merupakan yang pertama kali terjadi di negara ini terkait dengan berbagi gambar telanjang yang dihasilkan oleh AI.

Media lokal melaporkan insiden tersebut setelah para siswa di Pinecrest Cove Academy di Miami, Florida, ditangguhkan pada tanggal 6 Desember, dan kasus tersebut dilaporkan ke Departemen Polisi Miami-Dade. Menurut Wired, mereka ditangkap pada tanggal 22 Desember.

Pembuatan gambar telanjang dan gambar eksplisit AI dari anak-anak lain oleh anak di bawah umur telah menjadi masalah yang semakin umum di distrik sekolah di seluruh negara. Tetapi di luar insiden di Florida, tidak ada yang kami ketahui yang mengarah pada penangkapan. Saat ini tidak ada undang-undang federal yang mengatasi gambar telanjang deepfake tanpa persetujuan, yang telah membuat negara-negara mengatasi dampak AI generatif pada masalah materi pelecehan seksual anak, deepfake tanpa izin, atau balas dendam pornografi sendiri.

Musim gugur lalu, Presiden Joe Biden mengeluarkan perintah eksekutif tentang AI yang meminta lembaga untuk menyusun laporan tentang pelarangan penggunaan AI generatif untuk menghasilkan materi pelecehan seksual anak. Kongres belum mengesahkan undang-undang tentang pornografi deepfake, tetapi hal itu mungkin berubah segera. Baik Senat maupun Dewan mengajukan legislasi, yang dikenal sebagai DEFIANCE Act of 2024, pekan ini, dan upaya tersebut tampaknya mendapat dukungan lintas partai.

Meskipun hampir semua negara bagian kini memiliki undang-undang yang mengatasi balas dendam pornografi, hanya sedikit negara bagian yang telah mengesahkan undang-undang yang mengatasi gambar eksplisit secara AI sebagian. Korban di negara-negara bagian tanpa perlindungan hukum juga mengajukan tuntutan hukum. Misalnya, seorang remaja New Jersey sedang menyusul teman sekelasnya karena membagikan gambar telanjang AI palsu.

Los Angeles Times baru-baru ini melaporkan bahwa Departemen Polisi Beverly Hills saat ini sedang menyelidiki kasus di mana para siswa diduga membagikan gambar yang “menggunakan wajah nyata dari siswa di atas tubuh telanjang yang dihasilkan oleh AI.” Tetapi karena undang-undang negara bagian tersebut tentang “pemilikan yang melanggar hukum atas materi cabul yang menunjukkan orang di bawah usia 18 tahun terlibat dalam atau mensimulasikan perilaku seksual” tidak secara eksplisit menyebutkan gambar yang dihasilkan oleh AI, artikel tersebut mengatakan tidak jelas apakah suatu kejahatan telah terjadi.

Distrik sekolah setempat memutuskan pada hari Jumat untuk mengeluarkan lima siswa yang terlibat dalam skandal tersebut, seperti dilaporkan oleh LA Times.