Dua remaja lelaki yang menggunakan kecerdasan buatan untuk membuat foto telanjang palsu dari teman-teman sekelasnya di sebuah sekolah swasta mahal di Pennsylvania mendapat masa percobaan pada hari Rabu. Ini setelah puluhan korban menggambarkan efek traumatis dari gambar-gambar tersebut kepada mereka.
Kedua lelaki itu berusia 14 tahun pada saat itu. Mereka mengaku bulan ini bahwa mereka membuat sekitar 350 gambar, yang menampilkan setidaknya 59 perempuan di bawah 18 tahun, serta korban lain yang hingga kini belum teridentifikasi.
Pihak berwajib menyatakan bahwa kedua lelaki itu mengambil foto-foto para perempuan dari foto sekolah, buku tahunan, Instagram, TikTok, dan obrolan FaceTime pada tahun 2023 dan 2024. Lalu, mereka menggabungkannya dengan gambar orang dewasa yang menampilkan ketelanjangan atau aktivitas seksual.
Lebih dari 100 siswa dan orang tua dari Lancaster Country Day School hadir di pengadilan. Mereka mendengar para korban menggambarkan keterkejutan mereka karena harus mengidentifikasi wajah mereka sendiri dalam foto porno kepada detektif. Proses peradilan anak di Pennsylvania biasanya tertutup, tetapi kali ini dibuka oleh hakim. Ini memberikan kesempatan tidak biasa bagi komunitas untuk dilihat dan didengar.
Mereka menggambarkan dampaknya — serangan kecemasan, hilangnya rasa percaya, masalah dalam berkonsentrasi pada pelajaran, dan ketakutan bahwa gambar-gambar itu mungkin suatu hari muncul dengan cara yang tak terduga.
“Aku tidak akan pernah mengerti kenapa mereka melakukan ini,” kata seorang korban kepada Hakim Leonard Brown, sambil berkata bahwa hal itu “menghancurkan kepolosanku.”
Seorang perempuan muda mengatakan kepada Brown “betapa menyiksanya untuk mengungkit perasaan ini berulang kali.” Yang lain menahan tangis saat mengecam salah satu terdakwa karena menunjukkan “empati palsu,” sementara para perempuan curhat kepadanya tentang penderitaan mereka, sebelum kemudian diketahui bahwa dia terlibat dalam membuat dan menyebarkan gambar-gambar itu. Korban lain lagi mengatakan semua temannya pindah sekolah, dan bahwa dia “perlu terapi trauma hanya untuk berjalan-jalan di sekitar lingkungan rumahku.”
Kedua pemuda itu berdiri dengan wajah datar sepanjang persidangan, diapit oleh pengacara dan orang tua mereka, sementara mereka disebut sebagai pedofil, “sakit dan jahat,” serta menyimpang.
Mereka menolak beberapa kesempatan untuk berkomentar kepada hakim, yang menyatakan bahwa dia belum mendengar salah satu dari mereka bertanggung jawab atau meminta maaf.
“Ini adalah proses yang disesalkan, panjang, dan menyiksa bagi semua yang terlibat,” kata Heidi Freese, pengacara pembela untuk salah satu terdakwa. “Ada masalah hukum mendasar yang sangat menarik seputar dakwaan dalam kasus ini dan itu akan diputuskan di hari lain dalam kasus yang berbeda.”
Brown memerintahkan masing-masing untuk melakukan 60 jam layanan masyarakat, tidak menghubungi para korban, dan membayar sejumlah ganti rugi yang belum ditentukan. Brown berkata, jika mereka tidak memiliki masalah hukum tambahan, kasus ini dapat dihapus setelah dua tahun.
Saat menjatuhkan hukuman, Brown mengatakan bahwa jika mereka dewasa, mereka mungkin akan menjalani hukuman di penjara negara bagian. Dia mengatakan mereka harus “mengambil kesempatan ini untuk benar-benar mawas diri.”
Penyelesaian kasus di Pennsylvania ini terjadi beberapa hari setelah tiga remaja di Tennessee menggugat xAI milik Elon Musk. Mereka mengklaim alat Grok perusahaan itu mengubah foto asli mereka menjadi gambar-gambar seksual eksplisit. Para siswa SMA itu mencari status gugatan class-action untuk mewakili apa yang disebutkan dalam gugatan sebagai ribuan orang yang menjadi korban serupa saat masih di bawah umur.
Skandal di Pennsylvania pada 2024 itu memicu protes siswa, keluarnya para pimpinan sekolah, dan dakwaan kriminal terhadap kedua remaja tersebut.
Nadeem Bezar, seorang pengacara Philadelphia yang mewakili setidaknya 10 korban, mengatakan Selasa bahwa dia berharap untuk mengajukan klaim “terhadap sekolah dan siapa pun yang kami anggap bersalah dalam pembuatan dan penyebaran deepfake ini.”
Dia mengatakan belum melihat foto-foto itu tetapi berharap proses hukum akan menentukan “dengan tepat kapan, di mana, dan bagaimana sekolah mengetahuinya, bagaimana para lelaki itu membuat gambar-gambar ini, platform apa yang mereka gunakan untuk membuat gambar-gambar ini, dan bagaimana gambar-gambar itu disebarkan.”
Seiring kecerdasan buatan menjadi mudah diakses dan kuat, pembuat undang-undang di seluruh negeri telah mengesahkan hukum yang bertujuan untuk melarang deepfake.
Presiden Donald Trump menandatangani Undang-Undang Take it Down tahun lalu. Undang-undang itu menjadikan publikasi gambar intim tanpa izin, termasuk deepfake, sebagai tindakan ilegal, dan mewajibkan situs web serta media sosial untuk menghapus materi tersebut dalam waktu 48 jam setelah diberitahu oleh korban.
Empat puluh enam negara bagian kini memiliki undang-undang yang mengatur deepfake, dengan undang-undang yang diajukan di empat negara bagian sisanya — Alaska, Missouri, New Mexico, dan Ohio — menurut kelompok advokasi konsumen Public Citizen.
____
Kontribusi dari penulis Associated Press Geoff Mulvihill di Haddonfield, New Jersey, dan Holly Ramer di Concord, New Hampshire.