Seorang direktur atletik sekolah menengah di Maryland dituduh menggunakan kecerdasan buatan untuk menyamar sebagai seorang kepala sekolah dalam rekaman audio yang berisi komentar rasial dan anti-Semit, kata pihak berwenang pada hari Kamis.
Pihak berwenang mengatakan kasus tersebut tampaknya menjadi salah satu yang pertama kali terjadi di negara ini dan menyerukan adanya undang-undang baru untuk melindungi terhadap teknologi tersebut. Para ahli juga memperingatkan bahwa kecerdasan buatan semakin menjadi kuat, sementara kemampuan untuk mendeteksinya mungkin tertinggal tanpa lebih banyak sumber daya.
Dazhon Darien memalsukan suara kepala sekolah Pikesville High School sebagai tanggapan atas percakapan yang mereka lakukan tentang kinerja kerja buruk Darien dan apakah kontraknya akan diperpanjang, kata polisi Baltimore County.
Kekhawatiran termasuk tuduhan bahwa Darien membayar teman sekamarnya $1.900 dengan dana sekolah dengan dalih palsu melatih tim sepak bola putri, kata polisi.
Darien memalsukan klip audio di mana terdengar seperti kepala sekolah frustrasi dengan siswa kulit hitam dan kemampuan mereka dalam mengambil ujian, tulis polisi dalam dokumen dakwaan. Mereka mengatakan rekaman tersebut juga diduga menangkap kepala sekolah mempermalukan individu Yahudi dan dua guru.
Klip audio tersebut dengan cepat menyebar di media sosial dan memiliki “dampak yang mendalam,” kata dokumen pengadilan, dengan kepala sekolah ditempatkan dalam cuti. Rekaman tersebut membuat kepala sekolah dan keluarganya berada dalam “risiko signifikan,” sementara petugas polisi memberikan keamanan di rumahnya, menurut pihak berwenang.
Rekaman tersebut juga memicu gelombang pesan penuh kebencian di media sosial dan banjir panggilan telepon ke sekolah, kata polisi. Aktivitas terganggu untuk sementara waktu, dan beberapa staf merasa tidak aman.
“Guru-guru telah menyatakan ketakutan bahwa perangkat perekam mungkin telah ditanam di berbagai tempat di sekolah,” kata dokumen dakwaan tersebut.
Darien, 31 tahun, dihadapkan pada tuduhan termasuk pencurian, mengganggu kegiatan sekolah, menguntit, dan membalas kepada saksi, menurut dokumen pengadilan.
Scott Shellenberger, jaksa negara Baltimore County, mengatakan kasus ini tampaknya menjadi salah satu yang pertama kali terjadi di seluruh negeri yang melibatkan kecerdasan buatan yang kantornya dapat temukan. Dia mengatakan Legislatif Maryland mungkin perlu memperbarui undang-undang negara untuk mengejar kemungkinan jahat dari teknologi baru tersebut.
Misalnya, tuduhan mengganggu kegiatan sekolah “hanya mengancam hukuman 6 bulan,” kata Shellenberger.
“Namun kita juga perlu melihat lebih luas bagaimana teknologi ini dapat digunakan dan disalahgunakan untuk melukai orang lain,” kata jaksa tersebut.
Detektif Baltimore County telah meminta ahli untuk menganalisis rekaman yang dibuat oleh Darien, menurut tuduhan terhadapnya.
Seorang profesor dari University of Colorado-Denver mengatakan kepada polisi bahwa rekaman tersebut “mengandung jejak konten yang dihasilkan AI dengan penyuntingan manusia setelahnya, yang menambahkan suara latar untuk realisme,” kata catatan pengadilan.
Opini kedua dari seorang profesor di University of California-Berkley mengatakan kepada polisi bahwa “beberapa rekaman disambungkan bersama,” menurut catatan tersebut.
Seorang detektif Baltimore County menemukan bahwa Darien telah menggunakan Model Bahasa Besar, seperti OpenAI dan Bingchat, yang dapat “mengatakan kepada pengguna langkah-langkah apa yang harus dilakukan untuk membuat media sintetis,” kata dokumen pengadilan.
Catatan pengadilan online untuk Darien menunjukkan bahwa dia membayar jaminan sebesar $5.000 pada hari Kamis. Catatan tersebut tidak mencantumkan pengacara yang mungkin dapat berbicara atas namanya.
Darien ditangkap pada Rabu malam sebelum dia naik pesawat di Bandara Internasional Baltimore/Washington Thurgood Marshall, kata Kepala Polisi Baltimore County Robert McCullough. Darien dihentikan karena cara dia telah membungkus senjatanya untuk penerbangan, yang membuat petugas mengetahui bahwa dia memiliki surat perintah penangkapan, menurut McCullough.
McCullough mengatakan pihak berwenang telah memasukkan surat perintah penangkapan untuk Darien ke dalam sistem pada Rabu malam dengan rencana untuk menjalankannya pada Kamis pagi. Kepala polisi tersebut mengatakan dia tidak tahu mengapa Darien sedang naik pesawat ke Houston dan tidak menyarankan bahwa dia mencoba melarikan diri.
Sistem sekolah Baltimore County merekomendasikan pemecatan Darien, kata superintenden Myriam Rogers pada hari Kamis.
Sementara itu, kecerdasan buatan semakin menjadi kuat dan namun “sangat mudah digunakan,” kata Siwei Lyu, direktur laboratorium forensik media di Universitas Buffalo.
“Anda pada dasarnya dapat mengunggah suara subjek apa pun ke platform ini,” kata Lyu kepada The Associated Press pada hari Kamis. “Dan kemudian Anda dapat memberikan teks dan Anda dapat mulai membuat suara orang tersebut.”
Rekaman seseorang berbicara selama satu atau dua menit dapat diambil dari media sosial dan digunakan untuk merekonstruksi suara seseorang, kata Lyu, mencatat bahwa itu tidak selalu sempurna.
Penelitian Lyu berfokus pada mengidentifikasi suara dan gambar yang dihasilkan oleh AI. Dia mengatakan model-model tersebut semakin kuat, sementara metode deteksi sedang mencoba mengejarnya.
“Ini agak seperti permainan kucing-kucingan berkelanjutan,” kata Lyu. “Tapi jika saya memproyeksikan kecepatan pengembangan berdasarkan situasi saat ini, deteksi akan tertinggal karena kita memiliki sumber daya yang lebih sedikit dan tidak mendapatkan perhatian sebanyak sisi generatif.”Langganan newsletter Eye on AI untuk tetap update tentang bagaimana AI membentuk masa depan bisnis. Daftar gratis.