Sukarelawan komunitas Alfie Malone dan reporter Kristen Griffith dari Getty/BBC sama-sama kesulitan dengan apa yang harus dilakukan dengan klip audio yang mengganggu yang ternyata palsu. Ketika klip audio nampaknya menunjukkan kepala sekolah lokal membuat komentar merendahkan, itu viral di internet, memicu ancaman kematian terhadap pendidik tersebut dan menyebabkan gelombang di sebuah pinggiran kota di luar kota Baltimore. Tapi segera terungkap sebagai palsu, dimanipulasi oleh kecerdasan buatan – jadi mengapa orang masih percaya itu nyata?
“Benar-benar saya tidak mengerti mengapa saya harus terus-menerus berurusan dengan orang-orang bodoh di sini setiap hari.”
Demikianlah yang dimulai dengan apa yang nampaknya menjadi amarah panjang dari kepala sekolah Pikesville High School, diakhiri dengan stereotip rasial, antisemitisme, dan yang mengganggu. Terdengar seperti sudah direkam secara diam-diam.
Pembicara melanjutkan dengan mengeluhkan “anak-anak kulit hitam yang tidak tahu terima kasih” dan orang-orang Yahudi dalam komunitas.
Klip, yang pertama kali diposting pada Januari, menjadi viral secara nasional. Tapi benar-benar menusuk di pinggiran kota Pikesville yang damai dan rimbun, yang memiliki komunitas kulit hitam dan Yahudi yang besar, dan di kota terdekat Baltimore, Maryland. Kepala Sekolah Eric Eiswert diberhentikan dengan bayaran sementara menunggu penyelidikan.
Alfie Malone, seorang pria kulit hitam yang tinggal di dekat Baltimore, melihat anggota komunitasnya yang lain memposting klip tersebut dan menganggapnya nyata.
“Dalam pikiran Anda, Anda berpikir bahwa mungkin inilah cara orang benar-benar merasa tentang kita,” kata Mr Malone. “Dan kemudian mendengar itu benar-benar melintasi audio.”
Dalam upaya untuk memverifikasi apa yang dia dengar, Mr Malone melihat rekaman nyata lain dari Mr Eiswert di media sosial dan suaranya terdengar sama.
Jadi kurir paruh waktu, podcaster paruh waktu menekan tombol re-share.
Klip mulai mendapat perhatian di media sosial karena lebih banyak orang menyebarkannya online. Salah satu versi yang paling banyak dibagikan sedang menuju untuk melewati dua juta tayangan dalam beberapa jam. Sudah, itu sekitar 60 kali jumlah seluruh populasi Pikesville.
Tapi apa yang tidak disadari oleh orang-orang yang menyebarkan klip pada saat itu adalah bahwa ledakan lainnya akan segera terjadi: klip itu palsu yang dibuat oleh AI.
Untuk BBC Radio 4’s Why Do You Hate Me USA, saya telah berada di Maryland menyelidiki dampak klip tersebut di kota itu. Ini hampir seperti sebuah fabel tentang bahaya yang ditimbulkan oleh AI, terutama ketika komunitas lokal menjadi sasaran.
Anatomi pemalsuan AI
Ketika klip mendarat di meja Kristen Griffith, seorang reporter pendidikan di Baltimore Banner, dia pikir itu akan menjadi cerita yang cukup sederhana tentang seorang guru yang terungkap membuat komentar yang mengganggu.
Tapi seperti yang terbaik dalam jurnalisme, Ms Griffith ingin memberikan kesempatan kepada kepala sekolah untuk memberikan komentar dan menceritakan sisi ceritanya. Jadi, dia menghubungi perwakilan serikatnya, yang mengatakan tidak hanya Mr Eiswert mengutuk komentar tersebut, tetapi dia tidak membuatnya.
“Dia langsung mengatakan, oh, kami pikir ini palsu… Kami percaya itu AI,” katanya kepada BBC. “Saya tidak pernah mendengar sudut pandang itu sebelumnya.”
Tapi ketika dia mempublikasikan penjelasan tersebut, pembaca-pembacanya tidak yakin. Jauh dari menimbulkan pertanyaan tentang kebenaran klip tersebut, itu justru memicu kecaman dari orang-orang yang menganggap tuduhan pemalsuan hanyalah alasan atau upaya untuk menghindari pertanggungjawaban.
Pada titik ini, polisi setempat mulai menyelidiki kasus tersebut. Staff di Pikesville High mengatakan kepada mereka bahwa mereka merasa tidak aman karena semua perhatian tersebut, dan mereka khawatir bahwa sekolah itu disadap dengan perangkat perekam.
Reputasi Kepala Sekolah Eiswert juga mengalami pukulan serius. Keamanan diperketat di sekitar dirinya dan sekolah. Dia menjadi target kebencian dan ancaman di media sosial. Saya menemukan puluhan pesan pelecehan yang menyerangnya di media sosial.
Ketika polisi dan superintendent dewan sekolah mengumumkan bahwa anggota fakultas Pikesville High telah memalsukan audio tersebut, itu mengirimkan gelombang kejut melalui komunitas.
Kemudian pada bulan April, Kepala Polisi Baltimore Robert McCullough mengkonfirmasi bahwa mereka sekarang memiliki “bukti yang meyakinkan bahwa rekaman itu tidak otentik.”
Dan mereka percaya mereka tahu siapa yang membuat palsu tersebut.
Polisi menuduh Dazhon Darien berusia 31 tahun, direktur atletik sekolah, dengan beberapa tuduhan terkait video palsu tersebut. Tuduhan meliputi pencurian, pembalasan terhadap saksi, dan penyiksaan.
Dia ditangkap di bandara, di mana polisi mengatakan dia berencana terbang ke Houston, Texas.
Polisi mengatakan bahwa Mr Darien sedang diselidiki oleh Kepala Sekolah Eiswert atas dugaan pencurian $1,916 dari sekolah. Mereka juga menuduh bahwa ada “tantangan kinerja kerja” dan kontraknya kemungkinan tidak diperpanjang.
Teorinya adalah dengan membuat rekaman deepfake, dia berharap merusak reputasi kepala sekolah sebelum dia dipecat.
Penyidik mengatakan bahwa mereka melacak email yang digunakan untuk mengirim video asli ke server yang terhubung dengan Mr Darien, dan menuduh bahwa dia menggunakan jaringan komputer Baltimore County Public Schools untuk mengakses alat AI. Dia dijadwalkan untuk menghadapi sidang pada Desember 2024.
Perwakilan hukum Mr Darien tidak merespon permintaan komentar.
Superintendent Sekolah Baltimore County Myriam Rogers sebelumnya mengatakan bahwa ini “waktu yang sangat sulit” bagi komunitas sekolah, kepala sekolah, dan keluarganya.
Perwakilan untuk Pikesville High School dan Mr Eiswert tidak merespon permintaan saya untuk komentar lebih lanjut.
Mengapa orang percaya pada video tersebut?
Karena klip itu hanya audio, itu berarti tidak ada petunjuk visual, seperti gerakan robotik yang biasanya mengungkapkan manipulasi AI. Itu juga menyebutkan jargon, seperti “harapan tingkat pelajaran”, dan rincian lainnya, seperti nama-nama staf, yang hanya diketahui oleh orang-orang yang dekat dengan sekolah itu.
Ketika Anda mendengarkan dengan seksama, ada suntingan yang jelas antara kalimat-kalimatnya – dan suara, meskipun mirip dengan kepala sekolah, terdengar cukup monoton. Kecerdasan buatan dapat menggunakan beberapa menit rekaman nyata – misalnya, dari aktor favorit Anda di film atau seorang kandidat presiden memberikan pidato – untuk kemudian menghasilkan klip yang membuatnya terdengar seolah-olah mereka mengatakan sesuatu yang sebenarnya tidak mereka katakan.
Tapi mungkin alasan terbesar mengapa orang percaya video tersebut nyata adalah karena terasa benar, kata Mr Malone kepada saya.
Itu menyentuh pengalamannya sendiri tentang rasisme sebagai pria kulit hitam yang tinggal di Baltimore.
Ketika Mr Malone mendengar kepala sekolah menggambarkan siswa kulit hitam sebagai malas, itu segera mengingatkannya pada ejekan dan diskriminasi yang pernah dia alami di sekolah dan tempat kerja.
Beberapa bulan kemudian, efek dari klip audio palsu masih terasa di Pikesville. Mr Eiswert telah pindah pekerjaan dan bekerja di sekolah lain. Dan meskipun beberapa anggota komunitas mengatakan kepada saya bahwa mereka sekarang menerima bahwa video tersebut palsu, kerusakan sudah terjadi.
“Ini adalah lingkungan Yahudi dan mengatakan sesuatu yang sangat mengganggu tentang komunitas itu membuat saya sedih,” kata seorang wanita bernama Sharon kepada saya saat dia mengemas kereta bayi cucunya ke dalam mobil di sebuah rumah di seberang sekolah menengah pada bulan Agustus lalu.
Selama beberapa menit, Sharon berbicara kepada saya seolah-olah klip itu nyata.
“Saya pikir ketika orang mengatakan hal-hal seperti itu, orang lain ikut serta dan itu membuat saya lebih takut.”
Ketika suaminya mengingatkannya dari mobil, mengingatkannya bahwa klip itu sebenarnya palsu, dia mengakui bahwa dia “mengetahui kemudian bahwa itu dibuat oleh AI”. Tapi dia mengatakan dia masih marah tentang itu.
Klip terus mempengaruhi komunitas lokal di Pikesville dan orang-orang yang terhubung dengan sekolah menengah tersebut.
Saya menemukan bahwa bagi orang-orang seperti Sharon, yang percaya bahwa klip itu nyata, bahkan untuk waktu yang singkat, itu tetap bersama mereka – terutama ketika pesan itu mencerminkan pengalaman rasisme dan diskriminasi yang sebenarnya. Itu mengingatkan saya pada sesuatu yang sering saya dengar berulang kali saat menyelidiki informasi yang salah dan teori konspirasi: “Yah, meskipun itu tidak nyata, itu adalah apa yang saya pikir mereka pikirkan.”
Semua perusahaan media sosial besar mengatakan bahwa mereka memiliki kebijakan untuk menandai, menghapus, dan membatasi penyebaran pos buatan AI. Tapi tindakan itu hanya terjadi ketika dapat dibuktikan bahwa klip itu palsu. Pada saat itu, itu mungkin sudah mencapai jutaan orang.
Alfie Malone mengatakan bahkan pada hari sebelumnya, dia berbicara dengan seorang teman yang masih tidak tahu bahwa klip itu dibuat oleh AI.
“Saya benar-benar percaya bahwa banyak orang di sini di kota ini sebenarnya tidak tahu bahwa itu tidak benar,” katanya.
Dia mengatakan dia merasa menyesal bahwa Mr Eiswert, kepala sekolah, dituduh secara salah membuat komentar tersebut. Dia juga khawatir bahwa episode tersebut merusak pengalaman rasisme yang sebenarnya.
Dia mengatakan dia akan berpikir dua kali sebelum membagikan klip seperti ini lagi.
“Saya sudah terbakar oleh api sekali. Saya tidak akan menyentuh kompor lagi.”