Badan federal sedang berupaya melarang panggilan robocall yang dihasilkan oleh kecerdasan buatan (AI) setelah para penjahat mencoba mengganggu pemilihan primer Demokrat New Hampshire dengan panggilan telepon deepfake dari Presiden Biden. Panggilan telepon yang berasal dari Presiden kita saat ini memberitahu para pemilih untuk tinggal di rumah akhir pekan lalu dalam upaya “melawan hukum” untuk menekan partisipasi pemilih, menurut Jaksa Agung negara bagian tersebut.
“Kloning suara dan gambar yang dihasilkan oleh kecerdasan buatan telah menyebabkan kebingungan dengan memperdaya konsumen menjadi berpikir bahwa penipuan dan kecurangan adalah sah,” kata Ketua Komisi Komunikasi Federal, Jessica Rosenworcel dalam sebuah rilis pers. “Itulah mengapa FCC mengambil langkah-langkah untuk mengakui teknologi yang muncul ini sebagai ilegal berdasarkan hukum yang ada.”
Baru satu bulan memasuki tahun 2024, deepfake AI telah memecah-belah Amerika Serikat. Pertama, AI digunakan untuk menyamar sebagai Presiden Biden di New Hampshire. Kemudian, Taylor Swift dilaporkan marah setelah deepfake eksplisit secara seksual yang dihasilkan oleh AI viral di X. Sekarang, FCC mengambil langkah pertamanya dalam memerangi masalah ini. Dulu, robocall terdiri dari telemarketer anonim, tetapi sekarang AI memperdaya orang-orang dengan membuat mereka percaya bahwa teman, orang yang mereka cintai, dan pejabat pemerintah sedang menelepon mereka. Menurut Truecaller, warga Amerika menerima sekitar 2,1 miliar panggilan spam setiap bulan, dan persentase yang lebih tinggi dari panggilan tersebut kemungkinan akan menjadi deepfake di masa depan.
Para ahli audio melacak deepfake New Hampshire Biden kembali ke teknologi startup AI ElevenLabs, melaporkan Wired. Masih belum jelas siapa yang berada di balik tindakan ini, dan upaya tersebut tampaknya telah jauh dari efektif. Para pemilih Biden tetap datang dengan jumlah yang rekor meskipun upaya untuk menekan partisipasi pemilih ini dilakukan.
FCC mengatakan ingin menjadikan deepfake robocall ilegal berdasarkan hukum yang ada, yaitu Undang-Undang Perlindungan Konsumen Telepon tahun 1991. Undang-undang tersebut menyatakan bahwa panggilan suara buatan atau rekaman tidak boleh dilakukan ke saluran telepon rumah tinggal. Panggilan deepfake ini tampaknya sudah termasuk dalam kategori tersebut, tetapi FCC bertanggung jawab untuk menjalankan dan mengimplementasikan hukum ini.
FCC mengatakan akan memberikan alat baru kepada Jaksa Agung negara bagian di seluruh negara untuk menghadapi pelaku yang jahat di balik panggilan robocall yang jahat ini. Kantor FCC tidak menjelaskan alat apa yang akan digunakan untuk mengidentifikasi panggilan AI yang dihasilkan dan tidak segera menjawab pertanyaan Gizmodo tentang teknologi ini. Kamala Harris sebelumnya membahas upaya Gedung Putih dalam memerangi AI robocall pada bulan November.
Dengan pemilihan presiden yang akan datang, teknologi deepfake menjadi kekhawatiran yang signifikan dalam hal penekanan partisipasi pemilih. Panggilan robocall Biden adalah upaya pertama, terjadi dalam salah satu pemilihan primer presiden pertama dalam pemilihan 2024. Namun, ini tentu bukan panggilan robocall deepfake terakhir yang akan diterima oleh pemilih sebelum pemilihan November.