Dengan munculnya alat kecerdasan buatan utama menjelang pemilihan presiden AS 2024, disinformasi yang dihasilkan oleh kecerdasan buatan bukan hanya sebuah ketakutan – itu sudah menjadi kenyataan. Pada tanggal 22 Januari, Departemen Kehakiman New Hampshire merilis pernyataan bahwa orang-orang menerima deepfake audio rekaman dari Joe Biden yang memberi tahu mereka untuk tidak memilih dalam pemilihan primer negara bagian tersebut. Panggilan tersebut mendorong para pemilih untuk “menyimpan” suara mereka, dengan secara keliru mencatat bahwa “suara Anda mempengaruhi pemilihan November, bukan hari Selasa ini.”
Beberapa hari kemudian, startup kecerdasan buatan ElevenLabs menangguhkan pembuat audio palsu Biden tersebut, seperti yang dilaporkan oleh Bloomberg.
ElevenLabs adalah generator suara kecerdasan buatan yang dijalankan oleh sebuah model yang, menurut situs webnya, dapat menambahkan intonasi mirip manusia ke suara berdasarkan konteks. Generator ini memiliki ribuan suara kecerdasan buatan yang sudah dibuat sebelumnya untuk dipilih, atau Anda dapat membuat yang khusus. Bloomberg melaporkan bahwa perusahaan deteksi penipuan suara, Pindrop Security Inc., menemukan bahwa panggilan suara Biden kecerdasan buatan itu dibuat menggunakan ElevenLabs.
“Kami berdedikasi untuk mencegah penyalahgunaan alat kecerdasan buatan suara dan kami sangat serius menangani setiap kejadian penyalahgunaan,” kata ElevenLabs kepada Bloomberg. Situs web ElevenLabs menyatakan bahwa deepfake politisi hanya dapat digunakan dalam beberapa kasus tertentu, termasuk karikatur, parodi, atau satire. Setelah perusahaan menyadari adanya deepfake Biden, mereka melakukan investigasi dan menangguhkan akun yang bertanggung jawab, kata seorang sumber kepada Bloomberg.
Dalam wawancara dengan The Hill, profesor ilmu komputer di Universitas Carnegie Mellon, Kathleen Carley, mengatakan bahwa panggilan suara Biden ini “hanya puncak gunung es” dalam upaya untuk menekan para pemilih. Carley menambahkan bahwa ini adalah pertanda dari apa yang mungkin akan datang.
Pengembang ChatGPT, OpenAI, sudah mencoba untuk meredam informasi yang keliru itu sendiri, dengan merilis rencana untuk melindungi integritas pemilihan. Tak lama setelah itu, perusahaan tersebut menangguhkan seorang pengembang yang membuat bot untuk kandidat demokrat yang memiliki peluang kecil.
Oleh karena itu, kita harus waspada terhadap apa yang kita lihat – dan dengar – dalam musim pemilihan ini. Seperti yang diingatkan oleh reporter teknologi Mashable, Cecily Mauran, “Konsep dari internet yang dikuasai oleh konten yang dihasilkan oleh kecerdasan buatan sudah terjadi dan itu tidak terlihat baik.”
Topik
Kecerdasan Buatan
Joe Biden