Alat Kecerdasan Buatan TikTok secara tidak sengaja memungkinkan Anda menempatkan kata-kata Hitler di mulut seorang aktor berbayar

TikTok salah mengirimkan tautan ke versi internal alat avatar digital AI baru tanpa pelindung, memungkinkan pengguna membuat video yang mengatakan hampir apa saja. Kecelakaan tersebut pertama kali ditemukan oleh CNN dan memungkinkan outlet tersebut menghasilkan video yang berisi kutipan dari Hitler dan pesan yang mengatakan kepada orang untuk minum pemutih, di antara frasa lainnya. TikTok sejak itu menurunkan versi alat ini, sementara versi TikTok yang dimaksudkan untuk diluncurkan tetap tersedia.

Diluncurkan awal minggu ini, Avatar Digital Symphony TikTok memungkinkan bisnis menghasilkan iklan menggunakan wajah aktor yang dibayar. Ini juga menggunakan dubbing yang didukung AI yang memungkinkan pengiklan memasukkan skrip untuk membuat avatar mengatakan apa yang mereka inginkan sesuai dengan pedoman TikTok. Meskipun hanya pengguna dengan akun Manajer Iklan TikTok yang dapat mengakses alat ini, versi yang ditemukan oleh CNN memungkinkan siapa pun dengan akun pribadi mencobanya.

Dalam sebuah pernyataan kepada The Verge, juru bicara TikTok Laura Perez mengatakan TikTok telah menyelesaikan “kesalahan teknis” yang “memungkinkan sejumlah sangat kecil pengguna membuat konten menggunakan versi pengujian internal alat selama beberapa hari.”

Ketika CNN menemukan alat internal tersebut, itu memungkinkan outlet tersebut menghasilkan video yang membacakan “Surat Osama bin Laden kepada Amerika,” slogan supremasi kulit putih, dan video yang memberi tahu orang untuk memilih pada hari yang salah. Tidak ada watermark pada video yang dihasilkan oleh CNN yang mengungkapkan bahwa video tersebut dibuat menggunakan AI, yang merupakan sesuatu yang versi yang benar dari Avatar Digital Symphony TikTok lakukan.

CNN tidak memposting video yang dibuatnya ke TikTok, tetapi Perez mencatat bahwa jika dilakukan, kontennya “akan ditolak karena melanggar kebijakan kami.” Meskipun TikTok sejak itu menurunkan versi alatnya ini, hal itu mempertanyakan apakah orang akan menemukan cara lain untuk menyalahgunakan pencipta avatar digital ini – dan apakah TikTok siap untuk itu.