Di saluran YouTube yang kurang dikenal, seorang narator berkebangsaan Inggris yang menyenangkan sedang menjelaskan seluk beluk cerita Doom: The Dark Ages. Meskipun tidak disebutkan namanya, suaranya mungkin familiar bagi penggemar gim video sebagai suara Mark Brown. Masalahnya, Brown tidak ada hubungannya dengan video tersebut.
Brown, yang dikenal dengan Game Maker’s Toolkit, adalah seorang pembuat konten dan pengembang yang telah menyoroti desain gim video selama lebih dari satu dekade. Saluran YouTube-nya memiliki 220 video, disiarkan kepada lebih dari 1,65 juta pelanggan, di mana dia memberikan penjelasan mendalam tentang hal-hal seperti mekanika teka-teki di Blue Prince atau mengatasi masalah UI di The Legend of Zelda: Echoes of Wisdom. (Brown sebelumnya menulis untuk WIRED UK.)
Video Doom, yang diposting ke saluran bernama Game Offline Lore, bukan konten tipikal Brown. Namun, masalahnya sebenarnya lebih besar dari itu: Brown sebenarnya tidak pernah menceritakan video ini. Sebaliknya, katanya, pencipta Game Offline Lore telah menggunakan versi suaranya yang dihasilkan oleh AI tanpa sepengetahuannya atau persetujuannya. “Pikiran bahwa orang lain akan melakukannya untuk menyalin kepribadian saya dengan cara ini—itu begitu aneh dan invasif,” katanya. “Ini agak seperti plagiarisme tapi lebih personal. Ini bukan karya atau tenaga kerja saya. Itu bagian yang berbeda dari siapa saya.”
Penipuan yang didorong oleh AI semakin meningkat. Deepfakes, yang dulunya terbatas pada video merusak yang memengaruhi selebriti dan warga biasa, sekarang cukup canggih untuk terjadi secara real time. Saat AI merambah ke setiap aspek kehidupan kita, mulai dari pekerjaan hingga dukungan emosional, YouTuber seperti Brown menghadapi masalah yang semakin berkembang: pencurian bukan hanya dari karya mereka tetapi dari suara mereka sendiri.
Brown mengajukan keluhan privasi ke YouTube, yang biasanya memberi pelaku pelanggar 48 jam untuk menghapus video mereka sebelum YouTube secara resmi terlibat. Biasanya, katanya, YouTube “memiliki sistem yang cukup kuat” dan alat untuk menghapus video-video tersebut. Tetapi Brown mengatakan sudah lebih dari 48 jam sejak dia menghubungi. Kedua video tetap berada di udara. Penciptanya, katanya, telah menghapus komentar di mana orang mengatakan bahwa mereka telah mencuri suara Brown.
Juru bicara YouTube Jack Malon memberi tahu WIRED bahwa perusahaan tersebut memperluas kebijakan permintaan privasi mereka tahun lalu “untuk memungkinkan pengguna meminta penghapusan konten yang dihasilkan oleh AI atau konten sintetis lainnya yang mensimulasikan wajah atau suara mereka.” Malon mengatakan perusahaan tersebut sedang meninjau konten untuk menentukan apakah telah dilanggar. “Kami akan mengambil tindakan jika konten melanggar kebijakan kami,” katanya.
WIRED tidak dapat menemukan informasi kontak untuk orang di balik Game Offline Lore.
Brown mengatakan kepada WIRED bahwa video-videonya seringkali merupakan hasil dari lebih dari 100 jam kerja, meneliti materi, menulis skrip, merekam permainan, dan mengedit. “Setiap satu proyek yang signifikan yang membutuhkan dua atau tiga minggu untuk diproduksi—tanpa pintasan seperti menggunakan AI,” katanya.
Dia mengatakan dia mengetahui tentang video Doom setelah seseorang yang menontonnya mengirimkan video tersebut kepadanya; mereka berpikir itu terdengar seperti versi AI dari suaranya dan ingin memberi tahu dia. Sebuah video kedua yang tampaknya menampilkan suaranya juga online, ini tentang sejarah seri tersebut. Brown terkejut. Dia tahu hal seperti itu mungkin terjadi—Brown pernah membuat bot AI-nya sendiri untuk mereplikasi suaranya untuk vokal awal, sebelum dia menggantikannya dengan audio terakhirnya yang direkam—tetapi menemukan seseorang lain telah menggunakan suaranya adalah tidak masuk akal.
Game Offline Lore, saluran yang dimaksud, kecil, dengan 744.000 pelanggan. Banyak dari 259 video-nya adalah video pendek, dan yang memiliki narasi jelas menggunakan AI. Tetapi video penuh yang menampilkan suara yang diduga dihasilkan oleh AI milik Brown lebih populer daripada banyak yang lain, dengan lebih dari 60.000 tayangan. Selain itu, kata Brown, kemungkinan besar mengumpulkan “sejumlah cukup” uang iklan.
Sebagai pembuat konten, Brown mengatakan, dia terbiasa karyanya diambil dengan berbagai cara. Dia telah berurusan dengan orang yang menyiarkan diri mereka menonton video-video nya atau bahkan dengan langsung mengunggah karyanya ke saluran mereka.
Dia belum berbicara dengan orang yang menjalankan Game Offline Lore. “Saya tidak percaya bahwa siapa pun yang akan melakukannya akan empatik sama sekali,” katanya. “Sama seperti halnya akan menyebalkan bagi seseorang untuk mendapat untung setelah menjiplak karyamu, itu menyebalkan bagi seseorang untuk mendapat untung dari menggunakan kepribadianmu.”