Sebulan yang lalu, perusahaan konsultan Accenture mengajukan pitch yang tidak biasa dan menarik perhatian kepada klien potensial untuk proyek baru. Alih-alih menggunakan slide deck biasa, klien melihat deepfake dari beberapa karyawan nyata berdiri di atas panggung virtual, menawarkan deskripsi yang disampaikan dengan sempurna tentang proyek yang mereka harapkan dapat dikerjakan.
“Saya ingin mereka bertemu dengan tim kami,” kata Renato Scaff, direktur senior manajemen di Accenture yang mencetuskan ide tersebut. “Ini juga cara bagi kami untuk membedakan diri dari kompetisi.”
Deepfake tersebut dihasilkan – dengan persetujuan karyawan – oleh Touchcast, perusahaan yang diinvestasikan oleh Accenture yang menawarkan platform untuk presentasi interaktif yang menampilkan avatar orang nyata atau sintetis. Avatar Touchcast dapat menanggapi pertanyaan yang diketik atau diucapkan menggunakan model AI yang menganalisis informasi relevan dan menghasilkan jawaban secara langsung.
“Ada unsur yang menyeramkan,” kata Scaff tentang karyawannya yang deepfake. “Tapi ada unsur yang lebih keren.”
Deepfake adalah senjata yang kuat dan berbahaya dalam disinformasi dan kerusakan reputasi. Namun, teknologi yang sama ini diadopsi oleh perusahaan yang melihatnya sebagai cara baru yang cerdas dan menarik untuk mencapai dan berinteraksi dengan pelanggan.
Eksperimen semacam itu tidak terbatas pada sektor korporat. Monica Arés, direktur eksekutif Innovation, Digital Education, dan Analytics Lab di Imperial College Business School di London, telah membuat deepfake dari profesor nyata yang dia harapkan dapat menjadi cara yang lebih menarik dan efektif untuk menjawab pertanyaan dan pertanyaan mahasiswa di luar kelas. Arés mengatakan teknologi ini memiliki potensi untuk meningkatkan personalisasi, memberikan cara baru untuk mengelola dan menilai mahasiswa, dan meningkatkan keterlibatan mahasiswa. “Anda masih memiliki sosok manusia yang berbicara dengan Anda, jadi terasa sangat alami,” katanya.
Seperti halnya yang sering terjadi saat ini, kita harus berterima kasih kepada AI atas pengungkapan realitas ini. Selama ini, studio Hollywood telah lama dapat menyalin suara, wajah, dan gaya aktor dengan perangkat lunak, tetapi dalam beberapa tahun terakhir, AI telah membuat teknologi serupa tersebut dapat diakses secara luas dan hampir gratis. Selain Touchcast, perusahaan seperti Synthesia dan HeyGen menawarkan cara bagi bisnis untuk menghasilkan avatar orang nyata atau palsu untuk presentasi, pemasaran, dan layanan pelanggan.
Edo Segal, pendiri dan CEO Touchcast, percaya bahwa avatar digital bisa menjadi cara baru untuk menyajikan dan berinteraksi dengan konten. Perusahaannya telah mengembangkan platform perangkat lunak bernama Genything yang akan memungkinkan siapa pun membuat kembaran digital mereka sendiri.
Pada saat yang sama, deepfake menjadi keprihatinan utama dengan adanya pemilihan umum di banyak negara, termasuk Amerika Serikat. Bulan lalu, panggilan robocall yang dihasilkan oleh AI yang menampilkan deepfake Joe Biden palsu digunakan untuk menyebarkan disinformasi pemilihan. Taylor Swift juga baru-baru ini menjadi target deepfake porn yang dihasilkan menggunakan alat gambar AI yang tersedia luas.
“Gambar deepfake tentu merupakan sesuatu yang kami temukan mengkhawatirkan dan menggelisahkan,” kata Ben Buchanan, Penasihat Khusus AI Gedung Putih, dalam wawancara baru-baru ini dengan WIRED. Deepfake Swift “adalah titik data kunci dalam tren yang secara proporsional mempengaruhi perempuan dan gadis, yang secara berlebihan menjadi sasaran pelecehan dan penyalahgunaan online,” katanya.
Sebuah Institut Keselamatan AI AS yang baru, yang dibentuk berdasarkan perintah eksekutif Gedung Putih yang dikeluarkan pada Oktober tahun lalu, saat ini sedang mengembangkan standar untuk memberi tanda air pada media yang dihasilkan oleh AI. Meta, Google, Microsoft, dan perusahaan teknologi lainnya juga sedang mengembangkan teknologi yang dirancang untuk mendeteksi pemalsuan AI dalam apa yang menjadi perlombaan senjata AI yang berisiko tinggi.
Namun, beberapa penggunaan politik deepfakery menyoroti potensi ganda teknologi ini.
Imran Khan, mantan perdana menteri Pakistan, memberikan pidato yang menggugah semangat kepada pengikut partainya pada hari Sabtu lalu meskipun dia terjebak di balik jeruji besi. Bintang kriket terkenal ini, yang dipenjara dalam apa yang partainya gambarkan sebagai kudeta militer, memberikan pidatonya menggunakan perangkat lunak deepfake yang menciptakan salinan yang meyakinkan dari dirinya duduk di belakang meja dan mengucapkan kata-kata yang sebenarnya tidak pernah diucapkannya.
Seiring dengan peningkatan manipulasi video yang didukung AI dan semakin mudah digunakan, minat bisnis dan konsumen terhadap penggunaan yang sah dari teknologi ini kemungkinan akan meningkat. Raksasa teknologi Tiongkok, Baidu, baru-baru ini mengembangkan cara bagi pengguna aplikasi chatbot-nya untuk membuat deepfake untuk mengirimkan ucapan Tahun Baru Imlek.
Bahkan bagi mereka yang mengadopsi teknologi ini secara awal, potensi penyalahgunaan tidak sepenuhnya diabaikan. “Tidak diragukan lagi bahwa keamanan harus menjadi yang utama,” kata Scaff dari Accenture. “Setelah Anda memiliki kembaran sintetis, Anda dapat membuatnya melakukan dan mengatakan apa saja.”