Beberapa perusahaan Fortune 500 telah mulai menguji perangkat lunak yang dapat mendeteksi deepfake dari orang sungguhan dalam panggilan video langsung, mengikuti serangkaian penipuan yang melibatkan pencari kerja palsu yang mengambil bonus tanda tangan dan kabur. Teknologi deteksi ini berasal dari Get Real Labs, perusahaan baru yang didirikan oleh Hany Farid, seorang profesor UC-Berkeley dan otoritas terkemuka dalam deepfakes dan manipulasi gambar dan video. Get Real Labs telah mengembangkan seperangkat alat untuk mendeteksi gambar, audio, dan video yang dihasilkan atau dimanipulasi baik dengan kecerdasan buatan maupun metode manual. Perangkat lunak perusahaan dapat menganalisis wajah dalam panggilan video dan menemukan petunjuk yang mungkin menunjukkan bahwa wajah tersebut telah dihasilkan secara artifisial dan ditukar dengan tubuh orang sungguhan. “Ini bukan serangan hipotetis, kami semakin sering mendengarnya,” kata Farid. “Dalam beberapa kasus, tampaknya mereka mencoba mendapatkan kekayaan intelektual, menyusup ke perusahaan. Dalam kasus lain, tampaknya murni finansial, mereka hanya mengambil bonus tanda tangan.” FBI mengeluarkan peringatan pada tahun 2022 tentang pencari kerja deepfake yang mengasumsikan identitas orang sungguhan selama panggilan video. Perusahaan desain dan rekayasa berbasis di Inggris, Arup, kehilangan $25 juta karena penipu deepfake yang menyamar sebagai CFO perusahaan. Penipu romantis juga telah mengadopsi teknologi ini, menipu korban tanpa curiga keluar dari tabungan mereka. Meniru orang sungguhan dalam siaran video langsung hanyalah satu contoh dari jenis tipu daya yang melelehkan realitas yang sekarang mungkin berkat kecerdasan buatan. Model bahasa besar dapat dengan meyakinkan meniru orang sungguhan dalam obrolan online, sementara video pendek dapat dihasilkan oleh alat seperti Sora dari OpenAI. Kemajuan kecerdasan buatan yang mengesankan dalam beberapa tahun terakhir telah membuat deepfakery lebih meyakinkan dan lebih mudah diakses. Perangkat lunak gratis membuat mudah untuk mengasah keterampilan deepfakery, dan alat kecerdasan buatan yang mudah diakses dapat mengubah teks menjadi foto dan video yang terlihat realistis. Namun, meniru orang dalam video langsung merupakan medan baru yang relatif baru. Menciptakan jenis deepfake ini biasanya melibatkan penggunaan campuran pembelajaran mesin dan algoritma pelacakan wajah untuk dengan mulus menyatukan wajah palsu ke wajah sungguhan, memungkinkan perusak untuk mengontrol apa yang tampaknya diucapkan dan dilakukan oleh gambar ilegal di layar. Farid memberikan demo teknologi Get Real Labs kepada WIRED. Ketika ditunjukkan sebuah foto ruang rapat korporat, perangkat lunak menganalisis metadata yang terkait dengan gambar untuk tanda-tanda bahwa gambar itu telah dimodifikasi. Beberapa perusahaan AI besar termasuk OpenAI, Google, dan Meta sekarang menambahkan tanda tangan digital ke gambar yang dihasilkan AI, memberikan cara yang solid untuk mengkonfirmasi ketidakautentikan mereka. Namun, tidak semua alat menyediakan stempel tersebut, dan generator gambar sumber terbuka dapat dikonfigurasi untuk tidak melakukannya. Metadata juga dapat dengan mudah dimanipulasi. GIF: Will Knight
