Bayangkan jika seseorang menciptakan karakter yang menyerupai Anda; mungkin Anda akan merasa tersanjung. Namun, bagaimana jika orang tersebut adalah atasan Anda sendiri dan memaksa Anda untuk menyerahkan gaya bicara serta suara guna menciptakan replika digital dari ciri khas Anda untuk dijadikan pacar AI bagi para penggemar Elon Musk yang kesepian? Situasi ini kemungkinan akan membuat Anda merasa telah memilih pekerjaan yang keliru. Sayangnya, itulah kenyataan yang tampaknya dihadapi oleh para karyawan xAI. Menurut laporan dari Wall Street Journal, pekerja di perusahaan AI milik Musk itu “dipaksa untuk menyerahkan data biometrik mereka” guna melatih avatar AI, termasuk “pendamping” seperti Ani, sebuah pacar AI bergaya anime.
Berdasarkan publikasi tersebut, dalam sebuah pertemuan staf pada bulan April tahun ini, para karyawan xAI yang bekerja sebagai tutor AI—yang bertugas melatih model bahasa besar dengan menilai respons terhadap perintah—diberi tahu oleh pengacara perusahaan bahwa xAI ingin mengumpulkan data biometrik mereka, termasuk kemiripan wajah dan suara. Data tersebut akan digunakan untuk mengajari avatar AI yang animasi itu bagaimana bertindak dan terlihat lebih manusiawi selama percakapan. Sebelum pertemuan berlangsung, para karyawan tersebut dilaporkan diminta untuk menandatangani formulir yang akan memberikan xAI “lisensi bebas royalti, non-eksklusif, dapat disublisensikan, berlaku di seluruh dunia, dan permanen” untuk menggunakan kemiripan mereka, menurut dokumen yang ditinjau oleh Wall Street Journal.
Selama pertemuan, para karyawan tidak diberi penjelasan eksplisit apakah mereka dapat menolak menyerahkan data biometrik mereka atau apakah hal tersebut bersifat wajib. Menurut laporan, para karyawan tersebut menerima pesan satu minggu kemudian yang menyatakan, “Tutor AI akan berpartisipasi aktif dalam pengumpulan atau penyediaan data, seperti… merekam audio atau berpartisipasi dalam sesi video,” dan menyebutkan bahwa “data semacam itu merupakan persyaratan pekerjaan untuk memajukan misi xAI.” Dengan demikian, segala ambiguitas mengenai situasi tersebut tampaknya telah terhapus.
Sekitar tiga bulan kemudian, xAI meluncurkan dua avatar AI—termasuk Ani, pacar anime andalan—yang dilaporkan pengembangannya diawasi langsung oleh Musk. Karyawan yang meminjamkan data biometrik mereka untuk proyek ini konon merasa tidak nyaman dengan bagaimana karakter AI tersebut disexualisasi, menurut WSJ. Pengguna dapat mengenakan karakter tersebut—yang dilatih dengan informasi biometrik orang sungguhan—dalam pakaian dalam dan outfit seksi lainnya, serta memicunya untuk mengucapkan komentar seksual eksplisit.
Meskipun penggunaan data biometrik karyawan yang diserahkan secara paksa dan bebas royalti hampir dapat dipastikan merupakan kumpulan data paling mengerikan yang digunakan untuk melatih produk xAI, hal tersebut bukanlah satu-satunya sumber data tidak biasa yang dilaporkan digunakan perusahaan tersebut. Wall Street Journal melaporkan bahwa para tutor juga diminta untuk membuka akun pribadi di platform pesaing seperti OpenAI, Replit, dan Bolt untuk mengumpulkan contoh bagaimana model tersebut merespons perintah tertentu—sebuah praktik yang tampaknya dapat dianggap sebagai pelanggaran terhadap ketentuan layanan platform eksternal.
Menanggapi permintaan komentar mengenai laporan tersebut, seorang juru bicara xAI hanya mengatakan, “Media Legacy Bohong.”