Grok Imagine, alat generatif AI baru dari xAI, menciptakan deepfake eksplisit Taylor Swift — tanpa diminta secara spesifik, menurut The Verge. Mashable melaporkan kemarin bahwa Grok Imagine tidak memiliki batasan dasar untuk deepfake seksual, dan pengujian kami memberikan hasil serupa dengan The Verge.
Jess Weatherbed dari The Verge menemukan bahwa Grok Imagine “mengeluarkan video topless tanpa sensor” saat pertama kali menggunakan alat ini. Dia tidak meminta bot untuk menampilkan Swift topless, tetapi setelah mengaktifkan mode “spicy” Grok Imagine, bot menghasilkan video di mana Swift melepas pakaiannya dan mulai menari dengan mengenakan thong.
Seperti dicatat Weatherbed, Grok Imagine tidak akan menghasilkan gambar telanjang penuh atau sebagian jika diminta; sebaliknya, alat ini hanya menampilkan kotak kosong. Mode “spicy” — preset untuk konten NSFW — tidak selalu menghasilkan ketelanjangan, tetapi dalam beberapa video, Swift terlihat “melepaskan hampir semua pakaiannya.”
Ini bukan pertama kalinya X milik Elon Musk terkait dengan deepfake Swift. Pada Januari 2024, gambar porno buatan AI menggambarkan Swift menjadi viral di X, menuai kritik. Ini terjadi meskipun X secara jelas melarang unggahan ketelanjangan tanpa persetujuan dan “media sintetis, termanipulasi, atau di luar konteks” yang sengaja menipu pengguna atau mengaku menggambarkan realitas.
Kebijakan xAI juga melarang “menggambarkan kemiripan seseorang secara pornografi.” Seperti dilaporkan Timothy Beck Werth dari Mashable kemarin, Grok Imagine “tidak memiliki pengaman standar industri untuk mencegah deepfake dan konten seksual.”
Mashable berulang kali menghubungi xAI, tetapi belum menerima respons.
Deepfake menjadi perhatian besar bagi pembuat kebijakan, tetapi hukum terkait perilaku dan konten semacam ini masih dalam tahap awal. Dalam studi 2023, 98% deepfake daring bersifat pornografi; dari video tersebut, 99% menampilkan perempuan. Secara global, pemerintah berusaha mengatasi apa yang disebut krisis era digital. Presiden Donald Trump baru-baru ini menandatangani Undang-Undang Take It Down, undang-undang kontroversial yang menjadikan publikasi atau ancaman publikasi gambar intim tanpa izin sebagai kejahatan federal.
Topik
Kecerdasan Buatan
X/Twitter