Babydoll Archi
Akun Instagram Babydoll Archi pernah memiliki 1,4 juta pengikut. Hanya dalam hitungan hari, sensasi Instagram asal India ini berhasil melipatgandakan jumlah pengikutnya berkat beberapa momen viral di media sosial.
Salah satunya adalah video yang menampilkannya mengenakan sari merah, menari menggoda mengikuti lagu Romania Dame Un Grr. Ada juga foto yang memperlihatkannya berpose bersama bintang film dewasa Amerika, Kendra Lust.
Tiba-tiba, semua orang ingin tahu tentang dirinya—nama Babydoll Archi menjadi trending di pencarian Google dan memicu lahirnya berbagai meme serta halaman penggemar. Namun, masalah pun muncul: ternyata tidak ada wanita nyata di balik sensasi online ini.
Akun Instagram itu palsu, meski wajah yang digunakan sangat mirip dengan seorang ibu rumah tangga asal Kota Dibrugarh, Assam, yang kita sebut Sanchi. Kebenaran terungkap setelah saudara laki-laki Sanchi melaporkan kasus ini ke polisi. Pratim Bora, mantan pacar Sanchi, akhirnya ditangkap.
Sizal Agarwal, perwira polisi yang menangani penyelidikan, mengatakan kepada BBC bahwa Sanchi dan Bora pernah bertengkar. Wajah AI ciptaan Bora itu adalah bentuk "balas dendam murni" terhadap Sanchi.
Bora—seorang insinyur mesin sekaligus penggemar AI otodidak—menggunakan foto pribadi Sanchi untuk membuat profil palsu. Saat ini, ia masih dalam tahanan dan belum memberikan pernyataan. BBC telah menghubungi keluarganya dan akan memperbarui berita jika ada tanggapan.
Akun Babydoll Archi dibuat pada 2020, dan unggahan pertamanya muncul pada Mei 2021. Foto-foto awal adalah gambar asli Sanchi yang telah dimodifikasi. Seiring waktu, Bora menggunakan alat seperti ChatGPT dan Dzine untuk menciptakan versi AI-nya. Ia membanjiri akun tersebut dengan foto dan video deepfake.
Mulai tahun lalu, akun itu mulai mendapat banyak likes, tapi popularitasnya benar-benar melesat sejak April tahun ini. Keluarga Sanchi melapor ke polisi pada 11 Juli dengan membawa beberapa cetakan foto dan video sebagai bukti.
Polisi sempat mendengar kabar bahwa Babydoll Archi adalah AI, tapi tidak ada yang menyangka bahwa ia berbasis wajah asli. Setelah mendapat informasi dari Instagram, mereka menanyakan Sanchi tentang Pratim Bora. Begitu identitasnya terkonfirmasi, polisi melacak alamat Bora di Tinsukia dan menangkapnya pada 12 Juli.
Polisi menyita laptop, ponsel, hard drive, serta dokumen bank Bora karena akun itu sudah dimonetisasi. Di Linktree, ada 3.000 langganan, dan polisi menduga Bora telah meraup 1 juta rupee—termasuk 300.000 rupee dalam lima hari sebelum penangkapannya.
Sanchi dikabarkan sangat tertekan, tapi kini ia dan keluarganya sedang menjalani konseling. "Seandainya kami bertindak lebih cepat, mungkin kasus ini tidak akan sebesar ini," kata Agarwal.
Meta belum merespons pertanyaan BBC, tapi platform ini umumnya melarang konten vulgar atau seksual. CBS juga melaporkan bahwa Meta baru-baru ini menghapus iklan alat AI untuk membuat deepfake eksplisit.
Akun Babydoll Archi dengan 282 unggahan kini sudah tidak bisa diakses publik, meski foto dan videonya masih tersebar luas. BBC telah meminta tanggapan Meta.
Meghna Bal, ahli hukum dan AI, menyebut kasus Sanchi "mengerikan tapi hampir mustahil dicegah." Sanchi bisa mengajukan hak untuk dilupakan, tapi sulit menghapus semua jejaknya di internet.
Bal menambahkan, penyebaran foto dan video sebagai balas dendam bukan hal baru bagi wanita—hanya sekarang lebih mudah dilakukan berkat AI. Namun, kasus seperti ini mungkin kurang dilaporkan karena stigma atau korban tidak menyadarinya.
Polisi telah menjerat Bora dengan pasal pelecehan seksual, penyebaran materi obscene, pencemaran nama baik, pemalsuan, penipuan, dan kejahatan siber. Jika terbukti bersalah, ia bisa dihukum hingga 10 tahun penjara.
Kasus ini memicu kemarahan di media sosial, dengan beberapa pihak menyerukan regulasi yang lebih ketat. Menurut Bal, hukum yang ada sudah cukup, tapi perlu dilihat apakah perlu aturan baru terkait perusahaan AI generatif.
"Tapi deepfake tidak selalu buruk. Hukum harus dirancang hati-hati agar tidak disalahgunakan untuk membatasi kebebasan berpendapat," ujarnya.
Ikuti BBC News India di Instagram, YouTube, X, dan Facebook.