Penipu di Tiongkok Manfaatkan Gambar Hasil AI untuk Klaim Pengembalian Dana

Saya enggan mengakuinya, namun faktanya saya memang menghabiskan uang yang cukup banyak untuk belanja daring di musim liburan kali ini. Dan seperti diduga, beberapa pembelian tersebut tak sesuai harapan. Sebuah album foto yang saya beli rusak dalam pengiriman, jadi saya ambil beberapa gambar, kirim via surel ke pedagang, dan dapat pengembalian dana. Platform belanja online sejak lama mengandalkan foto yang dikirim pelanggan untuk memastikan klaim pengembalian dana sah adanya. Namun, kecerdasan buatan generatif kini mulai merusak sistem itu.

Terlalu Mencurigakan

Di aplikasi media sosial Tiongkok RedNote, WIRED menemukan setidaknya selusin postingan dari pedagang ecommerce dan perwakilan layanan pelanggan yang mengeluh tentang klaim pengembalian dana yang diduga dihasilkan AI yang mereka terima. Dalam satu kasus, seorang pelanggan mengeluh sprei yang dibelinya robek-robek, namun karakter Mandarin pada label pengiriman terlihat seperti coretan tak bermakna. Di kasus lain, pembeli mengirim gambar cangkir kopi dengan retakan yang mirip sobekan kertas. “Ini cangkir keramik, bukan cangkir karton. Siapa bisa merobek cangkir keramik berlapis-lapis seperti ini?” tulis penjual tersebut.

Para pedagang melaporkan ada beberapa kategori produk di mana foto kerusakan hasil AI paling banyak disalahgunakan: bahan makanan segar, produk kecantikan murah, dan barang rapuh seperti cangkir keramik. Penjual seringkali tidak meminta barang dikembalikan sebelum memberi refund, membuat mereka lebih rentan terhadap penipuan semacam ini.

Pada November lalu, seorang pedagang kepiting hidup di Douyin, versi Tiongkok dari TikTok, menerima foto dari pelanggan yang membuat seolah sebagian besar kepiting yang dibelinya tiba dalam keadaan mati, sementara dua lainnya kabur. Pembeli bahkan mengirim video yang menunjukkan kepiting mati itu disentuh jari manusia. Namun ada yang janggal.

Gao kemudian melaporkan penipuan itu ke polisi, yang menentukan video tersebut memang direkayasa dan menahan pembeli selama delapan hari, menurut pemberitahuan polisi yang dibagikan Gao secara online. Kasus ini menarik perhatian luas di media sosial Tiongkok, sebagian karena ini adalah penipuan pengembalian dana berbasis AI pertama yang memicu respons regulasi.

Merendahkan Hambatan

Masalah ini tidak unik di Tiongkok. Forter, perusahaan deteksi penipuan asal New York, memperkirakan gambar yang dimanipulasi AI dalam klaim pengembalian dana telah meningkat lebih dari 15 persen sejak awal tahun, dan terus naik secara global.

“Tren ini dimulai pertengahan 2024, namun semakin cepat dalam setahun terakhir seiring alat pembuat gambar menjadi sangat mudah diakses dan mudah digunakan,” ujar Michael Reitblat, CEO dan salah satu pendiri Forter. Ia menambahkan, AI tidak harus sempurna dalam segala hal, sebab pekerja ritel lini depan dan tim peninjau refund mungkin tak punya waktu untuk memeriksa setiap gambar dengan cermat.