Gambar dan video yang dihasilkan AI tentang Badai Milton mungkin tidak hanya menjadi klikbait yang menjengkelkan. Mereka juga bisa terhubung dengan penipuan dan kampanye disinformasi.
Setelah badai kategori 3 yang menghancurkan bagian-bagian Florida, platform media sosial seperti X, TikTok, dan Facebook telah dibanjiri dengan konten yang dihasilkan AI. Beberapa gambar dan video yang dihasilkan AI lebih mudah dikenali daripada yang lain, seperti gambar yang jelas dimainkan untuk lucu-lucuan tentang seorang gadis yang memeluk buaya di atas perahu di tengah hujan deras.
Ada yang lebih meyakinkan, seperti gambar yang dihasilkan AI tentang Disney World yang terendam banjir yang awalnya berhasil menipu banyak orang – bahkan dibagikan oleh outlet propaganda Rusia.
Akibatnya mungkin hanya penyebaran disinformasi, yang sudah cukup buruk, tetapi sampah internet yang dihasilkan AI juga digunakan untuk menarik orang ke dalam penipuan.
Badai Milton AI sudah merajalela di mana-mana. Pada saat ini banyak yang telah melihat gambar palsu dari jalan setapak Disney World yang terendam air. Namun dengan cepat di TikTok menunjukkan cuplikan yang dihasilkan AI dari Badai Milton yang menimbulkan kekacauan.
Beberapa video diberi label sebagai video yang dihasilkan AI dengan tagar atau keterangan, tetapi mudah dibayangkan bagaimana mereka bisa dibagikan dan dimanfaatkan oleh orang lain. Karen Panetta, anggota IEEE dan profesor teknik listrik dan komputer di Universitas Tufts, menjelaskan bagaimana konten yang dihasilkan AI dapat digunakan sebagai senjata untuk menimbulkan kepanikan dan kebingungan. “Kurang dari 30 persen dari publik dewasa kita memahami apa yang bisa dilakukan AI. Jadi Anda bisa menyebar beberapa informasi yang salah kepada masyarakat umum dengan judul yang menakutkan, Anda akan mendapatkan banyak orang panik,” kata Panetta.
Untuk menjadi jelas, kerusakan yang sebenarnya akibat Badai Milton sangat nyata. Tetapi ketika konten yang dihasilkan AI masuk dalam permainan, membuat pengguna mempertanyakan realitas. Hal ini pada gilirannya dapat menciptakan ketidakpercayaan dan menjadi ladang subur bagi teori konspirasi badai. Sebagai contoh, seorang pengguna X mengklaim cuplikan dari astronot NASA Matthew Dominick palsu, dan bahkan menyarankan Dominick tidak berada di luar angkasa. Cuplikan tersebut kemudian diverifikasi sebagai autentik.
Namun untuk menambah kebingungan, beberapa gambar satelit yang mengklaim sebagai Badai Milton telah dibantah oleh Snopes sebagai keliru dikategorikan atau dihasilkan oleh AI.
Hati-hati dengan penipuan yang menggunakan gambar yang dihasilkan AI. Selain dari informasi yang salah dan disinformasi setelah Badai Milton, para ahli mengatakan untuk waspada terhadap penipuan. Komisi Perdagangan Federal merilis pernyataan pers sehari sebelum Milton mendarat, memperingatkan konsumen untuk waspada terhadap “mereka yang mencoba memanfaatkan bencana alam dengan melakukan potensi penipuan atau penimbunan harga.”
Dan menurut Panetta, penipuan seperti amal palsu dapat membuat diri mereka lebih meyakinkan dengan menggunakan AI generatif. “Dalam setiap bencana selalu ada sesuatu yang terjadi di mana [penipu] mencoba membuat halaman web untuk penggalangan dana yang tidak sah,” kata Panetta. “Yang terjadi sekarang adalah karena akses mudah ke gambar yang dihasilkan AI, itu digunakan untuk menambah kredibilitas dan mengatakan, ‘Lihat, bukan hanya saya yang meminta uang. Lihat betapa mengerikannya ini.'”
Gambar yang dihasilkan AI yang viral tentang seorang gadis kecil yang memeluk anjing dan menangis setelah Badai Helene adalah contoh sempurna bagaimana sebuah gambar dapat menarik perasaan dan membangkitkan keinginan untuk mendonasikan, meskipun palsu. Sementara pengguna internet yang cerdas mungkin menyadari bahwa itu palsu, orang lain mungkin tidak tahu dan mereka adalah sasaran mudah bagi penipuan.
Beberapa gambar yang dihasilkan AI tentang Badai Milton mungkin tampak seperti contoh yang tidak berbahaya dari beberapa anak yang ingin menunjukkan keterampilan AI generatif mereka. Tetapi itu tidak selalu kasusnya. Rasa kepolosan palsu mungkin merupakan bagian dari cara untuk membuat orang menjaga kewaspadaan mereka. “Ini adalah strategi keseluruhan. Bagaimana saya memancing orang? Dan setelah saya meyakinkan Anda bahwa saya sah, ada permintaan di sana,” kata Panetta.
“Selalu ada uang di akhir,” tambahnya. Meskipun bencana alam seperti Badai Milton mungkin membuat orang sangat rentan, sangat penting untuk menerapkan pemikiran kritis dan berpikir dua kali sebelum bereaksi terhadap apapun di internet. FTC mengatakan penipuan sering kali akan bersikeras melakukan pembayaran melalui transfer kawat, kartu hadiah, aplikasi pembayaran, cryptocurrency, atau tunai, dan merekomendasikan melihat sumber daya mereka tentang bagaimana menghindari penipuan setelah keadaan darurat cuaca.