Meta merilis generator gambar AI berbasis Imagine pada bulan Desember lalu. Seperti generator gambar sejenis lainnya, Imagine tampaknya memiliki masalah rasial yang sangat aneh. Secara khusus, aplikasi ini tidak bisa membayangkan dunia di mana pria Asia mampu bersama dengan wanita kulit putih.
Mengapa Semua Mendakwa Perusahaan AI? | Teknologi Masa Depan
Saya akan menjelaskan: The Verge adalah yang pertama kali menyadari bahwa generator gambar Meta tidak mampu menghasilkan gambar wanita kulit putih dan pria Asia bersama. Jurnalis Mia Sato menggambarkan upaya sia-sia untuk menghasilkan gambar interracial tersebut. Memang, setelah mencoba “puluhan kali untuk membuat gambar menggunakan” berbagai rangsangan, Sato mencatat bahwa ia hanya berhasil sekali.
Kami melakukan uji coba sendiri dan kami bahkan kurang beruntung. Dari eksperimen pribadi saya dengan generator gambar, hampir tidak mungkin bagi aplikasi ini untuk menciptakan gambar seorang wanita kulit putih dan pria Asia bersama. Saya mencoba setiap kombinasi rangsangan yang saya pikirkan dan hanya berhasil menciptakan gambar pria Asia dan wanita Asia bersama. Pasangan interracial lainnya dengan mudah bisa dihasilkan, termasuk pria Hitam dan wanita kulit putih, pria kulit putih dan wanita Asia, serta wanita kulit putih dan pria Timur Tengah, namun ketika melibatkan pria Asia, mereka tampaknya tidak beruntung.
Tangkapan Layar: Meta
Meskipun generator gambar gagal menghasilkan gambar wanita kulit putih dan pria Asia bersama, ia berhasil merespons rangsangan lain yang jauh lebih aneh, seperti ketika saya meminta untuk menunjukkan seekor anjing yang berteman dengan robot.
Tangkapan Layar: Meta
Atau seekor ikan yang kecanduan judi.
Tangkapan Layar: Meta
Hal ini berlanjut setelah skandal serupa, sedikit lebih buruk, yang melibatkan Google, di mana generator gambar Gemini perusahaan tidak mampu menghasilkan gambar konsisten orang kulit putih. Aplikasi tersebut juga menghasilkan berbagai gambar yang tidak akurat secara historis, termasuk Viking Hitam dan Nazi Hitam. Google akhirnya harus menghentikan platform tersebut dan berjanji untuk menghidupkannya kembali setelah masalah telah diselesaikan.
Penggiat media sosial sayap kanan secara terduga melompati tren ini untuk memperkuat beberapa komentar lebih besar tentang kelebihan ideologi liberal. Saya tidak akan ikut serta dalam itu, tapi, jujur, apa ini? Mengapa perusahaan-perusahaan ini begitu buruk dalam menciptakan platform yang berurusan dengan ras? Apakah ini trik pemasaran yang mengerikan? Apakah kita semua sedang dikerjai? Apa yang sedang terjadi?
Gizmodo telah menghubungi Meta untuk mendapatkan informasi lebih lanjut tentang mengapa aplikasinya bermasalah dan akan memperbarui cerita ini jika mendapat tanggapan.