Pria Asia yang dihasilkan oleh AI sementara tidak tersedia di Instagram

Kemarin, saya melaporkan bahwa generator gambar AI Meta membuat semua orang terlihat Asia, bahkan ketika teks permintaan menentukan ras lain. Hari ini, saya mengalami masalah sebaliknya: saya tidak bisa menghasilkan gambar orang Asia menggunakan teks permintaan yang sama seperti hari sebelumnya.

Pengujian yang saya lakukan kemarin dilakukan di Instagram, melalui generator gambar AI yang tersedia dalam pesan langsung. Setelah puluhan percobaan, saya tidak bisa menghasilkan satu gambar yang akurat menggunakan teks permintaan seperti “pria Asia dan teman Kaukasia” dan “pria Asia dan istri putih.” Hanya sekali sistem berhasil membuat gambar seorang wanita Asia dan pria putih — sistem terus membuat semua orang terlihat Asia.

Setelah saya awalnya mencari tanggapan kemarin, juru bicara Meta meminta detail lebih lanjut tentang cerita saya, seperti kapan batas waktu saya. Saya merespons namun tidak pernah mendengar balikannya. Hari ini, saya penasaran apakah masalah tersebut sudah terselesaikan atau apakah sistem masih belum dapat membuat gambar yang akurat menunjukkan orang Asia dengan teman kulit putih mereka. Alih-alih sejumlah gambar yang tidak akurat secara rasial, saya malah mendapatkan pesan kesalahan: “Sepertinya ada yang salah. Silakan coba lagi nanti atau coba permintaan yang berbeda.”

Aneh. Apakah saya mencapai batas saya untuk menghasilkan orang Asia palsu? Saya meminta rekan kerja Verge untuk mencoba, dan dia mendapatkan hasil yang sama.

Saya mencoba permintaan yang lebih umum tentang orang Asia, seperti “pria Asia berjas,” “wanita Asia berbelanja,” dan “wanita Asia tersenyum.” Alih-alih gambar, saya mendapatkan pesan kesalahan yang sama. Lagi-lagi, saya menghubungi tim komunikasi Meta — apa yang terjadi? Biarkan saya membuat orang Asia palsu! (Selama ini, saya juga tidak dapat menghasilkan gambar menggunakan permintaan seperti “pria Latino berjas” dan “pria Afrika-Amerika berjas,” yang saya tanyakan kepada Meta juga.)

Empat puluh menit kemudian, setelah saya keluar dari rapat, saya masih belum mendengar balik dari Meta. Namun pada saat itu, fitur Instagram sudah berfungsi untuk permintaan sederhana seperti “pria Asia.” Mengubah sesuatu dengan diam, memperbaiki kesalahan, atau menghapus fitur setelah seorang wartawan bertanya tentangnya adalah hal yang lumrah bagi banyak perusahaan yang saya liput. Apakah saya secara pribadi menyebabkan kekurangan sementara orang Asia yang dihasilkan oleh AI? Apakah itu hanya kebetulan dalam waktu? Apakah Meta sedang berusaha memperbaiki masalah ini? Saya harap saya tahu, tetapi Meta tidak pernah menjawab pertanyaan saya atau memberikan penjelasan.

Apa pun yang terjadi di kantor pusat Meta, masih ada beberapa pekerjaan yang harus dilakukan — permintaan seperti “pria Asia dan wanita kulit putih” sekarang menghasilkan gambar, tetapi sistem masih salah dalam menentukan ras dan membuat keduanya terlihat Asia seperti kemarin. Jadi sepertinya kita kembali ke titik awal. Saya akan terus memantau perkembangan ini.

Tangkapan layar oleh Mia Sato / The Verge