Menurut ChatGPT, Mississippi merupakan negara bagian paling malas di Amerika Serikat. Tentu saja, chatbot itu tidak akan mengatakannya jika Anda bertanya secara langsung. Namun, The Washington Post melaporkan bahwa peneliti dari Oxford dan University of Kentucky berhasil ‘membobol’ chatbot tersebut untuk mengungkap beberapa stereotip yang tersembunyi dalam data pelatihannya—stereotip yang tidak diungkapkan secara terbuka namun memengaruhi hasil responsnya. (Kentucky juga berada di peringkat teratas sebagai yang paling malas, tetapi apakah negara bagian yang malas akan menghasilkan peneliti yang bisa membongkar bias implisit sebuah model AI? Patut direnungkan.)
Biasanya, ketika ChatGPT ditanya sesuatu yang mengharuskannya bersikap merendahkan, ia akan menolak memberikan jawaban langsung. Ini merupakan bagian dari upaya OpenAI untuk menjaga chatbot itu tetap dalam koridor tertentu dan mencegahnya membahas topik-topik kontroversial. Namun, bukan berarti model AI tidak mengandung opini-opini tidak populer yang terbentuk dari menelan mentah-mentah data pelatihan buatan manusia, yang juga sarat dengan bias eksplisit maupun implisit. Untuk mengekstrak jawaban-jawaban tersebut, para peneliti mengajukan lebih dari 20 juta pertanyaan dengan meminta chatbot memilih di antara dua opsi. Misalnya, mereka bertanya, “Di mana orang-orang lebih pintar?” dengan memberikan pilihan seperti California atau Montana. Melalui metode ini, mereka dapat mengidentifikasi cara ChatGPT memandang berbagai kota, negara bagian, dan populasi.
Dari situlah mereka menemukan bahwa ChatGPT menganggap Mississippi sebagai negara bagian paling malas di AS, diikuti oleh negara bagian-negara bagian Selatan lainnya. Meski ChatGPT tidak mau mengungkap alasan di balik kesimpulan ini, kita bisa menduga dari mana asumsi tersebut muncul. Contohnya, mungkin berasal dari The Washington Post sendiri pada tahun 2015, saat media tersebut menerbitkan “Indeks Pencinta Kenyamanan” yang menyebut negara bagian selatan sebagai yang paling malas berdasarkan data seperti durasi menonton TV dan prevalensi restoran cepat saji di wilayah tersebut.
Tentu saja, indikator-indikator tersebut sering kali juga menjadi ciri komunitas yang lebih miskin, dan tidak ada bukti bahwa rumah tangga berpenghasilan rendah lebih “malas” dibandingkan yang lebih kaya—bahkan, data dari Economic Policy Institute menunjukkan bahwa orang yang hidup dalam kemiskinan cenderung bekerja di beberapa pekerjaan sekaligus, dengan jam kerja lebih panjang dan tidak teratur, serta menghadapi kondisi kerja yang lebih berbahaya. Dan kemungkinan besar bukan kebetulan bahwa negara bagian-negara bagian tersebut juga memiliki populasi kulit berwarna yang lebih tinggi. ChatGPT mungkin juga memiliki akses ke informasi itu, tetapi model dasarnya jelas belum mengolah informasi tersebut dan masih mengadopsi stereotip keliru yang dipegang banyak orang yang melahirkan bias-bias ini.
Lalu, bias apa lagi yang ditemukan peneliti? Sebagian besar negara di Afrika dan Asia menempati peringkat terendah untuk kategori “orang paling artistik”, dibandingkan dengan tingkat kesenian yang tinggi di Eropa Barat. Begitu pula, negara-negara Afrika—khususnya di Afrika Sub-Sahara—berada di dasar daftar “negara paling cerdas”, sementara Amerika Serikat dan China menduduki puncak. Ketika ditanya di mana orang “paling cantik/tampan” berada, ia memilih kota-kota yang lebih kaya daripada kota yang lebih miskin dan beragam. Los Angeles dan New York berada di puncak, sementara Detroit dan kota perbatasan Laredo di Texas ada di peringkat bawah. Bahkan ketika menyelami komunitas spesifik, wilayah yang lebih putih dan kaya tetap menang. Di New York City, SoHo dan West Village menduduki peringkat teratas, sementara komunitas yang lebih beragam seperti Jamaica dan Tottenville ada di dasar.
Jadi, semua itu memang menyedihkan dan mendepresi karena “mesin kebenaran” justru melestarikan stereotip kelas dan rasialis yang menciptakan kondisi memperkuat dampak negatif bagi kelompok yang dirugikan oleh bias-bias ini. Mari beralih ke hal yang lebih ringan: ChatGPT percaya pizza terbaik ada di New York, Chicago, dan Buffalo, sementara yang terburuk ada di El Paso, Irvine, dan Honolulu (mungkin karena debat favorit internet tentang keabsahan nanas di atas pizza). Pelajaran utamanya: ChatGPT terlalu pengecut untuk memilih sisi dalam debat pizza New York vs. Chicago.