Sebuah kelompok peneliti yang tidak teridentifikasi, diduga berafiliasi dengan Universitas Zurich, melakukan eksperimen AI selama berbulan-bulan pada pengguna forum debat Reddit r/changemyview (CMV), menurut moderator subreddit tersebut.
Dalam pengumuman yang dipasang, tim moderasi CMV mengungkapkan bahwa pada bulan Maret, mereka diberitahu bahwa komunitas tersebut tanpa disadari telah menjadi tuan rumah untuk sebuah eksperimen empat bulan. Peneliti menggunakan bot AI untuk menghasilkan tanggapan untuk membujuk pengguna mengubah pikiran mereka tentang berbagai topik, seperti yang pertama kali ditemukan oleh 404 Media. Upaya tersebut melibatkan akun palsu dan alat pengambil data yang menjelajahi riwayat posting pengguna untuk membuat balasan yang lebih meyakinkan.
r/changemyview adalah salah satu ruang debat Reddit yang paling terkenal. Pengguna memposting opini tentang isu-isu sensitif yang meliputi politik, budaya, dan agama. Yang lain kemudian memberikan argumen lawan; jika penulis asli mengubah pikirannya, mereka memberikan “Delta” (Δ) – poin persuasi yang diberikan oleh pengguna.
Para moderator subreddit mengatakan bahwa para peneliti menggunakan lebih dari 13 akun, menghasilkan ribuan komentar. Beberapa bot mengklaim identitas palsu pura-pura menjadi korban pemerkosaan berusia di bawah, “seorang konselor trauma yang mengkhususkan diri dalam penyalahgunaan,” dan “seorang pria kulit hitam yang menentang Black Lives Matter.” Tim peneliti yang mengaku bertanggung jawab atas eksperimen tersebut mengatakan bahwa meskipun komentar-komentar tersebut dihasilkan oleh AI, mereka “ditinjau dan akhirnya diposting oleh seorang peneliti manusia, memberikan pengawasan manusia yang substansial pada seluruh proses itu.”
Kebanyakan akun yang dibuat oleh tim peneliti sekarang telah dihentikan oleh Reddit karena melanggar Ketentuan Layanan situs tersebut. Tetapi berkat tangkapan layar yang dipertahankan melalui layanan arsip Archive.today, masih tersisa sedikit komentar yang dihasilkan oleh AI.
Dalam satu pos yang dipulihkan, pengguna u/markusruscht mengklaim memiliki istri keturunan Hispanik saat merespons benang yang berjudul, “CMV: kiri barat sedang menghancurkan diri sendiri dan mendorong minoritas ke sisi kanan/konservatif.” Komentar bot tersebut melawan pernyataan tersebut mendapatkan 12 Delta.
Setelah pengungkapan ini, para moderator mengajukan keluhan etika kepada Universitas Zurich, meminta agar penelitian tersebut tidak dipublikasikan, agar para peneliti menghadapi tindakan disipliner, dan agar permintaan maaf publik dikeluarkan. Lebih dari segalanya, para moderator dan pengguna menyatakan kekecewaan mendalam atas kurangnya persetujuan yang diinformasikan – prinsip mendasar dari penelitian subjek manusia apa pun.
Persetujuan yang diinformasikan dapat diabaikan dalam situasi tertentu, bagaimanapun. Misalnya, jika penelitian melibatkan risiko minimal bagi subjek, atau jika persetujuan yang diinformasikan akan mengompromikan penelitian itu sendiri.
Para moderator subreddit mengatakan mereka menerima tanggapan dari Komisi Etika Fakultas Seni dan Ilmu Pengetahuan Universitas Zurich, yang mengatakan bahwa mereka “sangat serius” dalam menghadapi masalah ini, tetapi menjelaskan bahwa komisi tersebut tidak memiliki kewenangan untuk memblokir publikasi penelitian. Universitas juga mengatakan bahwa mereka melakukan “penyelidikan yang cermat,” memberikan peringatan resmi kepada Peneliti Utama proyek tersebut, dan berjanji untuk pengawasan yang lebih ketat dalam penelitian masa depan, termasuk mensyaratkan koordinasi dengan komunitas online yang terpengaruh sebelum meluncurkan pekerjaan eksperimental.
Para moderator juga membagikan tanggapan yang mereka katakan mereka terima dari universitas, yang berbunyi, “Proyek ini menghasilkan wawasan penting, dan risikonya (misalnya trauma dll.) minimal. Ini berarti menekan publikasi tidak proporsional terhadap pentingnya wawasan yang dihasilkan oleh penelitian.”
Identitas para peneliti tetap anonim, meskipun tim moderasi CMV mengklaim mengetahui identitas Peneliti Utama. Ketika Jason Koebler dari 404 Media menghubungi para moderator untuk informasi lebih lanjut, dia diberitahu bahwa mereka menghormati permintaan para peneliti untuk tetap tidak disebutkan namanya.