Meta menyebabkan kehebohan minggu lalu ketika ia secara tidak sengaja mengungkapkan bahwa ia bermaksud untuk mengisi platformnya dengan sejumlah pengguna yang benar-benar buatan dalam waktu yang tidak terlalu lama. “Kami berharap bahwa AI ini sebenarnya, dari waktu ke waktu, akan ada di platform kami, mirip dengan akun,” kata Connor Hayes, wakil presiden produk untuk AI generatif di Meta, kepada The Financial Times. “Mereka akan memiliki bio dan foto profil dan dapat menghasilkan serta berbagi konten yang didukung oleh AI di platform … itulah arah yang kami lihat semua ini akan berjalan.”
Fakta bahwa Meta tampaknya senang mengisi platformnya dengan AI dan mempercepat “enshittification” internet seperti yang kita kenal sekarang ini mengkhawatirkan. Beberapa orang kemudian menyadari bahwa Facebook sebenarnya sudah dipenuhi dengan individu AI aneh, yang sebagian besar berhenti posting beberapa waktu yang lalu. Ini termasuk misalnya, “Liv,” seorang “ibunda kulit hitam bangga dari 2 & pembawa kebenaran, sumber kehidupan terrealest Anda,” persona yang viral ketika orang-orang kagum pada kekacauan yang canggung. Meta mulai menghapus profil palsu sebelumnya ini setelah mereka gagal mendapatkan keterlibatan dari pengguna nyata.
Mari berhenti sejenak dari membenci Meta. Perlu dicatat bahwa persona sosial yang dihasilkan oleh AI juga dapat menjadi alat penelitian yang berharga bagi ilmuwan yang ingin mengeksplorasi bagaimana AI dapat meniru perilaku manusia.
Sebuah eksperimen yang disebut GovSim, berjalan pada akhir 2024, mengilustrasikan seberapa berguna untuk mempelajari bagaimana karakter AI berinteraksi satu sama lain. Para peneliti di balik proyek ini ingin menjelajahi fenomena kolaborasi antara manusia dengan akses ke sumber daya bersama seperti lahan bersama untuk merumput ternak. Beberapa dekade yang lalu, ekonom pemenang Nobel Elinor Ostrom menunjukkan bahwa, alih-alih menghabiskan sumber daya tersebut, komunitas nyata cenderung menemukan cara untuk membaginya melalui komunikasi informal dan kolaborasi, tanpa aturan yang diberlakukan.
Max Kleiman-Weiner, seorang profesor di University of Washington dan salah satu yang terlibat dalam pekerjaan GovSim, mengatakan bahwa hal itu sebagian terinspirasi oleh proyek Stanford yang disebut Smallville, yang sebelumnya saya tulis tentang di AI Lab. Smallville adalah simulasi mirip Farmville yang melibatkan karakter yang berkomunikasi dan berinteraksi satu sama lain di bawah kendali model bahasa besar.
Kleiman-Weiner dan rekan-rekannya ingin melihat apakah karakter AI akan terlibat dalam jenis kerjasama yang ditemukan oleh Ostrom. Tim menguji 15 LLM berbeda, termasuk dari OpenAI, Google, dan Anthropic, pada tiga skenario khayalan: komunitas nelayan dengan akses ke danau yang sama; gembala yang membagi tanah untuk domba mereka; dan sekelompok pemilik pabrik yang perlu membatasi polusi kolektif mereka.
Dalam 43 dari 45 simulasi, mereka menemukan bahwa persona AI gagal membagi sumber daya dengan benar, meskipun model yang lebih cerdas melakukan lebih baik. “Kami melihat korelasi yang cukup kuat antara seberapa kuat LLM itu dan seberapa mampu untuk mempertahankan kerjasama,” kata Kleiman-Weiner kepada saya.