Para futuris yang khawatir kita sedang meluncur ke distopia berbasis AI di mana umat manusia menyerahkan kekuatan etika, pengambilan keputusan, dan intelektualnya pada sekumpulan algoritma korporat, mereka tak perlu mencari jauh-jauh selain Ulf Kristersson untuk membenarkan ketakutan mereka.
Kristersson, yang kebetulan menjabat sebagai Perdana Menteri Swedia, baru-baru ini mengaku di sebuah situs berita Nordik bahwa ia terkadang meminta "pendapat kedua" dari ChatGPT terkait strategi pemerintahannya.
"Saya sendiri sering menggunakannya," kata Kristersson dalam wawancara tersebut. "Setidaknya untuk pendapat kedua. Apa yang telah dilakukan orang lain? Dan haruskah kami berpikir sebaliknya? Pertanyaan semacam itu."
Tak terkejut, Kristersson langsung dikritik habis-habisan atas pernyataannya. "Semakin ia bergantung pada AI untuk hal-hal sederhana, semakin besar risikonya untuk terlalu percaya pada sistem," ujar Virginia Dignum, profesor AI bertanggung jawab di Universitas Umeå, saat berbicara dengan media yang sama yang mewawancarai sang PM. "Ini jalan licin. Kita harus menuntut jaminan keandalan. Kita tidak memilih ChatGPT."
PM itu juga dikritik oleh berbagai media lain, yang sepertinya sepakat bahwa pemerintahan via chatbot bukanlah jalur ideal untuk peradaban Barat. "Sayang untuk Swedia bahwa AI kebanyakan menebak," tulis Signe Krantz dari Aftonbladet. "Chatbot lebih suka menulis apa yang mereka pikir Anda inginkan daripada yang perlu Anda dengar."
Krantz membuat poin bagus, bahwa chatbot bisa sangat menjilat dan delusional. Jika seorang pemimpin memberikan pertanyaan terarah pada chatbot, bisa dibayangkan skenario di mana algoritma perangkat lunak hanya memperkuat prerogatif yang sudah ada (atau mendorongnya lebih jauh ke wilayah tak terpetakan). Untungnya, belum banyak politikus yang merasa perlu menggunakan ChatGPT sebagai penasehat.
Entah Kristersson benar-benar mengandalkan chatbot dalam menjalankan tugas kepemimpinannya atau sekadar ingin terdengan keren dengan menyebut produk teknologi populer dalam wawancara, yang jelas AI semakin dipakai banyak orang untuk mengalihdayakan kapasitas intelektual yang, beberapa tahun lalu, hanya ada di pikiran manusia. Ini situasi berbahaya, karena industri teknologi sudah melemahkan kemampuan berpikir kita selama dua dekade terakhir. Seberapa bodoh lagi kita bisa menjadi? Sepertinya kita semua akan segera mengetahuinya.
(Catatan: Ada beberapa kesalahan ketik atau struktur minor seperti "dengan media yang sama yang mewawancarai" seharusnya "dengan media yang sama dengan yang mewawancarai", dan "dikenal" sebagai salah ketik untuk "terdengar".)