Insiden Blake Lemoine kini dikenang sebagai puncak dari euforia seputar AI. Peristiwa itu menyoroti gagasan tentang AI yang berkesadaran ke dalam kesadaran publik untuk sementara waktu, namun juga meluncurkan sebuah percakapan mendalam di kalangan ilmuwan komputer dan peneliti kesadaran yang kian mengintensif dalam beberapa tahun terakhir. Sementara komunitas teknologi secara terbuka terus meremehkan gagasan ini (dan Lemoine yang malang), secara diam-diam mereka mulai memandang kemungkinan ini dengan jauh lebih serius. Sebuah AI yang sadar mungkin kekurangan landasan komersial yang jelas (bagaimana cara memonetisasinya?) dan menciptakan dilema moral yang pelik (bagaimana kita harus memperlakukan mesin yang mampu menderita?). Namun, beberapa insinyur AI mulai berpikir bahwa cawan suci kecerdasan umum artifisial—sebuah mesin yang tidak hanya sangat cerdas tetapi juga dibekali dengan tingkat pemahaman, kreativitas, dan nalar manusia—mungkin memerlukan sesuatu seperti kesadaran untuk mencapainya. Di komunitas teknologi, tabu informal seputar AI sadar—sebagai prospek yang dianggap menyeramkan oleh publik—tiba-tiba mulai runtuh.
Titik baliknya terjadi pada musim panas 2023, ketika sekelompok 19 ilmuwan komputer dan filsuf terkemuka memposting laporan setebal 88 halaman berjudul “Consciousness in Artificial Intelligence,” yang dikenal secara informal sebagai laporan Butlin. Dalam hitungan hari, tampaknya semua orang di komunitas ilmu kesadaran dan AI telah membacanya. Abstrak draf laporan itu menawarkan kalimat yang mengejutkan: “Analisis kami menunjukkan bahwa tidak ada sistem AI saat ini yang sadar, tetapi juga menunjukkan bahwa tidak ada hambatan yang jelas untuk membangun sistem AI yang sadar.”
Para penulis mengakui bahwa sebagian inspirasi di balik pertemuan kelompok dan penulisan laporan tersebut adalah “kasus Blake Lemoine.” “Jika AI dapat memberikan kesan memiliki kesadaran,” kata salah satu penulis bersama kepada majalah Science, “itu menjadikannya prioritas mendesak bagi ilmuwan dan filsuf untuk memberikan pendapat.”
Namun yang menarik perhatian semua orang adalah pernyataan tunggal dalam abstrak pracetak itu: “tidak ada hambatan yang jelas untuk membangun sistem AI yang sadar.” Saat pertama kali membaca kata-kata itu, saya merasa seolah sebuah ambang batas penting telah terlampaui, dan itu bukan sekadar batasan teknologi. Tidak, ini berkaitan dengan identitas kita sebagai spesies.
Apa artinya bagi umat manusia jika suatu hari di masa depan yang tidak terlalu jauh, kita menemukan bahwa sebuah mesin yang sepenuhnya sadar telah hadir di dunia? Saya menduga itu akan menjadi momen Copernican, yang tiba-tiba menggeser rasa sentralitas dan keistimewaan kita. Kami, manusia, telah menghabiskan beberapa ribu tahun mendefinisikan diri dalam oposisi terhadap hewan-hewan “yang lebih rendah.” Ini melibatkan penyangkalan terhadap hewan atas sifat-sifat yang dianggap unik manusia seperti perasaan (salah satu kesalahan Descartes yang paling mencolok), bahasa, nalar, dan kesadaran. Dalam beberapa tahun terakhir, sebagian besar pembedaan ini telah runtuh seiring para ilmuwan menunjukkan bahwa banyak spesies yang cerdas dan sadar, memiliki perasaan, serta menggunakan bahasa dan alat, yang pada prosesnya menantang berabad-abad paham eksklusivitas manusia. Pergeseran ini, yang masih berlangsung, telah memunculkan pertanyaan-pertanyaan sulit tentang identitas kita, juga tentang kewajiban moral kita terhadap spesies lain.
Dengan AI, ancaman terhadap konsep diri kita yang diagungkan datang dari arah yang sama sekali berbeda. Kini kita manusia harus mendefinisikan diri dalam hubungannya dengan AI, bukan dengan hewan lain. Ketika algoritma komputer melampaui kita dalam hal kekuatan berpikir—dengan mudah mengalahkan kita dalam permainan seperti catur dan Go serta berbagai bentuk pemikiran “lebih tinggi” seperti matematika—kita setidaknya dapat menghibur diri dengan fakta bahwa kita (dan banyak spesies hewan lain) masih memiliki berkat dan beban kesadaran, kemampuan untuk merasakan dan mengalami subjektivitas. Dalam arti ini, AI mungkin berperan sebagai musuh bersama, yang mendekatkan manusia dan hewan lain: kami melawannya, yang hidup versus mesin. Solidaritas baru ini akan menjadi cerita yang menghangatkan hati dan mungkin merupakan kabar baik bagi hewan-hewan yang diajak bergabung dengan Tim Sadar. Tetapi apa yang terjadi jika AI mulai menantang monopoli kesadaran yang dimiliki manusia—atau hewan, harus saya katakan? Siapakah kita nantinya?