Tetap terinformasi dengan pembaruan gratis
Cukup daftar ke Digest Kecerdasan Buatan myFT – langsung dikirimkan ke kotak masuk email Anda.
Penulis adalah seorang komentator ilmu pengetahuan
Percakapan tentang apakah kecerdasan Buatan akan mencapai atau melampaui kecerdasan manusia biasanya diatur sebagai risiko eksistensial bagi Homo sapiens. Sebuah pasukan robot bangkit, gaya Frankenstein, dan berbalik melawan penciptanya. Sistem AI otonom yang diam-diam menangani bisnis pemerintah dan korporat suatu hari menghitung bahwa dunia akan beroperasi lebih lancar jika manusia dihilangkan dari lingkaran.
Sekarang para filsuf dan peneliti AI bertanya: apakah mesin-mesin ini akan mengembangkan kemampuan untuk merasa bosan atau terluka? Pada bulan September, perusahaan AI Anthropic menunjuk seorang peneliti “kesejahteraan AI” untuk menilai, antara lain, apakah sistemnya sedang menuju kesadaran atau agensi, dan, jika ya, apakah kesejahteraan mereka harus dipertimbangkan. Minggu lalu, sekelompok peneliti internasional menerbitkan laporan tentang isu yang sama. Kecepatan perkembangan teknologi, tulis mereka, membawa “kemungkinan realistis bahwa beberapa sistem AI akan sadar dan/atau berdaya tahan secara kuat, dan dengan demikian, bermakna secara moral, dalam waktu dekat”.
Idenya untuk merasa khawatir tentang perasaan AI terdengar aneh tetapi mengungkapkan paradoks di tengah dorongan besar AI: bahwa perusahaan sedang berlomba untuk membangun sistem-sistem buatan yang lebih cerdas dan lebih mirip dengan kita, sambil juga khawatir bahwa sistem buatan akan menjadi terlalu cerdas dan terlalu mirip dengan kita. Karena kita tidak sepenuhnya memahami bagaimana kesadaran, atau rasa diri, muncul dalam otak manusia, kita tidak dapat benar-benar yakin itu tidak akan muncul dalam otak buatan. Yang tampak luar biasa, mengingat implikasi mendalam bagi spesies kita sendiri dari menciptakan “pikiran-pikiran” digital, adalah bahwa tidak ada pengawasan eksternal yang lebih banyak tentang kemana arah sistem-sistem ini menuju.
Laporan yang berjudul Menganggap Kesejahteraan AI Serius, ditulis oleh peneliti di Eleos AI, sebuah think-tank yang didedikasikan untuk “menyelidiki kecerdasan dan kesejahteraan AI”, bersama dengan para penulis termasuk filsuf New York University David Chalmers, yang berpendapat bahwa dunia maya adalah dunia nyata, dan Jonathan Birch, seorang akademisi di London School of Economics yang buku terbarunya, The Edge of Sentience, menawarkan kerangka kerja untuk berpikir tentang pikiran hewan dan AI.
Laporan tersebut tidak mengklaim bahwa kecerdasan AI (kemampuan untuk merasakan sensasi seperti rasa sakit) atau kesadaran mungkin atau dekat, hanya bahwa “ada ketidakpastian substansial tentang kemungkinan-kemungkinan ini”. Mereka menarik paralel dengan ketidaktahuan sejarah kita tentang status moral hewan non-manusia, yang memungkinkan peternakan massal; baru pada tahun 2022, dengan bantuan karya Birch, kepiting, lobster, dan gurita dilindungi berdasarkan Undang-Undang Kesejahteraan Hewan (Kesadaran) Inggris.
Intuisi manusia, mereka memperingatkan, adalah panduan yang buruk: spesies kita sendiri rentan terhadap baik antropomorfisme, yang memberikan sifat-sifat manusiawi kepada non-manusia yang sebenarnya tidak memiliki, maupun antropodenial, yang menyangkal sifat manusia kepada non-manusia yang sebenarnya memiliki.
Laporan itu merekomendasikan agar perusahaan menganggap serius masalah kesejahteraan AI; bahwa para peneliti menemukan cara untuk menyelidiki kesadaran AI, mengikuti jejak ilmuwan yang mempelajari hewan non-manusia; dan bahwa pembuat kebijakan mulai mempertimbangkan gagasan tentang AI yang sadar atau kesadaran, bahkan mengumpulkan majelis warga untuk mengeksplorasi isu-isu tersebut.
Argumen-argumen itu telah mendapat dukungan dalam komunitas penelitian tradisional. “Saya pikir kesadaran buatan yang sebenarnya tidak mungkin, tetapi tidak tidak mungkin,” kata Anil Seth, profesor neurosains kognitif dan komputasi di University of Sussex dan seorang peneliti kesadaran terkemuka. Dia percaya bahwa rasa diri kita terkait dengan biologi kita dan lebih dari sekadar komputasi semata.
Tetapi jika dia salah, seperti yang dia akui mungkin terjadi, konsekuensinya bisa besar: “Menciptakan AI sadar akan menjadi bencana etis karena kita akan memperkenalkan ke dunia bentuk-bentuk subjek moral baru dan potensial bentuk-bentuk penderitaan baru, dalam skala industri.” Tidak seorang pun, tambah Seth, seharusnya mencoba membangun mesin-mesin seperti itu.
Ilusi kesadaran terasa sebagai keprihatinan yang lebih dekat. Pada tahun 2022, seorang insinyur Google dipecat setelah mengatakan bahwa ia percaya chatbot AI perusahaan menunjukkan tanda-tanda kesadaran. Anthropic telah “melatih karakter” model bahasanya yang besar untuk memberinya sifat-sifat seperti pemikiran.
Saat mesin-mesin di mana-mana, terutama LLM, dibuat untuk lebih mirip manusia, kita berisiko dibohongi secara massal oleh perusahaan yang terbatas oleh sedikit pemeriksaan dan keseimbangan. Kita berisiko peduli pada mesin-mesin yang tidak dapat memberikan balasan, mengalihkan sumber daya moral kita yang terbatas dari hubungan yang penting. Intuisi manusia saya yang tidak sempurna lebih sedikit khawatir tentang pikiran-pikiran AI yang mendapatkan kemampuan untuk merasa – dan lebih tentang pikiran manusia yang kehilangan kemampuan untuk peduli.