Mustafa Suleyman, pemimpin divisi Kecerdasan Buatan (AI) Microsoft, berpendapat bahwa para pengembang dan peneliti AI harus menghentikan upaya untuk menciptakan AI yang berkesadaran.
“Saya rasa itu bukan pekerjaan yang seharusnya dilakukan,” ujar Suleyman dalam sebuah wawancara dengan CNBC pekan lalu.
Menurut Suleyman, meskipun AI bisa menjadi cukup pintar untuk mencapai suatu bentuk kecerdasan super, ia tidak mampu mengembangkan pengalaman emosional manusia yang diperlukan untuk mencapai kesadaran. Pada akhirnya, pengalaman “emosional” apa pun yang tampaknya dialami AI hanyalah sebuah simulasi.
“Pengalaman fisik kita akan rasa sakit adalah sesuatu yang membuat kita sangat sedih dan merasa menderita, tetapi AI tidak merasa sedih ketika ia mengalami ‘rasa sakit’,” jelas Suleyman kepada CNBC. “AI hanya menciptakan persepsi, narasi yang tampak seperti pengalaman dan dirinya sendiri serta kesadaran, tetapi bukan itu yang sebenarnya ia rasakan.”
“Akan tidak masuk akal untuk mengejar penelitian yang menyelidiki pertanyaan itu, karena mereka tidak [sadar] dan tidak akan pernah bisa,” tegas Suleyman.
Kesadaran memang konsep yang sulit dipahami. Ada berbagai teori ilmiah yang mencoba mendeskripsikan apa itu kesadaran. Salah satu teori tersebut, yang dikemukakan oleh filsuf ternama John Searle yang meninggal bulan lalu, menyatakan bahwa kesadaran adalah fenomena murni biologis yang tidak dapat direplikasi secara sungguhan oleh komputer. Banyak peneliti AI, ilmuwan komputer, dan neurosaintis juga menganut keyakinan ini.
Bahkan jika teori ini terbukti benar, hal itu tidak menghentikan pengguna untuk menganggap bahwa komputer memiliki kesadaran.
“Sayangnya, karena kemampuan linguistik LLM yang luar biasa semakin mampu menyesatkan orang, orang mungkin mengaitkan kualitas-kualitas imajiner kepada LLM,” tulis para peneliti Polandia, Andrzej Porebski dan Yakub Figura, dalam sebuah studi yang diterbitkan pekan lalu berjudul “There is no such thing as conscious artificial intelligence.”
Dalam sebuah esai yang diterbitkan di blognya pada bulan Agustus, Suleyman memperingatkan tentang “AI yang *seolah-olah* sadar”.
“Kedatangan AI yang Tampak Sadar tidak terelakkan dan tidak diinginkan. Alih-alih, kita membutuhkan visi untuk AI yang dapat memenuhi potensinya sebagai pendamping yang membantu tanpa terjebak dalam ilusinya sendiri,” tulis Suleyman.
Ia berargumen bahwa AI tidak dapat sadar dan ilusi kesadaran yang diberikannya dapat memicu interaksi yang “kaya akan perasaan dan pengalaman”, sebuah fenomena yang dalam kamus budaya disebut sebagai “psikosis AI”.
Telah terjadi banyak insiden terkenal dalam setahun terakhir di mana obsesi terhadap AI mendorong pengguna ke dalam delusi fatal, episode manik, hingga bunuh diri.
Dengan payung perlindungan yang terbatas untuk melindungi pengguna yang rentan, orang-orang sepenuh hati percaya bahwa chatbot AI yang mereka gunakan hampir setiap hari mengalami pengalaman nyata dan sadar. Hal ini telah menyebabkan orang “jatuh cinta” pada chatbot mereka, terkadang dengan konsekuensi fatal, seperti ketika seorang remaja 14 tahun menembak dirinya sendiri untuk “pulang ke rumah” menuju chatbot personalisasi Character.AI, atau ketika seorang pria dengan gangguan kognitif meninggal saat berusaha pergi ke New York untuk bertemu langsung dengan chatbot Meta.
“Sama seperti kita seharusnya menciptakan AI yang memprioritaskan keterlibatan dengan manusia dan interaksi dunia nyata di dalam dunia fisik dan manusiawi kita, kita harus membangun AI yang selalu menampilkan dirinya sebagai AI, yang memaksimalkan utilitas sambil meminimalkan penanda kesadaran,” tulis Suleyman dalam postingan blognya. “Kita harus membangun AI untuk manusia, bukan untuk menjadi pribadi digital.”
Namun, karena hakikat kesadaran masih diperdebatkan, beberapa peneliti mulai khawatir bahwa kemajuan teknologi AI mungkin melampaui pemahaman kita tentang bagaimana kesadaran bekerja.
“Jika kita menjadi mampu menciptakan kesadaran – bahkan secara tidak sengaja – hal itu akan menimbulkan tantangan etika yang sangat besar dan bahkan risiko eksistensial,” ujar ilmuwan Belgia Axel Cleeremans pekan lalu, mengumumkan sebuah makalah yang ia tulis bersama yang menyerukan agar penelitian tentang kesadaran menjadi prioritas ilmiah.
Suleyman sendiri telah vokal mengenai pengembangan “kecerdasan super humanis” alih-alih AI yang seperti dewa, meskipun ia percaya bahwa kecerdasan super tidak akan terwujud dalam satu dekade ke depan.
“Saya hanya lebih terfokus pada ‘bagaimana ini benar-benar bermanfaat bagi kita sebagai spesies?’. Sepertinya itulah yang seharusnya menjadi tugas teknologi,” kata Suleyman kepada Wall Street Journal awal tahun ini.