Sebuah surat terbuka baru, yang ditandatangani oleh banyak ilmuwan AI, selebriti, pembuat kebijakan, dan pemimpin agama, menyerukan larangan pengembangan “kecerdasan super”—sebuah teknologi AI hipotetis yang bisa melebihi kecerdasan seluruh umat manusia—sampai teknologi itu terbukti aman dan bisa dikendalikan.
Beberapa penandatangan yang terkenal termasuk perintis AI dan pemenang Nobel Geoffrey Hinton, tokoh AI lain seperti Yoshua Bengio dan Stuart Russell, serta pemimpin bisnis seperti Richard Branson dari Virgin dan Steve Wozniak dari Apple. Juga ditandatangani oleh selebriti, termasuk aktor Joseph Gordon-Levitt (yang baru-baru ini menyampaikan kekhawatiran tentang produk AI Meta), will.i.am, dan Pangeran Harry dan Meghan. Tokoh kebijakan dan keamanan nasional yang beragam, dari sekutu Trump Steve Bannon sampai Mike Mullen, juga ada dalam daftar lebih dari 1.000 penandatangan lainnya.
Jajak pendapat baru yang dilakukan bersamaan dengan surat terbuka ini, yang ditulis dan disebarkan oleh organisasi nirlaba Future of Life Institute, menemukan bahwa publik umumnya setuju dengan seruan untuk menghentikan sementara pengembangan teknologi AI yang sangat kuat.
Di AS, jajak pendapat menemukan bahwa hanya 5% orang dewasa AS yang mendukung pengembangan AI tanpa aturan, sementara 64% setuju bahwa kecerdasan super tidak boleh dikembangkan sampai terbukti aman dan bisa dikendalikan. Jajak pendapat itu menemukan bahwa 73% menginginkan regulasi yang kuat untuk AI canggih.
“95% orang Amerika tidak ingin ada perlombaan menuju kecerdasan super, dan para ahli ingin melarangnya,” kata presiden Future of Life Max Tegmark dalam pernyataannya.
Kecerdasan super secara luas didefinisikan sebagai jenis kecerdasan buatan yang mampu mengalahkan seluruh umat manusia di sebagian besar tugas kognitif. Saat ini belum ada kesepakatan kapan atau apakah kecerdasan super akan tercapai, dan perkiraan waktu dari para ahli masih spekulatif. Beberapa perkiraan yang lebih agresif mengatakan kecerdasan super bisa dicapai pada akhir tahun 2020-an, sementara pandangan yang lebih konservatif menundanya lebih lama atau mempertanyakan kemampuan teknologi saat ini untuk mencapainya.
Beberapa lab AI terkemuka, termasuk Meta, Google DeepMind, dan OpenAI, secara aktif mengejar tingkat AI canggih ini. Surat itu menyerukan kepada lab-lab AI terkemuka ini untuk menghentikan pencarian mereka sampai ada “konsensus ilmiah yang luas bahwa ini akan dilakukan dengan aman dan terkendali, serta dukungan publik yang kuat.”
“Sistem AI terdepan bisa melampaui kebanyakan individu dalam sebagian besar tugas kognitif hanya dalam beberapa tahun ke depan,” kata Yoshua Bengio, ilmuwan komputer pemenang Turing Award, yang bersama Hinton dianggap sebagai salah satu “bapak baptis” AI. “Untuk maju dengan aman menuju kecerdasan super, kita harus menentukan secara ilmiah bagaimana merancang sistem AI yang pada dasarnya tidak mampu menyakiti orang, baik karena ketidakselarasan atau penggunaan jahat. Kita juga perlu memastikan publik memiliki suara yang jauh lebih kuat dalam keputusan yang akan membentuk masa depan kolektif kita,” katanya.
Para penandatangan menyatakan bahwa pencarian kecerdasan super menimbulkan risiko serius terhadap perpindahan ekonomi dan hilangnya kekuasaan, serta merupakan ancaman bagi keamanan nasional dan kebebasan sipil. Surat itu menuduh perusahaan teknologi mengejar teknologi yang berpotensi berbahaya ini tanpa pengaman, pengawasan, dan tanpa persetujuan publik yang luas.
“Untuk mendapatkan yang terbaik dari apa yang AI tawarkan kepada umat manusia, sama sekali tidak perlu meraih tujuan kecerdasan super yang tidak diketahui dan sangat berisiko, yang sejauh ini merupakan batasan yang terlalu jauh. Pada dasarnya, ini akan menghasilkan kekuatan yang tidak bisa kita pahami ataupun kendalikan,” kata aktor Stephen Fry dalam pernyataannya.