Laju perkembangan Kecerdasan Buatan yang begitu pesat telah menimbulkan kekhawatiran di banyak kalangan, seiring dengan persaingan perusahaan teknologi raksasa seperti Google, Grok, Meta, dan OpenAI untuk menciptakan model terpintar dengan kecepatan tinggi. Meskipun manfaat yang dapat diberikan AI bagi umat manusia terlihat jelas, dampak negatifnya pun tak kalah nyata.
Isu dampak negatif ini belakangan banyak disorot, baik melalui fenomena AI psychosis maupun konsekuensi yang lebih tragis. Cara kita memandang, menangani, dan mengembangkan AI kemungkinan besar juga akan membawa manfaat besar bagi kemanusiaan.
Kekhawatiran ini telah berkembang sedemikian rupa hingga lebih dari 700 tokoh publik ternama telah menandatangani sebuah pernyataan yang mendeklarasikan pelarangan terhadap pengembangan kecerdasan super AI hingga pengembangannya dapat dilakukan dengan aman dan mendapat dukungan publik yang kuat.
Pernyataan yang diterbitkan pada hari Kamis tersebut menyatakan bahwa pengembangan AI yang dapat mengungguli manusia di hampir semua tugas kognitif, terlebih dengan pengawasan yang minimal, sangatlah mengkhawatirkan. Menurut kelompok tersebut, kekhawatiran akan hilangnya kebebasan, risiko keamanan nasional, hingga kepunahan umat manusia menjadi perhatian utama.
—
Jangan lewatkan konten teknologi dan ulasan berbasis lab kami yang tidak memihak. Tambahkan CNET sebagai sumber pilihan di Google.
—
Beberapa penandatangan berasal dari tokoh-tokoh terkemuka, termasuk "bapak baptis AI" Yoshua Bengio dan Geoffrey Hinton, mantan pembuat kebijakan, serta selebritas seperti Kate Bush dan Joseph Gordon-Levitt.
Elon Musk sendiri sebelumnya telah memperingatkan bahaya AI, bahkan sampai menyatakan bahwa manusia "sedang memanggil iblis" dengan AI. Musk bahkan pernah menandatangani surat serupa bersama pemimpin teknologi lainnya pada awal 2023, yang mendesak dihentikannya sementara pengembangan AI.
Future of Life Institute juga merilis jajak pendapat nasional pekan ini, yang menunjukkan hanya 5% warga Amerika yang disurvei mendukung pengembangan superintelijen yang cepat dan tidak diatur seperti saat ini. Lebih dari separuh responden—64%—menyatakan bahwa AI supercerdas seharusnya tidak dikembangkan sampai terbukti aman dan dapat dikendalikan, dan 73% menginginkan regulasi yang kuat atas AI canggih.
Pihak-pihak yang tertarik juga dapat menandatangani pernyataan tersebut, dengan jumlah penandatangan saat artikel ini ditulis mencapai 27.700 orang.