Setelah ChatGPT OpenAI meledak ke panggung dunia pada akhir 2022, tidak butuh waktu lama bagi masyarakat Amerika arus utama untuk mulai mendengar berbagai peringatan. Eksekutif puncak perusahaan-perusahaan AI terkemuka mengatakan bahwa mereka sedang membangun teknologi baru yang radikal dan menimbulkan risiko mendesak bagi masyarakat. Dan ini bukan cuma tentang keamanan digital. AI diyakini memiliki kekuatan untuk menghancurkan seluruh dunia.
Sejak awal, sudah jelas bahwa peringatan-peringatan ini tidak hanya merupakan prediksi tulus tentang perilaku AI dan efek beruntun yang akan ditimbulkannya, tetapi juga taktik penjualan. Para eksekutif AI bahkan memberi kesaksian di depan Kongres untuk menceritakan betapa menakutkannya semua ini, secara praktis memohon untuk diregulasi, sambil pada saat yang sama memasarkan produk mereka kepada pemerintah. Kini, para eksekutif yang sama itu justru menyuruh semua orang untuk tenang.
Chris Lehane, kepala kebijakan global OpenAI, baru-baru ini memberikan wawancara kepada San Francisco Standard menyusul setidaknya satu serangan terhadap rumah CEO Sam Altman.
“Sebagian dari percakapan di luar sana tidak necessarily bertanggung jawab,” kata Lehane kepada Standard. “Dan ketika Anda menyebarkan pemikiran dan ide-ide semacam itu, konsekuensinya memang nyata.”
Lehane merujuk pada pelaku yang diduga melemparkan bom molotov ke rumah Altman seminggu sebelumnya. Daniel Moreno-Gama, 20 tahun, dari Texas, didakwa telah melemparkan alat pembakar ke rumah Altman sebelum pergi ke markas OpenAI, di mana ia memukul pintu kaca dengan sebuah kursi.
Menurut polisi, Moreno-Gama membawa “dokumen” anti-AI, yang mengisyaratkan motivasinya terkait kekhawatiran akan kecerdasan buatan dan ancaman eksistensial. The Wall Street Journal melaporkan bahwa dia pernah menyerukan “melakukan ‘Luigi’ pada beberapa CEO teknologi,” merujuk pada Luigi Mangione, yang didakwa atas pembunuhan terhadap CEO UnitedHealth.
Insiden kedua, hanya dua hari kemudian, di mana dua orang diduga menembakkan senjata di dekat rumah Altman, masih dalam penyelidikan, meski tersangka awal sudah dibebaskan dari penjara.
Lehane membagi dunia menjadi dua kelompok: mereka yang berpikir AI adalah hal terhebat yang akan membawa dunia pada kelimpahan dan waktu luang; dan mereka yang ia sebut ‘doomers’, yang “memiliki pandangan yang sangat, sangat negatif dan suram tentang kemanusiaan.”
Menurut Lehane, para ‘doomer’ AI ini belum terjual dengan baik pada manfaat teknologi baru ini. “Tugas kami di OpenAI dan di ranah AI — dan kami harus bekerja lebih baik — adalah menjelaskan kepada orang-orang mengapa… ini akan sangat baik bagi mereka, keluarga mereka, dan masyarakat secara luas,” ujar Lehane.
Tapi sulit untuk menerima argumen itu secara serius setelah segala hal yang diucapkan orang-orang seperti Altman. Ini bahkan bukan dimulai pada 2022. Kembali pada 2015, Altman pernah berkata, “Saya pikir AI mungkin, besar kemungkinannya, akan mengarah pada akhir dunia. Tapi sementara itu, akan ada perusahaan-perusahaan hebat yang tercipta dengan pembelajaran mesin yang serius.”
Bagaimana mungkin seseorang mendengar pernyataan seperti itu dari seorang yang berkuasa dan hanya menerimanya? Hanya ada dua pilihan: Menganggap Altman tidak serius dan berasumsi umat manusia tak perlu berbuat apa-apa. Atau, menerima kata-kata para CEO teknologi bahwa teknologi yang mereka bangun bisa mengakhiri dunia. Yang kemudian meninggalkan pertanyaan: apa yang bisa Anda lakukan terhadap hal itu.
Tak Ada Takdir Selain yang Kita Buat
Kita tahu apa yang terjadi dalam fiksi distopia. Dalam Terminator 2: Judgement Day, Sarah Connor memutuskan mereka harus membunuh peneliti yang paling bertanggung jawab memulai Skynet dan kebangkitan mesin. Dia tidak tega melakukannya, tetapi setelah dijelaskan apa yang akan terjadi di masa depan, peneliti itu justru membantu mendapatkan akses ke teknologi tersebut agar dapat dihancurkan.
Altman juga pernah memperingatkan bahwa AI bisa digunakan untuk “mendesain patogen biologis novel” dan menandatangani surat tentang “risko kepunahan” jika AI tidak dikendalikan. Tapi dia juga berusaha klaim bahwa AS-lah yang harus mengembangkan teknologi yang berpotensi katastrofik ini, karena menyerahkannya kepada pesaing geopolitik justru mengandung risikonya sendiri.
“AGI supercerdas yang tidak selaras bisa menyebabkan bahaya besar bagi dunia; rezim otokratis dengan keunggulan superintelligence yang menentukan juga bisa melakukan hal yang sama,” tulis Altman dalam blog tahun 2023.
Saya beralih ke produk Altman, ChatGPT, untuk menanyakan tentang komentarnya mengenai ancaman eksistensial bagi umat manusia. Khususnya, saya tanyakan apakah Altman pernah berbicara tentang AI nakal atau akhir dunia di podcast Joe Rogan. Lucunya, ChatGPT mengatakan dia belum pernah tampil di Rogan. Padahal, Altman memang tampil di Episode 2044 Joe Rogan Experience, yang pertama rilis pada 6 Oktober 2023.
Saya koreksi ChatGPT, dan ia memberikan respon klise, ‘Anda benar, dsb.’ Kutipan yang diberikannya:
“Ada risiko… jika teknologi ini salah, ia bisa salah secara signifikan.”
“Hal yang saya khawatirkan adalah kita kehilangan kendali atas sistem…”
“Ini bisa menjadi sangat, sangat salah… salah total.”
Kutipan terakhir itu tidak akurat, sepengetahuan saya. Tidak ada di transkrip YouTube untuk episode tersebut. Tapi Altman memang mengatakan sesuatu yang sangat mirip dalam wawancara dengan podcast StrictlyVC. “Skenario buruk—dan saya rasa ini penting untuk dikatakan—adalah, semacam, padam total bagi kita semua,” jelas Altman di depan sejumlah orang. Mirip, tapi tidak persis, yang mungkin menunjukkan bagaimana sistem AI gagal memenuhi kebutuhan pengalaman hidup orang.
CEO Anthropic Dario Amodei juga membuat pernyataan serupa, mengatakan kepada Axios awal tahun ini bahwa, “Umat manusia akan diserahi kekuatan yang hampir tak terbayangkan, dan sangat tidak jelas apakah sistem sosial, politik, dan teknologi kita memiliki kematangan untuk mengelolanya.” Amodei mengklaim bahwa “otoritarianisme yang dibantu AI membuat saya takut.”
Amodei juga memperingatkan bahwa siapa pun dengan gelar STEM bisa membuat senjata biologi dengan bantuan model AI, dan ia menyerukan pembatasan. Beberapa pembatasan itu justru membuat Anthropic dalam masalah, karena Pentagon memblacklist perusahaan tersebut dan sedang dalam proses membersihkan Claude dari sistemnya. Amodei menolak mencabut proteksi yang melarang penggunaan Claude untuk pengawasan massa domestik dan sistem senjata otonom.
Jika seseorang bersaksi bahwa mereka telah membuat alat yang berpotensi mengakhiri dunia, Anda akan berharap orang itu segera digiring dengan diborgol. Itu adalah ide yang sampai ke saya dari pihak ketiga beberapa tahun lalu, dan saya berharap tahu siapa yang awalnya mengatakannya. Tapi itu tepat sekali.
Bayangkan dalam konteks lain. Seseorang mengatakan mereka telah membangun senjata yang bisa menjadi nakal dan secara harfiah mengakhiri kehidupan di Bumi. Apakah pemerintah federal hanya bertindak seolah-olah satu-satunya perbaikan adalah regulasi ringan yang cuma menyentuh permukaan? Atau para eksekutif perusahaan itu ditangkap dan dijebloskan ke penjara karena membuat ancaman teroris?
Mengancam Penghidupan Sama Saja Mengancam Nyawa
Selain kebangkitan Skynet, ada hal mendesak lain yaitu penggantian pekerjaan. Banyak perusahaan telah mengutip AI sebagai alasan pengurangan karyawan dalam setahun terakhir, meski kadang mereka punya insentif untuk menggunakan itu sebagai alasan yang convenient. Namun tak dapat disangkal bahwa AI kini sudah cukup mahir dalam menulis dan pekerjaan kerah putih lainnya untuk menyebabkan gangguan tertentu di pasar tenaga kerja.
Para CEO AI sangat ingin memberitahu semua orang bahwa gangguan ini akan datang, bersikeras bahwa pemerintah harus melakukan sesuatu, sambil juga melobi pemerintah yang sama untuk menjauhkan diri dari urusan mereka. Mungkin tak ada yang lebih mencerminkan sikap ini selain Elon Musk, yang perusahaannya xAI membuat chatbot AI Grok.
“Pendapatan tinggi universal melalui cek yang diterbitkan pemerintah federal adalah cara terbaik untuk menangani pengangguran akibat AI,” tulis Musk di X pada Jumat. “AI/robotika akan memproduksi barang & jasa jauh melebihi peningkatan pasokan uang, sehingga tidak akan ada inflasi.”
Saya pernah berargumen bahwa adalah konyol bagi Musk untuk bersikeras kita akan memiliki dunia kelimpahan utopis yang disediakan pemerintah. Selama masa Musk sebagai ‘henchman’ Presiden Trump tahun lalu, miliarder itu membantu penghancuran total USAID, memotong pendanaan untuk program vital, dan mengkritik orang-orang yang diklaimnya memeras sistem.
Departemen Efisiensi Pemerintahannya (DOGE) membantu memecat sekitar 300.000 pegawai federal, dan dia menjadikan misinya untuk mengatakan bahwa orang-orang yang tidak layak tidak pantas menerima bantuan pemerintah. Kini, orang inikah yang mengatakan kita tak perlu khawatir dengan AI karena pemerintah akan membagikan uang gratis? Sungguh absurd.
Mengapa ada yang mencoba menjual produk kepada publik dengan ide bahwa produk itu akan mengambil pekerjaan mereka? Karena penjualannya ditujukan untuk investor, pemerintah, dan orang-orang yang membeli software perusahaan. Anda sebaiknya fokus membuat avatar Anda terlihat seperti film Studio Ghibli.
Kelas Penguasa Tak Terpilih yang Menentukan Nasib Semua
Para elit AI semua menjual produk mereka sebagai sesuatu yang tak terelakkan. Bagian dari penjualan mereka adalah bahwa tidak ada yang bisa Anda lakukan untuk menghentikannya. Dan publik hanya perlu menerimanya sambil mencari cara untuk bekerja dalam sistem di mana AI menyebabkan kehilangan pekerjaan. Para oligark ini — dan mereka memang oligark, bersaing menjadi anggota favorit kelas penguasa — tidak terpilih. Tapi mereka tetap akan mendikte bagaimana hidup Anda dalam satu tahun, lima tahun, atau 20 tahun ke depan, jika Anda cukup beruntung selamat dari pemberontakan robot.
Altman sendiri menulis posting blog seminggu lalu setelah serangan ke rumahnya. Dia membagikan foto suami dan anaknya, “dengan harapan mungkin dapat mencegah orang berikutnya melemparkan bom molotov ke rumah kami, apapun pendapat mereka tentang saya.” Dan tampaknya Altman melakukan yang terbaik untuk memanusiakan dirinya guna mencegah serangan potensial lebih lanjut.
Apapun yang terjadi, terasa seperti para eksekutif AI telah menjebak diri mereka sendiri. Mereka telah memberi tahu semua orang bahwa produk mereka berpotensi menghancurkan segalanya. Mereka adalah para ‘doomer’, jika kita mau menyebutnya demikian, setidaknya ketika itu menguntungkan. Dan kini kita sepertinya memasuki era berbeda di mana orang-orang yang sama yang memberitahu kita tentang bahaya AI mencoba membuat kita hanya melihat pada apa yang mereka klaim sebagai manfaat besar bagi masyarakat; sejauh ini, dengan sedikit bukti nyata.
Tidak jelas bagaimana Anda memasukkan kembali jin ‘doomer’ itu ke dalam botolnya.