Para ahli yang mempelajari perang nuklir yakin bahwa kecerdasan buatan akan segera mengendalikan senjata mematikan ini. Namun, tak satupun dari mereka yang benar-benar paham apa implikasinya.
Pertengahan Juli lalu, para peraih Nobel berkumpul di Universitas Chicago untuk mendengar para pakar perang nuklir berbicara tentang akhir dunia. Dalam sesi tertutup selama dua hari, ilmuwan, mantan pejabat pemerintah, dan personel militer pensiunan memberikan pencerahan kepada para peraih Nobel tentang senjata paling menghancurkan yang pernah dibuat. Tujuannya adalah memberi pemahaman kepada para tokoh terhormat ini tentang salah satu senjata paling mengerikan, dan pada akhirnya, meminta mereka memberikan rekomendasi kebijakan kepada pemimpin dunia tentang cara menghindari perang nuklir.
AI menjadi topik utama. "Kita memasuki dunia baru di mana kecerdasan buatan dan teknologi baru memengaruhi kehidupan sehari-hari, sekaligus dunia nuklir tempat kita hidup," ujar Scott Sagan, profesor Stanford yang dikenal lewat penelitiannya tentang pelucutan senjata nuklir, dalam konferensi pers usai diskusi.
Pernyataan ini mengasumsikan bahwa penggabungan AI dan senjata nuklir oleh pemerintah adalah hal yang tak terhindarkan—keyakinan yang dipegang oleh semua orang yang saya ajak bicara di Chicago.
"Seperti listrik," kata Bob Latiff, pensiunan mayor jenderal Angkatan Udara AS dan anggota Science and Security Board Bulletin of the Atomic Scientists. "AI akan merambah ke segala bidang." Latiff adalah salah satu orang yang membantu menetapkan Doomsday Clock setiap tahun.
"Diskusi tentang AI dan nuklir terhambat oleh beberapa masalah besar. Pertama, tak ada yang benar-benar mengerti apa itu AI," ujar Jon Wolfsthal, ahli nonproliferasi yang menjabat direktur risiko global di Federation of American Scientists dan pernah menjadi asisten khusus Barack Obama.
"Apa artinya memberi AI kendali atas senjata nuklir? Apa artinya memberi [chip komputer] kendali atas senjata nuklir?" tanya Herb Lin, profesor Stanford dan mantan anggota Doomsday Clock. "Salah satu masalahnya adalah model bahasa besar telah mendominasi perdebatan."
Kabar baiknya: tak ada yang mengira ChatGPT atau Grok akan mendapat kode nuklir dalam waktu dekat. Wolfsthal mengatakan bahwa meski para ahli nuklir memiliki perbedaan "teologis," mereka sepakat dalam hal ini. "Di bidang ini, hampir semua orang setuju bahwa kita ingin pengambilan keputusan senjata nuklir tetap di tangan manusia," jelasnya.
Namun, Wolfsthal mendengar kabar tentang penggunaan LLM yang mengkhawatirkan di pusat kekuasaan AS. "Beberapa orang bilang, ‘Saya hanya ingin menyediakan komputer interaktif untuk presiden agar ia bisa memprediksi tindakan Putin atau Xi, dan saya bisa menghasilkan dataset itu dengan sangat akurat. Saya bisa mengumpulkan semua yang pernah diucapkan atau ditulis Xi atau Putin tentang apa pun dan memiliki probabilitas statistik tinggi untuk mencerminkan pendapat Putin.’"*