Persaingan global untuk menguasai kecerdasan buatan (AI) sudah sangat panas. Tapi, salah satu ilmuwan komputer terkemuka dunia memperingatkan bahwa perusahaan teknologi besar sedang berjudi dengan masa depan umat manusia secara sembrono.
Pendapat tentang AI sering terbagi dua: yang memuji teknologi ini sebagai pengubah dunia, dan yang mendesak pengendalian sebelum ia menjadi ancaman yang tak terkendali. Stuart Russell, peneliti AI terkenal dari UC Berkeley, termasuk kelompok kedua. Kekhawatiran utamanya adalah pemerintah dan pengawas kesulitan mengikuti kecepatan perkembangan teknologi ini. Sektor swasta jadi terlibat dalam perlombaan yang berbahaya, mirip dengan persaingan mematikan di masa Perang Dingin.
"Menurut saya, membiarkan perusahaan swasta bermain Russian roulette dengan nasib setiap manusia di Bumi adalah kelalaian tugas yang total," kata Russell dalam wawancara dengan AFP.
Para CEO teknologi sibuk dalam "perlombaan senjata" untuk menciptakan model AI terbaik. Industri ini mengatakan AI akan membawa kemajuan besar di penelitian obat dan produktivitas. Tapi, banyak yang mengabaikan risikonya. Dalam skenario terburuk, Russell percaya inovasi yang terlalu cepat tanpa regulasi bisa bikin manusia punah.
Russell paham risiko eksistensial AI. Ilmuwan asal Inggris ini sudah meneliti AI selama lebih dari 40 tahun. Pada 2016, dia mendirikan pusat penelitian di Berkeley yang fokus pada keamanan AI.
Di New Delhi, Russell menyatakan bahwa perusahaan dan pemerintah masih jauh dari tujuan menciptakan AI yang aman. Kritiknya fokus pada sistem yang bisa jadi lebih kuat dari penciptanya, dan menjadikan peradaban manusia sebagai "kerusakan sampingan".
Para CEO perusahaan AI besar sebenarnya sadar akan bahaya ini. Tapi mereka terperangkap oleh tekanan pasar. "Saya yakin setiap CEO perusahaan AI utama ingin melucuti senjata," ujar Russell. Namun, mereka tidak bisa melakukannya sendiri karena akan segera dikalahkan pesaing dan dipecat oleh investor.
Perang Dingin yang Baru
Dulu, pembicaraan tentang risiko kepunahan umat manusia hanya terkait dengan senjata nuklir di era Perang Dingin. Sekarang, kerangka pikir yang sama digunakan untuk era AI. Persaingan AS dan China sering disebut sebagai "perlombaan senjata" AI, penuh dengan kerahasiaan dan taruhan tinggi, mirip dengan persaingan nuklir dulu.
Presiden Rusia Vladimir Putin pernah berkata, "Siapa pun yang menjadi pemimpin di bidang ini akan menjadi penguasa dunia."
Perlombaan senjata ini tidak diukur dari jumlah hulu ledak, tapi dari uang yang dihabiskan. Negara dan perusahaan kini menghabiskan ratusan miliar dolar untuk pusat data yang butuh energi besar. Di AS saja, pengeluaran untuk AI diperkirakan akan lebih dari 600 miliar dolar tahun ini.
Tapi, tindakan agresif perusahaan belum diimbangi dengan regulasi yang ketat. "Sangat membantu jika setiap pemerintah memahami masalah ini. Itulah sebabnya saya ada di sini," kata Russell tentang konferensi di India itu.
China dan Uni Eropa termasuk yang mengambil sikap tegas dalam mengatur AI. Di tempat lain, pendekatannya lebih longgar. Pemerintah India memilih pendekatan yang tidak banyak aturan. Sementara di AS, pemerintahan Trump mendukung ide-ide pro-pasar untuk AI dan berusaha menghapus banyak peraturan di tingkat negara bagian agar perusahaan bisa lebih bebas.