Dunia Menuju Distopia AI yang Tak Terhindarkan
Menurut Mo Gawdat, mantan pejabat bisnis utama di moonshot factory Alphabet (dulu dikenal sebagai Google X), dunia sedang meluncur ke arah distopia AI yang tak terelakkan dalam waktu dekat.
"Kita harus bersiap menghadapi dunia yang sangat asing," ujar Gawdat dalam wawancara di podcast Diary of a CEO. Ia menambahkan bahwa nilai-nilai kunci manusia—seperti kebebasan, hubungan antar-manusia, tanggung jawab, realitas, dan kekuasaan—semuanya akan terganggu besar oleh AI.
Distopia ini bukanlah hal yang jauh. Tanda-tandanya sudah mulai terlihat sejak tahun lalu dan akan terus meningkat tahun depan, kata Gawdat. Ia memprediksi awal descent ke distopia ini dimulai pada 2027 dan berlangsung selama 12 hingga 15 tahun ke depan.
Awalnya, mantan eksekutif Google ini tidak berpandangan seperti ini. Namun, kecepatan perkembangan teknologi AI membuatnya berubah pikiran dan yakin bahwa distopia jangka pendek ini tak terelakan.
"Kita sepenuhnya bisa mengubahnya, tapi sayangnya, manusia saat ini belum cukup sadar untuk fokus pada ini," ucap Gawdat.
Tapi, AI bukanlah penyebab utama distopia ini, setidaknya bukan dalam cara yang kebanyakan orang bayangkan (misalnya, risiko eksistensial di mana AI mengambil alih kendali penuh). Gawdat justru melihat AI sebagai pengganda masalah sosial yang sudah ada dan "kebodohan manusia."
"Tidak ada yang salah dengan AI," tegasnya. "Yang salah adalah nilai-nilai manusia di era kebangkitan mesin."
Menuju Utopia, Tapi Malah Distopia
AI sebenarnya dikembangkan untuk misi yang cukup utopis: mengotomatisasi tugas-tugas biasa sehingga bisa meringankan beban kerja jutaan orang di berbagai bidang. Dengan begitu, manusia bisa mendapatkan lebih banyak waktu tanpa mengorbankan produktivitas.
Namun, dunia yang didominasi nilai kapitalisme telah mengubah mimpi ini. Alih-alih membantu, perusahaan yang memaksimalkan produktivitas dengan AI justru melakukan PHK, memperlambat rekrutmen, atau menambah beban kerja karyawan yang ada—semua demi keuntungan lebih besar.
"Semua teknologi yang pernah diciptakan memperbesar kemampuan dan nilai manusia yang sudah ada," jelas Gawdat. "Dan saat ini, nilai terbesar manusia adalah kapitalisme."
Ketidaksesuaian antara tujuan awal dan dampak negatif ini juga terjadi pada kemajuan teknologi lain.
"Seberapa sering media sosial menyatukan kita vs. membuat kita lebih kesepian? Seberapa sering ponsel benar-benar mengurangi kerja kita? Itu janjinya dulu, seperti iklan Nokia di mana orang-orang berpesta. Apakah itu pengalamanmu dengan ponsel?" tanya Gawdat.
"Kejahatan yang Bisa Dilakukan Manusia"
Menurut Gawdat, AI juga akan memperbesar "kejahatan yang bisa dilakukan manusia" hingga di luar kendali.
Dalam setahun terakhir, ini sudah terlihat. Mulai dari deepfake pornografi, penggunaan AI dalam peperangan untuk memaksimalkan kekuatan senjata otonom, hingga scam kripto yang dibantu AI—seperti yang sudah diperingatkan oleh CEO OpenAI sendiri, Sam Altman.
Menurut laporan TRM Labs, scam kripto melonjak 456% dalam setahun berkat teknologi deepfake. Bahkan, pakar perang nuklir khawatir AI bisa segera digunakan untuk mengendalikan senjata nuklir.
AI juga mempertajam metode surveillance publik dalam skala besar. Di banyak negara, sistem pengawasan berbasis AI sudah aktif—contoh paling jelas adalah infrastruktur pengawasan massal di Tiongkok. Tapi ini bukan hanya masalah luar negeri; pemerintah AS sekarang juga menggunakan AI untuk memantau media sosial imigran dan pelancong.
Tidak Semua Buruk, Tapi Perlu Kerja Keras
Di balik semua risiko, AI tetap membawa perubahan positif, terutama dalam sains, medicine, dan riset farmasi.
Gawdat percaya bahwa penggunaan AI secara utopis masih mungkin di masa depan. Namun, manusia harus terlebih dahulu menghadapi dampak buruknya.
"Yang lebih penting adalah mendesak pemerintah untuk sadar bahwa ada batas kesabaran warga," kata Gawdat. Ia menekankan bahwa pemerintah harus mengatur penggunaan AI, bukan AI-nya sendiri.
"Kamu tidak bisa mengatur desain palu agar hanya bisa memaku dan tidak membunuh, tapi kamu bisa mengkriminalkan pembunuhan dengan palu," ujarnya.
Sekarang, palu AI ada di tangan kita. Pertanyaannya: apakah kita punya kemauan untuk membuat hukum yang mencegah pembunuhan?