Elon Musk punya visi besar tentang hidup dengan AI: Teknologi ini akan mengambil semua pekerjaan kita, sementara “penghasilan tinggi universal” akan membuat siapa pun bisa akses banyak barang dan layanan. Jika mimpi tinggi Musk ini bisa jadi kenyataan, tentu akan ada perubahan eksistensial yang besar.
“Pertanyaannya adalah tentang arti hidup,” kata Musk di konferensi VivaTechnology Mei 2024. “Kalau komputer dan robot bisa lakukan semuanya lebih baik dari kamu… apa hidupmu punya arti?”
Tapi kebanyakan pemimpin industri nggak nanya ini soal akhir dari AI, menurut peraih Nobel dan “bapak AI” Geoffrey Hinton. Untuk pengembangan AI, Big Tech kurang tertarik pada dampak jangka panjang—mereka lebih fokus pada hasil cepat.
“Bagi pemilik perusahaan, yang dorong penelitian itu untung jangka pendek,” kata Hinton, profesor emeritus ilmu komputer di Universitas Toronto, ke Fortune.
Bagi para pengembang, fokusnya juga pada pekerjaan di depan mereka, bukan hasil akhir penelitian itu sendiri.
“Peneliti tertarik menyelesaikan masalah yang buat mereka penasaran. Kita nggak mulai dengan tujuan yang sama seperti, apa masa depan manusia?” ujar Hinton.
“Kita punya tujuan kecil, seperti bagaimana bikin komputer bisa kenali gambar? Atau bikin video yang meyakinkan? Itu yang dorong penelitian,” tambahnya.
Hinton sudah lama peringatkan bahaya AI tanpa pengawasan, memperkirakan 10%-20% kemungkinan teknologi ini bisa hapus manusia setelah AI jadi supercerdas.
Tahun 2023—10 tahun setelah jual perusahaannya DNNresearch ke Google—Hinton keluar dari Google, ingin bicara bebas tentang bahaya AI dan takut nggak bisa cegah orang jahat memanfaatkannya.
Pandangan Besar Hinton tentang AI
Menurut Hinton, bahaya AI ada dua: risiko teknologi sendiri terhadap masa depan manusia, dan penyalahgunaan oleh orang bermaksud buruk.
“Ada perbedaan besar antara dua jenis risiko,” katanya. “Ada risiko orang jahat salahgunakan AI, dan itu sudah terjadi. Misalnya video palsu dan serangan siber, atau virus. Itu beda dengan risiko AI sendiri jadi ‘aktor jahat’.”
Contohnya, lembaga keuangan seperti Ant International di Singapura sudah peringatkan soal maraknya deepfake yang tingkatkan ancaman penipuan. Tianyi Zhang, manajer risiko dan keamanan siber Ant International, bilang lebih dari 70% pendaftaran baru di beberapa pasar diduga deepfake.
“Kami temukan lebih dari 150 jenis serangan deepfake,” ujarnya.
Selain dorong lebih banyak regulasi, Hinton bilang perlawanan terhadap penyalahgunaan AI sulit karena tiap masalah butuh solusi berbeda. Dia bayangkan sistem autentikasi untuk video dan gambar di masa depan yang bisa lawan deepfake.