Para ahli kecerdasan buatan cenderung memiliki dua poin yang sering mereka ulang di depan publik: seberapa maju dan mampu AI saat ini, tetapi juga bagaimana itu tidak akan menjadi Skynet jahat seperti Terminator. Namun, pemerintah di seluruh dunia telah mulai meminta perusahaan untuk berjanji keselamatan, transparansi, dan “kill switch” dalam teknologi mereka, jika terjadi sesuatu yang tidak diinginkan.
Ilya Sutskever, mantan ilmuwan kepala di OpenAI, telah membangun perusahaan barunya berdasarkan konsep ini. Dia mengumumkan perusahaan tersebut, yang disebut Safe Superintelligence, dalam sebuah pos blog pada hari Rabu, berjanji bahwa timnya, investor, dan model bisnisnya “semua sejalan” dan bahwa timnya memiliki “satu tujuan dan satu produk: superkecerdasan yang aman.”
“Kami mendekati keselamatan dan kemampuan secara bersamaan, sebagai masalah teknis yang harus diselesaikan melalui rekayasa revolusioner dan terobosan ilmiah,” tulisnya, bersama pendiri Daniel Gross, yang berasal dari tim AI Apple, dan Daniel Levy, yang sebelumnya bekerja di OpenAI. “Kami berencana untuk meningkatkan kemampuan secepat mungkin sambil memastikan keselamatan kami selalu berada di depan. Dengan cara ini, kami dapat berkembang dengan tenang.”
Pengumuman Sutskever telah dinantikan sejak dia meninggalkan OpenAI pada bulan Mei. Sutskever dilaporkan membantu memimpin upaya untuk menggulingkan CEO OpenAI Sam Altman tahun lalu. Kudeta di ruang rapat akhirnya gagal setelah salah satu investor kunci perusahaan, Microsoft, mempekerjakan Altman saat ratusan staf OpenAI secara publik mengancam untuk berhenti dan bergabung dengannya.
Sekarang, pertanyaannya adalah siapa yang pada akhirnya akan mengendalikan salah satu teknologi baru yang potensial terbesar dalam beberapa dekade. OpenAI terus berlanjut tanpa Sutskever, meluncurkan fitur baru seperti GPT-4o-nya, yang menurut perusahaan dapat merespons permintaan orang lebih cepat, mampu merasionalkan lebih baik, dan dapat berbicara melalui suara dan melalui kamera ponsel pintar. Sementara itu, Google, Apple, Facebook, dan Microsoft telah mengumumkan fitur dan inisiatif AI baru untuk bersaing satu sama lain dan dengan sejumlah besar startup.
Sutskever dilaporkan berencana untuk mengambil pendekatan yang berbeda, mengatakan kepada Bloomberg dalam wawancara bahwa perusahaannya tidak memiliki “niat jangka pendek” untuk menjual produk atau layanan AI.
“Perusahaan ini istimewa karena produk pertamanya akan menjadi superkecerdasan yang aman, dan tidak akan melakukan hal lain sampai saat itu,” kata Sutskever. “Itu akan sepenuhnya terisolasi dari tekanan luar yang harus berurusan dengan produk yang besar dan rumit serta terjebak dalam perlombaan tikus kompetitif.”
Bloomberg mengatakan Sutskever menolak untuk menyebutkan para pendukung keuangan Safe Superintelligence atau mengungkapkan berapa banyak perusahaannya telah berhasil mengumpulkan.