Ketika mantan ilmuwan kepala OpenAI Ilya Sutskever meninggalkan perusahaan pada bulan Mei, semua orang bertanya-tanya mengapa. Faktanya, kekacauan internal terbaru di OpenAI dan gugatan singkat oleh pendukung OpenAI awal Elon Musk cukup mencurigakan bagi internet hivemind untuk menciptakan meme “Apa yang dilihat Ilya”, mengacu pada teori bahwa Sutskever melihat sesuatu yang mengkhawatirkan dalam cara CEO Sam Altman memimpin OpenAI. Sekarang, Sutskever memiliki perusahaan baru, dan mungkin menjadi petunjuk mengapa, tepatnya, dia meninggalkan OpenAI pada puncak kekuatannya yang dirasakan. Pada hari Rabu, Sutskever men-tweet bahwa dia akan memulai perusahaan yang disebut Safe Superintelligence. “Kami akan mengejar superintelejensi aman secara langsung, dengan satu fokus, satu tujuan, dan satu produk. Kami akan melakukannya melalui terobosan revolusioner yang diproduksi oleh tim retak kecil,” tulis Sutskever. Mashable Light Speed. Pesan perusahaan saat ini hanya berupa pesan teks yang ditandatangani oleh Sutskever serta rekan pendiri Daniel Gross dan Daniel Levy (Gross adalah salah satu pendiri mesin pencari Cue, yang diakuisisi oleh Apple pada tahun 2013, sementara Levy menjalankan tim Optimasi di OpenAI). Pesan tersebut menegaskan keselamatan sebagai komponen kunci dalam membangun superintelejensi buatan. “Kami mendekati keselamatan dan kemampuan secara bersamaan, sebagai masalah teknis yang harus dipecahkan melalui terobosan rekayasa dan ilmiah revolusioner. Kami berencana untuk memajukan kemampuan secepat mungkin sambil memastikan keselamatan kami selalu lebih unggul,” bunyi pesan tersebut. “Fokus tunggal kami berarti tidak ada gangguan oleh manajemen berlebihan atau siklus produk, dan model bisnis kami berarti keselamatan, keamanan, dan kemajuan semuanya terisolasi dari tekanan komersial jangka pendek.” SUTAU: Apple dilaporkan membayar nol dolar kepada OpenAI untuk kemitraan ChatGPT-nya. Meskipun Sutskever tidak pernah menjelaskan secara publik mengapa dia meninggalkan OpenAI, malah memuji “trajectoria yang ajaib” perusahaan, penting dicatat bahwa keselamatan berada di pusat produk kecerdasan buatan barunya. Musk dan beberapa orang lain memperingatkan bahwa OpenAI ceroboh dalam membangun AGI (kecerdasan buatan umum), dan kepergian Sutskever dan orang lain dalam tim yang berfokus pada keselamatan OpenAI menunjukkan bahwa perusahaan mungkin kurang ketat dalam memastikan AGI dibangun dengan cara yang aman. Musk juga memiliki masalah dengan keterlibatan Microsoft dalam OpenAI, mengklaim bahwa perusahaan telah berubah dari nirlaba menjadi “afiliasi de facto berbasis kode tertutup” Microsoft. Dalam wawancara dengan Bloomberg, yang dipublikasikan pada hari Rabu, Sutskever dan rekan pendiri tidak menyebutkan para pendukung, meskipun Gross mengatakan bahwa menghimpun modal tidak akan menjadi masalah bagi startup tersebut. Belum jelas apakah karya SSI akan dipublikasikan sebagai sumber terbuka.
