OpenAI telah membubarkan timnya yang berfokus pada risiko jangka panjang dari kecerdasan buatan hanya setahun setelah perusahaan mengumumkan kelompok tersebut, sumber yang akrab dengan situasi tersebut mengonfirmasi kepada CNBC pada hari Jumat.
Orang tersebut, yang berbicara dengan syarat anonimitas, mengatakan bahwa beberapa anggota tim sedang dialihkan ke beberapa tim lain di dalam perusahaan.
Berita ini datang beberapa hari setelah kedua pemimpin tim, salah satu pendiri OpenAI Ilya Sutskever dan Jan Leike, mengumumkan keberangkatan mereka dari perusahaan yang didukung oleh Microsoft. Leike pada hari Jumat menulis bahwa “budaya keamanan dan proses OpenAI telah diabaikan demi produk-produk yang mengkilap.”
Berita ini pertama kali dilaporkan oleh Wired.
Tim Superalignment OpenAI, yang diumumkan tahun lalu, telah berfokus pada “terobosan ilmiah dan teknis untuk mengarahkan dan mengendalikan sistem kecerdasan buatan yang jauh lebih pintar dari kita.” Pada saat itu, OpenAI mengatakan bahwa akan mengalokasikan 20% daya komputasinya untuk inisiatif tersebut selama empat tahun.
Sutskever dan Leike pada hari Selasa mengumumkan kepergian mereka di X, hanya dalam beberapa jam, tetapi pada hari Jumat, Leike membagikan lebih banyak detail tentang alasan mengapa ia meninggalkan perusahaan tersebut.
“Saya bergabung karena saya pikir OpenAI akan menjadi tempat terbaik di dunia untuk melakukan penelitian ini,” tulis Leike di X. “Namun, saya telah tidak setuju dengan kepemimpinan OpenAI tentang prioritas inti perusahaan untuk waktu yang cukup lama, hingga akhirnya kami mencapai titik puncaknya.”
Leike menulis bahwa ia percaya jangkauan perusahaan seharusnya lebih difokuskan pada keamanan, pemantauan, kesiapsiagaan, keselamatan, dan dampak sosial.
“Masalah-masalah ini cukup sulit untuk diselesaikan, dan saya khawatir kami tidak sedang berada pada jalur untuk mencapainya,” tulisnya. “Selama beberapa bulan terakhir, tim saya telah berjuang. Kadang-kadang kami kesulitan mendapatkan daya komputasi dan semakin sulit untuk menyelesaikan penelitian penting ini.”
Leike menambahkan bahwa OpenAI harus menjadi sebuah “perusahaan AGI yang berfokus pada keamanan.”
“Membangun mesin yang lebih pintar dari manusia adalah upaya yang berbahaya secara inheren,” tulisnya. “OpenAI membawa tanggung jawab besar atas nama seluruh umat manusia. Tetapi selama beberapa tahun terakhir, budaya keamanan dan proses telah diabaikan demi produk-produk yang mengkilap.”
Leike tidak segera menanggapi permintaan komentar, dan OpenAI tidak segera memberikan komentar.
Kepergian yang mencolok datang beberapa bulan setelah OpenAI mengalami krisis kepemimpinan yang melibatkan salah satu pendiri dan CEO Sam Altman.
Pada bulan November, dewan OpenAI memberhentikan Altman, dengan menyatakan dalam sebuah pernyataan bahwa Altman tidak “konsisten jujur dalam komunikasinya dengan dewan.”.
Masalah itu tampaknya semakin kompleks setiap harinya, dengan The Wall Street Journal dan media lain melaporkan bahwa Sutskever memusatkan perhatiannya pada memastikan kecerdasan buatan tidak akan merugikan manusia, sementara yang lain, termasuk Altman, lebih bersemangat untuk maju dengan teknologi baru.
Penggusuran Altman memicu pengunduran diri – atau ancaman pengunduran diri – termasuk surat terbuka yang ditandatangani oleh hampir semua karyawan OpenAI, dan kegemparan dari investor, termasuk Microsoft. Dalam waktu seminggu, Altman kembali ke perusahaan, dan anggota dewan Helen Toner, Tasha McCauley, dan Ilya Sutskever, yang telah memberikan suara untuk menggusur Altman, keluar. Sutskever tetap bekerja di perusahaan saat itu namun tidak lagi dalam kapasitasnya sebagai anggota dewan. Adam D’Angelo, yang juga memberikan suara untuk menggusur Altman, tetap berada di dewan.
Ketika Altman ditanya tentang status Sutskever dalam panggilan Zoom dengan para wartawan pada bulan Maret, ia mengatakan bahwa tidak ada pembaruan yang bisa dibagikan. “Saya mencintai Ilya… Saya harap kita bisa bekerja bersama sepanjang karier kita, karier saya, apa pun,” kata Altman. “Tidak ada yang bisa diumumkan hari ini.”
Pada hari Selasa, Altman membagikan pemikirannya tentang kepergian Sutskever.
“Ini sangat menyedihkan bagi saya; Ilya dengan mudah adalah salah satu pikiran terhebat dari generasi kita, cahaya penuntun bidang kita, dan seorang teman terkasih,” tulis Altman di X. “Kejeniusan dan visinya sudah dikenal luas; kehangatan dan belas kasihnya kurang dikenal tetapi tidak kalah penting.” Altman mengatakan direktur riset Jakub Pachocki, yang telah berada di OpenAI sejak 2017, akan menggantikan Sutskever sebagai ilmuwan kepala.
Berita tentang kepergian Sutskever dan Leike, serta pembubaran tim superalignment, datang beberapa hari setelah OpenAI meluncurkan model AI baru dan versi desktop ChatGPT, bersama dengan antarmuka pengguna yang diperbarui, upaya terbaru perusahaan untuk memperluas penggunaan chatbot populer mereka.
Pembaruan ini membawa model GPT-4 ke semua orang, termasuk pengguna gratis OpenAI, kata kepala teknologi Mira Murati pada hari Senin dalam sebuah acara siaran langsung. Dia menambahkan bahwa model baru, GPT-4o, “jauh lebih cepat,” dengan kemampuan yang ditingkatkan dalam teks, video, dan audio.
OpenAI mengatakan bahwa pada akhirnya mereka berencana untuk memungkinkan pengguna melakukan video call dengan ChatGPT. “Ini adalah pertama kalinya kami benar-benar membuat langkah besar ke depan dalam hal kemudahan penggunaan,” kata Murati.