Sebuah laporan baru bernama “The OpenAI Files” mencoba mengungkap cara kerja internal perusahaan AI terkemuka saat mereka berusaha menciptakan model AI yang suatu hari bisa menyaingi kecerdasan manusia. Laporan ini, yang menggunakan berbagai data dan sumber, mempertanyakan beberapa anggota tim kepemimpinan serta komitmen OpenAI terhadap keamanan AI.
Laporan panjang ini disebut sebagai “kumpulan paling lengkap sejauh ini tentang kekhawatiran terkait praktik tata kelola, integritas pemimpin, dan budaya organisasi di OpenAI.” Laporan ini disusun oleh dua lembaga pengawas teknologi nirlaba, yaitu Midas Project dan Tech Oversight Project.
Laporan ini menggunakan sumber seperti keluhan hukum, posting media sosial, berita media, dan surat terbuka untuk mencoba memberikan gambaran menyeluruh tentang OpenAI dan orang-orang yang memimpinnya. Banyak informasi dalam laporan ini sebenarnya sudah pernah diungkap media selama ini, tapi dengan mengumpulkan semuanya, tujuannya adalah meningkatkan kesadaran dan menyarankan jalan baru bagi OpenAI yang lebih fokus pada tata kelola bertanggung jawab dan kepemimpinan etis.
Banyak bagian laporan berfokus pada para pemimpin di balik layar OpenAI, terutama CEO Sam Altman, yang menjadi figur kontroversial di industri ini. Altman sempat dipecat dari posisinya sebagai pemimpin OpenAI pada November 2023 oleh dewan nirlaba perusahaan. Dia kembali setelah seminggu kacau yang melibatkan pemberontakan karyawan dan kerja singkat di Microsoft.
Pemecatan awalnya dikaitkan dengan kekhawatiran tentang kepemimpinannya dan komunikasi dengan dewan, terutama soal keamanan AI. Tapi sejak itu, dilaporkan beberapa eksekutif saat itu, termasuk Mira Murati dan Ilya Sutskever, mempertanyakan kesesuaian Altman untuk peran tersebut.
Menurut artikel The Atlantic oleh Karen Hao, mantan CTO Murati mengatakan pada staf di 2023 bahwa dia tidak “nyaman dengan Sam memimpin kita ke AGI,” sementara Sutskever bilang: “Aku gak yakin Sam orang yang tepat untuk mengendalikan AGI.”
Dario dan Daniela Amodei, mantan VP riset dan VP keamanan dan kebijakan di OpenAI, juga mengkritik perusahaan dan Altman setelah keluar di 2020. Menurut buku Karen Hao “Empire of AI”, mereka menggambarkan taktik Altman sebagai “gaslighting” dan “pelecehan psikologis” pada orang sekitar. Dario Amodei kemudian mendirikan dan jadi CEO lab AI saingan, Anthropic.
Yang lain, seperti peneliti AI ternama dan mantan co-lead tim superalignment OpenAI, Jan Leike, mengkritik perusahaan lebih terbuka. Saat Leike pindah ke Anthropic awal 2024, dia menuduh perusahaan menomorduakan budaya dan proses keamanan demi “produk mengilap” dalam posting di X.
OpenAI di persimpangan jalan
Laporan ini muncul saat lab AI berada di persimpangan jalan. Perusahaan mencoba beralih dari struktur laba terbatas awal ke tujuan profit-oriented.
Saat ini OpenAI sepenuhnya dikontrol dewan nirlaba, yang hanya bertanggung jawab pada misi awal: memastikan AI bermanfaat bagi seluruh umat manusia. Ini menimbulkan konflik antara divisi profit dan dewan nirlaba saat perusahaan mencoba mengomersilkan produknya.
Rencana awal untuk menyelesaikan ini—dengan memisahkan OpenAI jadi perusahaan profit independen—dibatalkan Mei lalu dan diganti pendekatan baru, yang akan mengubah grup profit OpenAI menjadi perusahaan manfaat publik yang dikontrol nirlaba.
Laporan “OpenAI Files” bertujuan meningkatkan kesadaran tentang apa yang terjadi di balik layar salah satu perusahaan teknologi paling kuat, namun juga menyarankan jalan baru bagi OpenAI yang fokus pada tata kelola bertanggung jawab dan kepemimpinan etis saat mereka berusaha menciptakan AGI.
Laporan mengatakan: “OpenAI percaya umat manusia mungkin hanya butuh beberapa tahun lagi untuk menciptakan teknologi yang bisa mengotomatisasi sebagian besar tenaga manusia.”
“Struktur tata kelola dan integritas pemimpin yang memandu proyek sepenting ini harus mencerminkan besarnya misi ini. Perusahaan yang memimpin perlombaan menuju AGI harus memegang, dan dipegang pada, standar yang sangat tinggi. OpenAI suatu hari mungkin bisa memenuhi standar itu, tapi perubahan serius diperlukan.”
Perwakilan OpenAI tidak menanggapi permintaan komentar dari Fortune.