Lebih dari 30 pakar terkemuka—termasuk sembilan mantan karyawan OpenAI—telah mendorong jaksa agung California dan Delaware untuk turut campur dalam restrukturisasi yang diusulkan oleh OpenAI, yang akan memungkinkan perusahaan tersebut membeli dirinya sendiri dari bawah kendali nirlaba. Dalam surat terbuka, mereka memperingatkan bahwa langkah tersebut akan menghilangkan pengamanan tata kelola kunci dan membahayakan misi pendirian OpenAI untuk memastikan bahwa kecerdasan buatan umum (AGI) “menguntungkan seluruh umat manusia.”
Grup yang juga mencakup “bapak” kecerdasan buatan Geoffrey Hinton, peneliti Hugging Face dan ilmuwan etika utama Margaret Mitchell, dan Stuart Russell, profesor ilmu komputer di UC Berkeley, menerbitkan surat terbuka tersebut hari ini di sebuah situs web bernama Not For Private Gain dan juga membagikan surat tersebut kepada dewan direktur nirlaba OpenAI.
Surat tersebut muncul kurang dari dua minggu setelah dua belas mantan karyawan OpenAI meminta izin kepada hakim federal untuk memberikan pendapat dalam gugatan Elon Musk terhadap Sam Altman dan perusahaan tersebut. Profesor hukum Harvard Lawrence Lessig, yang juga menandatangani surat terbuka baru ini, mengajukan mosi atas nama mantan karyawan tersebut, yang amicus brief-nya yang detail menuduh OpenAI meninggalkan akar nirlabanya dan mengkhianati misi yang awalnya menarik mereka ke organisasi tersebut.
Para penandatangan surat tersebut termasuk beberapa mantan karyawan OpenAI yang juga bagian dari amicus brief—Steven Adler, Jacob Hilton, Daniel Kokotajlo, Gretchen Krueger, dan Girish Sastry—serta peneliti OpenAI sebelumnya Scott Aaronson, Ryan Lowe, Nisan Stiennon, dan Anish Tondwalkar.
OpenAI saat ini sedang menghadapi peningkatan pengawasan seputar upayanya untuk lepas dari kendali nirlabanya. Perusahaan tersebut harus menyelesaikan restrukturisasi tersebut pada akhir tahun ini untuk mengamankan putaran pendanaan sebesar $40 miliar penuh yang dipimpin oleh SoftBank, yang selesai pada Maret. Perlu dicatat, perusahaan tersebut memerlukan persetujuan dari Jaksa Agung California Rob Bonta untuk melaksanakan rencananya. Bonta mengawasi organisasi amal di negara bagian tersebut untuk memastikan bahwa aset mereka digunakan sesuai dengan tujuan amal asli mereka. Juga memerlukan persetujuan dari Jaksa Agung Delaware, karena OpenAI terdaftar sebagai nirlaba di Delaware (OpenAI, Inc.), yang memiliki dan mengatur lengan berorientasi laba (OpenAI Global, LLC).
Grup lain telah memberikan komentar secara publik tentang restrukturisasi OpenAI: Dua minggu yang lalu, sebuah koalisi organisasi nirlaba, yayasan, dan kelompok buruh California mendesak jaksa agung California Rob Bonta untuk menghentikan upaya OpenAI—dengan fokus pada memastikan nirlaba menerima nilai pasar yang adil untuk aset yang ditinggalkannya. Namun, kelompok yang membawa surat terbuka baru ini, berfokus pada isu mendasar apakah restrukturisasi tersebut, yang akan menyerahkan pengendalian dari pemantauan pengembangan kecerdasan buatan umum, atau AGI, akan menguntungkan misi asli nirlaba tersebut.
Dalam surat terbuka, para penandatangan berpendapat bahwa menghapus kendali nirlaba atas bagaimana AGI dikembangkan dan diatur akan “melanggar kewajiban fidusia khusus yang diutang kepada para penerima manfaat nirlaba” dan “menimbulkan ancaman yang dapat dirasakan” terhadap tujuan amal OpenAI—menyebutnya “bertentangan dengan Akta Pendirian.”
Mereka memperingatkan bahwa restrukturisasi yang diusulkan akan mencabut kekuasaan pengawasan saat ini dari jaksa agung California dan Delaware, melemahkan kemampuan mereka untuk “melindungi para penerima manfaat OpenAI: publik.”
Untuk menjaga kepentingan publik, surat tersebut mendorong regulator untuk menghentikan restrukturisasi, menuntut transparansi, dan memastikan nirlaba tetap mengendalikan—mengingatkan mereka bahwa pimpinan OpenAI sendiri menekankan pentingnya pengamanan tata kelola tersebut pada tahun 2023 untuk “memastikan bahwa [mereka] tetap fokus pada misi jangka panjang [mereka].”
Menanggapi permintaan komentar, juru bicara OpenAI membagikan pernyataan berikut: Dewan kami sangat jelas: nirlaba kami akan diperkuat dan setiap perubahan terhadap struktur eksisting kami akan dilakukan untuk memastikan masyarakat umum dapat mendapatkan manfaat dari kecerdasan buatan. Laba kami akan menjadi perusahaan manfaat publik, serupa dengan beberapa lab kecerdasan buatan lain seperti Anthropic – di mana beberapa mantan karyawan ini sekarang bekerja – dan xAI, kecuali bahwa mereka tidak mendukung nirlaba. Struktur ini akan terus memastikan bahwa ketika laba berhasil dan berkembang, begitu pula nirlaba, memungkinkan kami mencapai misi tersebut.
Juru bicara juga merujuk kepada komisi nirlaba OpenAI yang baru diluncurkan yang akan menginformasikan upaya filantropi masa depan perusahaan, memaksimalkan dampak bagi orang dan organisasi yang berorientasi misi yang mengatasi tantangan global penting—dari kesehatan dan pendidikan hingga pelayanan publik dan penemuan ilmiah. Kami berharap dapat membangun karya kami dengan bimbingan mereka.”
Cerita ini awalnya ditampilkan di Fortune.com