Dua mantan karyawan OpenAI dan sekelompok nirlaba yang fokus pada keselamatan AI memberi peringatan bahwa lab AI milik Elon Musk, xAI, bisa menjadi sebuah tanggungan bagi calon investor di SpaceX, yang tengah bersiap untuk mengajukan apa yang diperkirakan akan menjadi *initial public offering* terbesar dalam Sejarah Wall Street.
Dalam sebuah surat yang ditujukan kepada investor dan diterbitkan hari Selasa, para mantan staf menyoroti apa yang mereka sebut sebagai “risiko yang belum diperhitungkan” terkait xAI yang bisa memperumit rencana SpaceX untuk mengumpulkan dana hingga US$75 miliar sebagai bagian dari IPO-nya. Valuasi perusahaan roket tersebut melonjak menjadi lebih dari US$1 triliun setelah mengakuisisi xAI tahun lalu. Musk mengklaim perusahaannya bisa meluncurkan pusat data ke luar angkasa untuk lab AI-nya, tetapi penulis surat berargumentasi bahwa rekam jejak buruk xAI dalam isu keselamatan dapat memperumit persepsi investor terhadap perusahaan gabungan ini saat bersiap mengajukan prospektus IPO.
Salah satu penandatangan dan rekan penulis surat itu adalah sebuah nirlaba baru bernama Guidelight AI Standards, yang didirikan bersama oleh mantan peneliti keselamatan OpenAI, Steven Adler, dan mantan penasehat kebijakan OpenAI, Page Hedley. Kelompok ini, yang didukung oleh donatur swasta, bertujuan meningkatkan praktik keselamatan perusahaan AI terdepan. Nirlaba keselamatan AI lainnya juga ikut menandatangani, termasuk Legal Advocates for Safe Science and Technology, Encode AI, dan The Midas Project.
Hedley mengatakan kepada WIRED dalam sebuah wawancara bahwa ia percaya xAI memiliki praktik keselamatan terburuk “hampir di semua lini” dibandingkan pengembang AI terdepan lainnya, termasuk OpenAI, Google DeepMind, dan Anthropic. Akibatnya, menurutnya, SpaceX mungkin menghadapi risiko regulasi dan litigasi yang lebih besar daripada lab AI lainnya.
Para penulis surat berargumentasi bahwa SpaceX harus melakukan sejumlah pengungkapan kepada investor, termasuk apakah xAI berniat untuk terus mengembangkan model AI terdepan. SpaceX baru-baru ini menyepakati transaksi untuk menjual sebagian besar kapasitas GPU-nya kepada Anthropic, dan surat itu menyatakan kesepakatan tersebut “meninggalkan ketidakjelasan apakah xAI masih menjadi pesaing AI tepandah di dalam sebuah perusahaan induk yang lebih besar.” Jika xAI terus mengembangkan model AI terdepan, para penulis mengatakan bahwa mereka harus diwajibkan untuk mempublikasikan rencana keselamatan dan tata kelola publik.
SpaceX dan xAI tidak segera menanggapi permintaan komentar WIRED.
Surat tersebut juga menguraikan contoh bagaimana xAI tidak mengikuti praktik keselamatan standar industri, seperti menerbitkan kerangka kerja terperinci untuk mengurangi risiko penyalahgunaan model AI mereka dalam serangan siber. Para penulis juga menguraikan insiden keselamatan spesifik di xAI yang mereka nilai memerlukan pengawasan tambahan. Di antara yang paling menonjol adalah ketika chatbot AI utama xAI, Grok, secara spontan memicu pembahasan tentang genosida kulit putih dalam jawabannya. Dalam kasus lain, xAI mengizinkan Grok untuk menghasilkan ribuan gambar seksual perempuan dan anak-anak, yang menyebar luas di platform media sosial milik Musk, X. Kasus terakhir ini mendorong setidaknya 37 jaksa agung AS untuk mengirim surat yang menuntut lab AI milik McLaughlin mengambil langkah-langkah untuk melindungi perempuan dan anak-anak di platformnya.
Hedley mengatakan jumlah insiden keselamatan yang dialami xAI dan perhatian regulasi yang diterimanya “jauh tidak proporsional dengan pangsa pasarnya.” Seiring dengan meningkatnya kekhawatiran para legislator terhadap kemampuan dunia maya dari model AI canggih seperti Anthropic’s Claude Mythos, regulasi keamanan baru mungkin akan segera hadir. Administrasi Trump dilaporkan sudah mempertimbangkan sebuah perintah eksekutif yang akan memberikan pengawasan lebih besar kepada badan intelijen AS atas mdoel-model AI.
“Butuh investasi yang serius untuk mengatasi [risiko keselamatan AI], dan tampaknya xAI secara historis kurang berinvestasi di sini,” kata Adler. Surat tersebut mengutip laporan dari Washington Post yang mengatakan xAI hanya memiliki “dua atau tiga” orang yang bekerja pada keselamatan per Januari. “Pertanyaan yang harus dipikirkan investor adalah jika xAI tetap bertahan di garis depan, seberapa mahal biaya yang diperlukan untuk mengelola [risiko-risiko] ini secara bertanggung jawab? Jika mereka tidak melakukannya, apa yang akan menjadi konsekuensinya?”