“Posisi ini akan sangat menegangkan dan Anda akan langsung terjun ke dalam situasi yang sulit,” tulis CEO OpenAI Sam Altman di X dalam pengumuman lowongan pekerjaan “kepala kesiapsiagaan” pada hari Sabtu.
Sebagai imbalan $555.000 per tahun menurut iklan lowongan OpenAI, kepala kesiapsiagaan diharapkan dapat “memperluas, memperkuat, dan memandu” program kesiapsiagaan yang sudah ada di departemen sistem keamanan perusahaan. Divisi inilah yang membangun pengaman agar model-model OpenAI, secara teori, “berperilaku sesuai tujuan dalam kondisi dunia nyata.”
Tapi tunggu dulu, apakah mereka menyiratkan bahwa model OpenAI *saat ini* sudah berperilaku sesuai harapan di dunia nyata? Sepanjang 2025, ChatGPT terus berhalusinasi dalam dokumen hukum, menarik ratusan keluhan ke FTC—termasuk keluhan bahwa ia memicu krisis kesehatan mental pengguna—dan terbukti mengubah foto wanita berpakaian jadi deepfake berbikini. Kemampuan Sora untuk membuat video figur seperti Martin Luther King, Jr. harus dicabut karena disalahgunakan untuk membuat tokoh sejarah terhormat mengucapkan hal-hal yang tidak pantas.
Ketika kasus terkait masalah produk OpenAI sampai ke pengadilan—seperti gugatan kelalaian oleh keluarga Adam Raine yang diduga menerima saran dan dorongan dari ChatGPT hingga mengakibatkan kematiannya—muncul argumen hukum bahwa pengguna menyalahgunakan produk OpenAI. Pada November lalu, berkas dari pengacara OpenAI mengutip pelanggaran aturan sebagai penyebab potensial kematian Raine.
Percaya atau tidak pada argumen penyalahgunaan tersebut, jelas itu menjadi bagian besar dari cara OpenAI memahami dampak produknya di masyarakat. Altman mengakui dalam postingan X-nya tentang lowongan ini bahwa model perusahaan dapat memengaruhi kesehatan mental dan menemukan kerentanan keamanan. Kita, katanya, “memasuki dunia di mana kita perlu pemahaman dan pengukuran yang lebih nuansa atas bagaimana kemampuan itu dapat disalahgunakan, dan bagaimana kita dapat membatasi dampak negatifnya baik dalam produk kami maupun di dunia, sambil tetap menikmati manfaat besarnya.”
Bagaimanapun, jika tujuannya semata untuk tidak menimbulkan bahaya sama sekali, cara tercepat untuk memastikannya adalah dengan menarik ChatGPT dan Sora dari pasar.
Kepala kesiapsiagaan di OpenAI, dengan demikian, adalah orang yang harus menjalani tugas *rumit* ini dan “[m]emegang strategi kesiapsiagaan OpenAI dari ujung ke ujung,” mencari cara mengevaluasi model untuk kemampuan yang tidak diinginkan, serta merancang mitigasinya. Iklan itu menyebut orang ini harus “mengembangkan kerangka kesiapsiagaan seiring munculnya risiko, kemampuan, atau ekspektasi eksternal baru.” Ini hanya berarti mencari tahu cara-cara potensial baru produk OpenAI dapat membahayakan orang atau masyarakat, lalu merancang kriteria untuk membiarkan produk itu tetap ada, sambil menunjukkan bahwa risikonya telah cukup diredam sehingga OpenAI tidak bertanggung jawab secara hukum atas “dampak negatif” masa depan yang tampaknya tak terhindarkan.
Sudah cukup buruk harus melakukan semua ini untuk perusahaan yang sekadar bertahan, tapi OpenAI justru harus mengambil langkah drastis untuk mendatangkan pendapatan dan meluncurkan produk mutakhir dengan terburu-buru. Dalam sebuah wawancara bulan lalu, Altman nyaris menyiratkan bahwa ia akan meningkatkan pendapatan perusahaan dari angka sekarang—yang tampaknya di atas $13 miliar per tahun—menjadi $100 miliar dalam waktu kurang dari dua tahun. Altman mengatakan “bisnis perangkat konsumen akan menjadi hal yang signifikan dan penting,” dan bahwa “AI yang dapat mengotomatisasi sains akan menciptakan nilai besar.”
Jadi, jika Anda ingin mengawasi “desain mitigasi” untuk versi baru produk OpenAI yang ada, plus gadget fisik baru, dan platform yang belum ada tapi diharapkan dapat “mengotomatisasi sains,” sambil CEO terus mendesak Anda untuk mencapai pendapatan tahunan setara Walt Disney pada tahun depan, selamat menikmati peran sebagai kepala kesiapsiagaan di OpenAI. Usahakan untuk tidak mengacaukan seluruh dunia dalam pekerjaan barumu ini.