OpenAI sedang cari karyawan baru untuk bantu atasi bahaya AI yang makin besar. Perusahaan teknologi ini mau bayar lebih dari setengah juta dolar untuk posisi ini.
OpenAI membuka lowongan “kepala kesiapsiagaan” untuk kurangi bahaya dari teknologi ini, seperti masalah kesehatan mental pengguna dan keamanan siber. CEO Sam Altman tulis ini di postingan X hari Sabtu. Gaji posisi ini $555,000 per tahun, ditambah saham, menurut iklan lowongannya.
“Ini akan jadi pekerjaan yang penuh tekanan dan kamu akan langsung terjun ke hal yang sulit,” kata Altman.
Usaha OpenAI untuk merekrut eksekutif keamanan ini terjadi saat perusahaan-perusahaan makin khawatir dengan risiko AI untuk operasi dan reputasi mereka. Sebuah analisis bulan November oleh perusahaan data keuangan AlphaSense menemukan bahwa dalam 11 bulan pertama tahun ini, 418 perusahaan senilai minimal $1 miliar menyebutkan bahaya reputasi terkait faktor risiko AI. Risiko yang ancam reputasi ini termasuk dataset AI yang menunjukan informasi bias atau membahayakan keamanan. Laporan tentang bahaya reputasi terkait AI meningkat 46% dari tahun 2024, menurut analisis tersebut.
“Model AI makin cepat membaik dan sekarang bisa lakukan banyak hal hebat, tetapi mereka juga mulai menunjukan beberapa tantangan nyata,” kata Altman dalam postingan media sosial itu.
“Jika kamu ingin bantu dunia mencari cara untuk memampukan para pembela keamanan siber dengan kemampuan mutakhir sambil memastikan penyerang tidak bisa gunakan itu untuk bahaya, idealnya dengan membuat semua sistem lebih aman, dan serupa untuk cara kita rilis kemampuan biologi dan bahkan dapat kepercayaan diri akan keamanan sistem yang bisa memperbaiki diri sendiri, silahkan pertimbangkan untuk melamar,” tambahnya.
Kepala kesiapsiagaan OpenAI sebelumnya, Aleksander Madry, dialihkan tahun lalu ke peran terkait penalaran AI, dengan keamanan AI menjadi bagian terkait dari pekerjaannya.
Usaha OpenAI untuk hadapi bahaya AI
Didirikan tahun 2015 sebagai nirlaba dengan tujuan gunakan AI untuk memperbaiki dan bantu umat manusia, OpenAI, di mata beberapa mantan pemimpinnya, kesulitan untuk prioritaskan komitmennya pada pengembangan teknologi yang aman. Wakil presiden penelitian perusahaan itu sebelumnya, Dario Amodei, bersama saudarinya Daniela Amodei dan beberapa peneliti lain, keluar dari OpenAI tahun 2020, sebagian karena kekhawatiran perusahaan lebih prioritaskan kesuksesan komersil daripada keamanan. Amodei mendirikan Anthropic tahun berikutnya.
OpenAI telah hadapi beberapa gugatan kematian keliru tahun ini, yang menyatakan ChatGPT mendorong khayalan pengguna, dan mengklaim percakapan dengan bot itu terkait dengan bunuh diri beberapa pengguna. Sebuah investigasi New York Times yang terbit bulan November menemukan hampir 50 kasus pengguna ChatGPT mengalami krisis kesehatan mental saat berbicara dengan bot itu.
OpenAI berkata pada Agustus bahwa fitur keamanannya bisa “menurun” setelah percakapan panjang antara pengguna dan ChatGPT, tetapi perusahaan telah buat perubahan untuk perbaiki cara modelnya berinteraksi dengan pengguna. Mereka bentuk dewan delapan orang awal tahun ini untuk nasihati perusahaan tentang pagar pembatas untuk dukung kesejahteraan pengguna dan telah perbarui ChatGPT untuk lebih baik merespons dalam percakapan sensitif dan tingkatkan akses ke saluran bantuan krisis. Awal bulan ini, perusahaan umumkan pemberian dana untuk penelitian tentang persimpangan AI dan kesehatan mental.
Perusahaan teknologi ini juga akui perlunya langkah keamanan yang lebih baik, dengan berkata dalam sebuah postingan blog bulan ini bahwa beberapa model terbaru mereka bisa menunjukan risiko keamanan siber yang “tinggi” seiring AI berkembang cepat. Perusahaan mengambil langkah—seperti latih model untuk tidak menanggapi permintaan yang bahayakan keamanan siber dan perbaiki sistem pemantauan—untuk kurangi risiko-risiko tersebut.
“Kami punya fondasi kuat untuk mengukur kemampuan yang berkembang,” tulis Altman pada Sabtu. “Tetapi kita masuk ke dunia dimana kita butuh pemahaman dan pengukuran yang lebih nuansa tentang bagaimana kemampuan itu bisa disalahgunakan, dan bagaimana kita bisa batasi dampak buruknya baik dalam produk kami maupun di dunia, dengan cara yang memungkinkan kita semua nikmati manfaat yang sangat besar.”
Cerita ini awalnya ditampilkan di Fortune.com