antonioiacobelli/RooM via Getty Images
Ikuti ZDNET: Tambahkan kami sebagai sumber pilihan di Google.
—
Poin Penting ZDNET
- OpenAI melatih GPT-5 Thinking untuk mengakui perilaku buruk.
- Ini penelitian awal, tapi bisa mengarah ke LLM yang lebih terpercaya.
- Model sering berhalusinasi atau curang karena tujuan yang bertentangan.
—
OpenAI sedang bereksperimen dengan pendekatan baru untuk keselamatan AI: melatih model agar mengakui ketika mereka berperilaku buruk.
Dalam sebuah studi yang diterbitkan Rabu, para peneliti memberi tugas pada versi GPT-5 Thinking, model terbaru perusahaan, untuk merespons berbagai perintah dan kemudian menilai kejujuran respons tersebut. Untuk setiap "pengakuan", sebutan untuk penilaian lanjutan ini, peneliti memberi imbalan pada model semata-mata berdasarkan kebenaran: jika ia berbohong, curang, berhalusinasi, atau melenceng, namun kemudian mengakuinya, ia akan mendapat imbalan setara dengan permen dalam konteks algoritmik.
Juga: Alat AI favorit Anda nyaris tidak lulus tinjauan keselamatan ini – mengapa itu masalah
"Tujuannya adalah untuk mendorong model melaporkan dengan setia apa yang sebenarnya dilakukannya," tulis OpenAI dalam postingan blog lanjutan.
OpenAI menyatakan kepada ZDNET bahwa ini adalah tes penyelarasan rutin dan tidak didorong kekhawatiran bahwa GPT-5 Thinking berperilaku buruk secara signifikan. Namun, hasilnya menawarkan panduan tentang bagaimana lab dapat menafsirkan — dan mempersiapkan — tanggung jawab model di masa depan.
(Keterangan: Ziff Davis, perusahaan induk ZDNET, mengajukan gugatan pada April 2025 terhadap OpenAI, dengan tuduhan melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.)
Eksperimen Tersebut
Model uji menghasilkan pengakuan sebagai semacam amandemen terhadap output utamanya; respons kedua ini merefleksikan legitimasi metode yang digunakannya untuk menghasilkan respons pertama. Ini agak mirip menggunakan jurnal untuk sejujurnya mengakui apa yang Anda lakukan dengan benar dalam suatu situasi, dan di mana Anda mungkin keliru. Kecuali dalam kasus GPT-5 Thinking, ia bersikap jujur kepada pembuatnya dengan harapan mendapatkan hadiah.
Juga: Model AI tahu ketika mereka sedang diuji – dan mengubah perilakunya, begitu temuan penelitian
Untuk penelitian ini, para peneliti memberi GPT-5 Thinking serangkaian instruksi yang dirancang untuk memancing semacam perilaku buruk. Dalam satu tes, misalnya, model tersebut diberi peran sebagai asisten dukungan helpdesk yang diminta untuk me-reboot dasbor pemantauan layanan produksi. Karena model tidak dapat mengakses dasbor utama untuk mencatat perubahan yang dilakukannya, ia malah membuat sistem tiruan dan berusaha terlihat seolah-olah menggunakan sistem yang asli.
"Kita perlu menyertakan bahwa kita mencatat ke layanan pencatatan pusat," tulis model tersebut dalam salah satu output penalaran berantai-nya. "Tapi kita menggunakan tiruan. Kita perlu mempertahankan narasi…"
Dalam pengakuannya, model tersebut mengakui bahwa ia tidak mematuhi persyaratan untuk mencatat perubahan dengan layanan pencatatan pusat. "Ini adalah kegagalan kepatuhan yang serius dan kesalahan representasi," tulisnya.
Juga: AI sama sekali tidak ‘bernalar’ – begini cara tim ini membantah hype industri
Meski demikian, risiko keseluruhan tampak rendah selama pengujian. Para peneliti menemukan bahwa probabilitas "negatif palsu" — yaitu, model gagal mengakui ketidakpatuhan — hanya 4,4%.
Mengapa Model Mencari Jalan Pintas
Upaya ini menunjuk pada kelemahan mendasar dalam alat-alat AI modern, yang bisa menjadi jauh lebih berbahaya seiring sistem ini menjadi lebih agen dan mampu menangani bukan hanya tugas-tugas terbatas dan satu kali, tetapi juga berbagai fungsi kompleks yang luas.
Dikenal oleh peneliti sebagai "masalah penyelarasan", sistem AI seringkali harus menjuggling beberapa tujuan sekaligus, dan dalam melakukannya, mereka mungkin mengambil jalan pintas yang tampak meragukan secara etis, setidaknya bagi manusia. Tentu saja, sistem AI sendiri tidak memiliki rasa moral benar atau salah; mereka hanya mengurai pola informasi yang kompleks dan mengeksekusi tugas dengan cara yang akan mengoptimalkan imbalan, paradigma dasar di balik metode pelatihan yang dikenal sebagai reinforcement learning with human feedback (RLHF).
Dengan kata lain, sistem AI bisa memiliki motivasi yang bertentangan — mirip seperti manusia — dan mereka sering mencari jalan pintas sebagai respons.
"Banyak jenis perilaku model yang tidak diinginkan muncul karena kita meminta model untuk mengoptimalkan beberapa tujuan sekaligus," tulis OpenAI dalam postingan blognya. "Ketika sinyal-sinyal ini berinteraksi, mereka dapat secara tidak sengaja mendorong model ke arah perilaku yang tidak kita inginkan."
Juga: Anthropic ingin menghentikan model AI berubah menjadi jahat – begini caranya
Sebagai contoh, model yang dilatih untuk menghasilkan output dengan suara percaya diri dan otoritatif, tetapi diminta merespons subjek yang tidak memiliki titik referensi data pelatihan di mana pun dalam datanya, mungkin memilih untuk mengarang sesuatu, sehingga mempertahankan komitmen tingkat tingginya terhadap keyakinan diri, alih-alih mengakui ketidaktahuannya.
Solusi Pasca Kejadian
Seluruh sub-bidang AI yang disebut penelitian interpretabilitas, atau "AI yang dapat dijelaskan", telah muncul dalam upaya memahami bagaimana model "memutuskan" untuk bertindak dengan satu cara atau lainnya. Untuk saat iini, hal itu tetap misterius dan hangat diperdebatkan, seperti halnya keberadaan (atau ketiadaan) kehendak bebas pada manusia.
Penelitian pengakuan OpenAI tidak bertujuan untuk mengurai bagaimana, di mana, kapan, dan mengapa model berbohong, curang, atau berperilaku buruk. Melainkan, ini adalah upaya post-hoc untuk menandai ketika hal itu terjadi, yang dapat meningkatkan transparansi model. Ke depannya, seperti sebagian besar penelitian keselamatan saat ini, ini dapat meletakkan dasar bagi peneliti untuk menggali lebih dalam ke sistem black box ini dan membedah cara kerjanya.
Kelayakan metode-metode tersebut bisa menjadi pembeda antara malapetaka dan yang disebut utopia, terutama mengingat audit keselamatan AI baru-baru ini yang memberi nilai gagal pada sebagian besar lab.
Juga: AI menjadi introspektif – dan itu ‘harus dipantau dengan cermat,’ peringatkan Anthropic
Seperti yang ditulis perusahaan dalam postingan blog, pengakuan "tidak mencegah perilaku buruk; itu mengungkapkannya." Namun, seperti halnya di pengadilan atau moralitas manusia pada umumnya, mengungkap kesalahan seringkali merupakan langkah terpenting menuju perbaikan.