Eugene Mymrin/Getty Images
OpenAI telah memimpin ruang AI generatif sejak meluncurkan ChatGPT, menetapkan beberapa preseden untuk pengembangan AI di masa depan. Untuk itu — dan untuk lebih memperkuat transparansi dengan publik — OpenAI telah membagikan dokumen baru yang memberikan wawasan lebih dalam kepada pengguna tentang model AI-nya.
Pada hari Rabu, OpenAI merilis draf pertama Model Spec-nya, sebuah dokumen yang menguraikan bagaimana perusahaan ingin modelnya berperilaku di OpenAI API dan ChatGPT. Model Spec juga dimaksudkan untuk memberikan wawasan tentang bagaimana OpenAI membuat keputusan tentang perilaku modelnya.
Untuk memperdalam percakapan publik tentang bagaimana model AI seharusnya berperilaku, kami membagikan Model Spec kami – pendekatan kami untuk membentuk perilaku model yang diinginkan. https://t.co/RJBRwrcTtQ — OpenAI (@OpenAI) 8 Mei 2024
Perilaku model mengacu pada bagaimana model AI merespons masukan pengguna, termasuk karakteristik seperti nada, panjang respons, dan lainnya. OpenAI menjelaskan bahwa model AI tidak secara eksplisit diprogram tetapi belajar dari data; oleh karena itu, membentuk perilaku mereka tetap menjadi “ilmu yang baru” dengan banyak nuansa yang harus diperhitungkan.
Model Spec mendokumentasikan bagaimana OpenAI mendekati tugas kompleks membentuk perilaku model, termasuk pengalaman dan penelitian yang sedang berlangsung mengenai topik tersebut. OpenAI menjelaskan bahwa mereka belum menggunakan Model Spec “dalam bentuknya saat ini” tetapi sedang mengerjakan teknik yang akan memungkinkan model mereka belajar langsung dari spesifikasi tersebut.
Dalam dokumen tersebut, OpenAI memecah tiga prinsip Model Spec: tujuan, yang mencakup membantu pengembang dan pengguna akhir serta bermanfaat bagi kemanusiaan; aturan; dan perilaku default, yang mengacu pada pedoman yang konsisten dengan tujuan dan aturan.
Perusahaan mengatakan bahwa mereka membagikan Model Spec kepada publik sebagai pedoman bagi peneliti dan pelatih AI yang bekerja dengan pembelajaran penguatan berdasarkan umpan balik manusia. Dengan membagikan dokumen ini, OpenAI berusaha meningkatkan transparansi tentang model-modelnya dengan audiensnya dan mengumpulkan semua umpan balik pemangku kepentingan mengenai pendekatannya.
Juga: Google benar untuk khawatir: OpenAI dilaporkan ingin masuk ke pasar pencarian
Formulir Umpan Balik Model Spec terbuka hingga 22 Mei. Semua pemangku kepentingan didorong untuk mengisi formulir, terlepas dari keahlian teknis.
Model Spec sesuai dengan upaya berkelanjutan OpenAI untuk memperdalam kepercayaan dengan pemangku kepentingan mengenai modelnya. Baru minggu ini, OpenAI merilis alat baru yang dapat mendeteksi gambar AI yang dihasilkan menggunakan alat DALL-E 3 mereka sendiri.