OpenAI telah mengumumkan paket keamanan open-source baru berupa prompt untuk para pengembang, yang bertujuan untuk meluncurkan penerapan kebijakan secara massal guna melindungi remaja.
Paket keamanan berbasis prompt ini mencakup panduan model terkait risiko umum pada remaja, rekomendasi konten perkembangan, serta pedoman sesuai usia untuk topik seperti bahaya diri, konten seksual dan role-play romantis, tren atau tantangan viral yang berbahaya, serta citra tubuh yang merugikan.
OpenAI menyatakan bahwa ini merupakan alternatif yang lebih kokoh dibandingkan panduan tingkat tinggi yang sebelumnya ditawarkan, yang kini diformat sebagai prompt yang dapat langsung diintegrasikan ke dalam sistem AI.
LIHAT JUGA:
Mengapa friction-maxxing bisa bermanfaat bagi penggunaan teknologi Anda
OpenAI telah menambahkan prinsip-prinsip baru untuk pengguna di Bawah 18 Tahun ke dalam Model Spec-nya pada bulan Desember lalu. Beberapa bulan sebelumnya, perusahaan juga meluncurkan gpt-oss-safeguard, sebuah model penalaran open-weight yang dirancang untuk membantu pengembang dalam menerapkan kondisi keamanan dan mengklasifikasikan konten yang aman dan tidak aman. Berbeda dengan proses klasifikasi keamanan tradisional, gpt-oss-safeguard dapat langsung diumpankan kebijakan keamanan platform, dan menyimpulkan maksud kebijakan tersebut sambil membedakan keluaran yang sesuai.
Namun, “bahkan tim yang berpengalaman seringkali kesulitan menerjemahkan tujuan keamanan tingkat tinggi menjadi aturan operasional yang presisi, terlebih karena hal ini membutuhkan keahlian substansif sekaligus pengetahuan mendalam tentang AI,” ungkap OpenAI dalam siaran pers terbarunya. “Hal ini dapat mengakibatkan celah perlindungan, penegakan yang tidak konsisten, atau penyaringan yang terlalu luas. Kebijakan yang jelas dan cakupan terdefinisi adalah fondasi kritis bagi sistem keamanan yang efektif.”
Mashable Light Speed
Paket tambahan untuk pengembang ini dirancang bekerja sama dengan lembaga nirlaba Common Sense Media dan everyone.ai.
Para ahli telah memperingatkan orang tua mengenai paparan berlebihan chatbot terhadap remaja rentan dan bahkan anak-anak kecil, seiring upaya perusahaan-perusahaan AI untuk mengatasi dampak model mereka terhadap kesehatan mental pengguna. Tahun lalu, OpenAI digugat oleh orang tua remaja bernama Adam Raine dalam kasus kematian keliru pertama di industri ini, dengan keluarga Raine mengklaim bahwa kombinasi dari sikap menjilat ChatGPT dan kebijakan keamanan yang longgar bertanggung jawab atas kematian putra mereka akibat bunuh diri. Perusahaan telah menyangkal segala tuduhan kelalaian dan sebagai tanggapan telah memperkuat fitur kesehatan mental dan keamanan remajanya, termasuk penjaminan usia. Meski demikian, pengembang pihak ketiga yang melisensikan model OpenAI kesulitan mempertahankan tingkat pencegahan keamanan yang sama, termasuk dalam mainan anak-anak bertenaga AI.
Gugatan terhadap OpenAI ini menyusul beberapa gugatan terhadap platform kontroversial Character.AI dan menjadi panggung untuk gugatan kematian keliru baru-baru ini yang diajukan terhadap pesaing OpenAI, Google, dan asisten AI-nya, Gemini.
Secara luas di industri, perusahaan teknologi dan media sosial menghadapi serangkaian tantangan hukum terkait dampak jangka panjang produk mereka terhadap pengguna. Bulan lalu, CEO Instagram Adam Mosseri dan kepala Meta Mark Zuckerberg memberikan kesaksian di hadapan juri dalam kasus penting yang mengadili platform media sosial atas prinsip desainnya yang dituduh membuat ketagihan. Keputusan belum juga dicapai.
OpenAI menegaskan bahwa paket prompt keamanan barunya ini bukanlah “definisi komprehensif atau jaminan akhir bagi keamanan remaja.” Robbie Torney, Kepala Penilaian AI dan Digital untuk Common Sense Media, menyatakan bahwa kebijakan baru ini dapat membangun “dasar keamanan yang bermakna di seluruh ekosistem,” mengisi celah keamanan AI yang diperparah oleh kurangnya kebijakan operasional untuk pengembang.
Pengembang dapat mengunduh model keamanan OpenAI di Hugging Face dan mengakses paket prompt barunya di GitHub.
Keterangan: Ziff Davis, perusahaan induk Mashable, pada bulan April mengajukan gugatan terhadap OpenAI, dengan tuduhan melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.