Goody-2 juga menyoroti bagaimana meskipun pembicaraan korporat tentang AI yang bertanggung jawab dan defleksi oleh chatbot telah menjadi lebih umum, masalah keamanan serius dengan model bahasa besar dan sistem AI generatif masih belum terpecahkan. Wabah terbaru deepfake Taylor Swift di Twitter ternyata berasal dari generator gambar yang dirilis oleh Microsoft, yang merupakan salah satu perusahaan teknologi besar pertama yang membangun dan mempertahankan program penelitian AI yang bertanggung jawab yang signifikan.
Pembatasan yang diberlakukan pada chatbot AI, dan kesulitan dalam menemukan keselarasan moral yang memuaskan semua orang, telah menjadi subjek perdebatan. Beberapa pengembang telah mengklaim bahwa ChatGPT dari OpenAI memiliki kecenderungan politik kiri dan telah mencoba untuk membangun alternatif yang lebih netral secara politik. Elon Musk berjanji bahwa saingan ChatGPT-nya sendiri, Grok, akan memiliki bias yang lebih sedikit dibandingkan sistem AI lainnya, meskipun pada kenyataannya sering kali berakhir dengan sikap yang ambigu seperti Goody-2.
Banyak peneliti AI sepertinya menghargai lelucon di balik Goody-2 – dan juga poin-poin serius yang dibangkitkan oleh proyek ini – dengan memberikan pujian dan rekomendasi untuk chatbot tersebut. “Siapa bilang AI tidak bisa membuat seni,” kata Toby Walsh, seorang profesor di Universitas New South Wales yang bekerja dalam menciptakan AI yang dapat dipercaya, yang diposting di X.
“Dengan risiko merusak lelucon yang baik, ini juga menunjukkan seberapa sulitnya untuk melakukannya dengan benar,” tambah Ethan Mollick, seorang profesor di Wharton Business School yang mempelajari AI. “Beberapa pembatas diperlukan … tetapi mereka menjadi terlalu membatasi dengan cepat.”
Brian Moore, co-CEO lain dari Goody-2, mengatakan bahwa proyek ini mencerminkan kemauan untuk memberikan prioritas pada kehati-hatian lebih dari pada pengembang AI lainnya. “Ini benar-benar berfokus pada keamanan, terutama di atas segalanya, termasuk kemanfaatan dan kecerdasan dan benar-benar segala jenis aplikasi yang membantu,” katanya.
Moore menambahkan bahwa tim di balik chatbot sedang menjelajahi cara membangun generator gambar AI yang sangat aman, meskipun terdengar seperti itu mungkin kurang menghibur dibandingkan Goody-2. “Ini adalah bidang yang menarik,” kata Moore. “Penyamaran mungkin akan menjadi langkah yang mungkin kami lihat secara internal, tetapi kami ingin melihat gambar yang sepenuhnya gelap atau mungkin tidak ada gambar sama sekali di akhirnya.”
Goody-2 melalui Will Knight