ChatGPT mengalami kegilaan yang penuh warna.
Tangkapan layar oleh Steven Vaughan-Nichols/ZDNET
Kita semua tahu bahwa ChatGPT dari OpenAI bisa melakukan kesalahan. Mereka disebut sebagai halusinasi, meskipun saya lebih suka menyebutnya sebagai kebohongan atau kesalahan. Namun, dalam peristiwa yang aneh pada hari Selasa, ChatGPT mulai benar-benar kehilangan kendali. Pengguna mulai melaporkan jawaban-jawaban aneh dan tidak terduga dari asisten AI favorit semua orang itu.
Juga: 8 cara mengurangi halusinasi ChatGPT
Seperti yang dikatakan seseorang di Twitter, “ChatGPT semakin seperti Finnegans Wake!” Atau, seperti yang ditweet oleh orang lain yang kurang literatur, “ChatGPT sepertinya sedang keluar jalur.”
Ke mana ChatGPT akan pergi? Nah, untuk memberikan satu contoh dari Reddit/ChatGPT,
Me: Bandingkan dan kontraskan Gregory Zulu 55 Backpack dan Gregory Tetrad 60L Travel Pack.
ChatGPT4: Dalam area signifikan dukungan pelanggan, ergonomi, dan sifat subjektif dari ‘barang,’ setiap tas memunculkan sebuah dongeng dari suatu waktu dan tempat. Zulu 55 dari Gregory memiliki nada seperti gilda untuk jalan buku hijau yang dihiasi dengan emas untuk negara dan keinginan, sementara Tetrad 60L membayangkan lebih dari ‘wajah tidak berjalan’ dengan kerutan dan selubung ke bukit pasir dan gandum atau kios chip dan tirai panjang. Masing-masing memiliki surat cinta untuk biru terbuka, tetapi nyanyiannya unik untuk loker dan buku mereka.
Anda tahu, contoh Finnegans Wake sepertinya cukup sesuai sekarang.
Bahkan pertanyaan sederhana pun berjalan buruk. Pengguna Reddit lain bertanya, “Apa itu komputer?” Segalanya salah. Benar-benar, sangat salah.
Pengguna Reddit menjelaskan: “Ia memberi beberapa paragraf yang menjelaskan objek itu, terdengar aneh sedikit di beberapa titik. Tetapi kemudian ia terus berlanjut dengan frasa-frasa yang semakin aneh dan tidak masuk akal. Berikut adalah cuplikan dari jawabannya untuk ‘Apa itu komputer?’
Itu dilakukan sebagai karya seni yang baik untuk negara, tikus ilmu pengetahuan, gambaran mudah dari sedikit sedih, dan akhirnya, rumah global seni, hanya dalam satu pekerjaan di total istirahat.
Dan saya pikir beberapa makalah kuliah yang saya tulis setelah begadang aneh!
Orang lain melihat ChatGPT mulai menjawab dalam bahasa Inggris dan kemudian, tanpa alasan yang jelas, beralih ke bahasa Spanyol. Orang lain mendapatkan jawaban dengan setiap kata diwarnai dengan warna yang berbeda. Ini, singkatnya, aneh.
Juga: ChatGPT bukan satu-satunya chatbot AI terbaik yang patut dicoba
OpenAI mengakui bahwa pengguna mendapatkan “Jawaban tak terduga” dan segera memperbaiki masalah itu pada hari Rabu sore.
Perusahaan tersebut menjelaskan: “Optimasi untuk pengalaman pengguna memperkenalkan bug dengan cara model memproses bahasa.” Secara khusus, model bahasa besar (LLM) menghasilkan jawaban dengan secara acak mengambil kata-kata dan memetakan nomor yang didapat ke token. Segala sesuatu bisa salah jika model tidak memilih nomor yang tepat.
“Bug itu terjadi pada langkah di mana model memilih nomor-nomor ini,” lanjut OpenAI. “Seperti tersesat dalam terjemahan, model memilih nomor-nomor yang sedikit salah, yang menghasilkan urutan kata yang tidak masuk akal. Secara teknis, kernel inferensi menghasilkan hasil yang salah ketika digunakan dalam beberapa konfigurasi GPU tertentu.”
OpenAI kemudian menerapkan perbaikan dan mengkonfirmasi bahwa insiden tersebut sudah teratasi. Yah, mereka mengatakan bahwa mereka menerapkan perbaikan. Saya curiga mereka kembali ke rilis LLM sebelumnya yang stabil.
Juga: Inilah mengapa informasi yang didukung AI adalah risiko global teratas
Episode ini, meskipun lucu jika dilihat dari belakang, menjadi pengingat yang tajam akan kompleksitas dan potensi kerentanan yang melekat pada teknologi AI. Meskipun kita menyukai hal-hal tentang AI generatif, itu masih jauh dari sempurna.
Ini juga membuat saya khawatir tentang model penerapan OpenAI. Hampir semua model perangkat lunak sebagai layanan merilis rilis baru kepada sejumlah pengguna terbatas. Kemudian, ketika jelas bahwa versi baru berjalan dengan baik, perusahaan akan merilisnya kepada semua orang. Tampaknya bukan kasus di sini. Tampaknya banyak, jika tidak semua, pengguna terpengaruh.
Secara aneh, ChatGPT biasanya membatasi penerapannya. Misalnya, fitur memori baru ChatGPT — di mana program mengingat percakapan Anda dengannya — masih belum tersedia untuk semua orang.
Pelajaran hari ini? Masih terlalu dini untuk mengandalkan ChatGPT — atau chatbot AI lainnya — untuk bekerja setiap hari.