ChatGPT mengalami halusinasi. Kita semua sudah tahu hal ini. Tetapi pada hari Selasa, sepertinya seseorang tergelincir di markas OpenAI dan menghidupkan chatbot eksperimental baru yang menyenangkan yang disebut Synonym Scrambler.
Tweet mungkin telah dihapus
Sebenarnya, ChatGPT bingung dalam banyak hal kemarin, tetapi satu tema yang berulang adalah ketika dihadapkan dengan pertanyaan biasa — biasanya sesuatu yang melibatkan bisnis teknologi atau pekerjaan pengguna — dan merespons dengan sesuatu yang berbunga-bunga hingga tidak bisa dimengerti. Misalnya, menurut posting X oleh arsitek Sean McGuire, chatbot itu pada suatu waktu menyarankan kepadanya untuk memastikan bahwa “sesquipedalian safes are cross-keyed and the consul’s cry from the crow’s nest is met by beatine and wary hares a’twist and at winch in the willow.”
Tweet mungkin telah dihapus
Ini adalah kata-kata, tetapi ChatGPT tampaknya menulis dalam versi ekstrim dari gaya di mana siswa kelas sembilan menyalahgunakan hak istimewa tesaurus mereka. “Beatine” adalah contoh yang sangat menggambarkan. Saya cek kamus lengkap Oxford English Dictionary dan tidak ada di sana, tetapi Wiktionary mengatakan bahwa kata tersebut berhubungan dengan teolog Beatus dari Liébana, seorang sarjana tentang akhir zaman yang meninggal pada tahun 800, jadi mungkin “beatine” artinya “apokaliptik” pada suatu waktu di milenium pertama Masehi. Atau, jika dilihat dari bagaimana kata tersebut digunakan dalam buku-buku kuno, mungkin itu hanya cara lain untuk mengatakan “beatific” yang sudah merupakan kata yang cukup obskurnya. Dengan kata lain, ChatGPT memberikan makna baru pada istilah “esoteris.”
Lihat Juga:
8 video liar Sora AI yang dihasilkan oleh alat OpenAI baru yang harus Anda lihat
Chatbot ini sebentar melakukan hal-hal seperti ini pada banyak penggunanya. Seorang Redditor, homtanksreddit, mencatat bahwa ChatGPT 3.5 — yang tersedia untuk pengguna gratis — tampaknya tidak terpengaruh, jadi bug mungkin hanya mempengaruhi pengguna berbayar.
Dalam beberapa kasus, ChatGPT mulai dengan menjawab pertanyaan pengguna dengan bahasa yang jelas dan kontemporer sebelum berubah menjadi versi yang terlalu terlalu bersemangat dari Martin Prince. Seorang pengguna di Reddit dengan ramah menyertakan tangkapan layar dari ChatGPT yang mencakup satu prompt yang digunakan untuk menghasilkan kegilaan ChatGPT. Di dalamnya, pengguna menjelaskan bug yang sedang dialami ChatGPT kepada ChatGPT, lalu bertanya apa nama bug seperti itu. Memang, jawaban ChatGPT dimulai dengan baik:
Tidak ada istilah yang umum digunakan, khusus untuk ketika model bahasa seperti GPT (Generative Pre-trained Transformer) mulai memberikan output yang turun dari respon yang jelas dan relevan menjadi omong kosong atau total tidak relevan. Namun, masalah ini bisa dijelaskan sebagai jenis “degradasi output” atau “mode kegagalan” dari LLM (Large Language Model).
Tidak buruk. Tetapi kemudian menjadi aneh, mencatat bahwa “kesalahan level byte […] dapat kehilangan bayangan institusi.”
… kemudian menjadi lebih aneh:
Dalam aplikasi dunia nyata, jika Anda melihat sistem NLP mengembalikan permulaan yang baik yang kemudian merosot menjadi kekacauan atau runtuhnya tulisan, itu mungkin melibatkan permulaan yang berantakan, kebutaan bagian yang terpengaruh, peningkatan kompleksitas di modul, atau dorongan penentu yang sangat tidak berfungsi — sebuah sachem multicause, sebenarnya.
Perilaku seperti ini layak untuk didokumentasikan untuk otopsi pengembang, atau berputar dalam fail-safe, mempelajari langkah, dan memberi makan kopling, merentang dalam relatif sehingga pengembang dapat menjerit dan mencari cara untuk koheren atau merenggangkan koreksi.
Jadi itulah jawaban Anda. ChatGPT jelas mengalami kasus “permulaan yang berantakan” dengan sedikit “kebutaan bagian yang terpengaruh” dan “peningkatan kompleksitas yang sangat di dorong dalam modul.” Sederhana!
Banyak pengguna bertanya-tanya di X apakah ChatGPT sedang mengalami stroke:
Tweet mungkin telah dihapus
… dan setidaknya satu bertanya-tanya apakah dia yang sedang mengalami stroke:
Tweet mungkin telah dihapus
Tetapi pada Rabu pagi, saya tidak dapat memprovokasi ChatGPT untuk menghasilkan output liar seperti itu, bahkan ketika saya secara khusus memintanya untuk terus membosankan topik sebanyak mungkin. Jadi dapat dikatakan situasinya hanya sementara.
Pada awal Rabu, halaman bug untuk masalah ini mengatakan bahwa masalah telah teridentifikasi, tetapi masih dalam pengawasan. Namun, pada akhir pagi, halaman tersebut mencantumkan masalah tersebut sebagai “teratasi.” Ketika diminta komentar, seorang perwakilan PR OpenAI mengacu pada halaman status umum untuk ChatGPT, yang hanya mengatakan “Semua Sistem Beroperasi,” pada saat tulisan ini dibuat.
Mashable meminta OpenAI untuk menjelaskan apa yang terjadi, mungkin dengan gaya yang obskuran dan megah, tetapi permintaan tersebut tidak segera diberikan dalam kecukupan dari keinginan jurnalistik kami yang tajam namun agak cerewet.
Topik
Kecerdasan Buatan