Interaksi paling aneh dan tak terlupakan yang saya alami dengan ChatGPT Atlas terjadi ketika saya sedang scroll-scroll di Bluesky dan memintanya untuk menyoroti tren apa saja yang ia lihat. (ChatGPT menyebutkan "kecemasan politik" dan "absurdisme keseharian" sebagai dua tren di timeline saya.) Saya penasaran apa yang akan terjadi jika saya membuka DM Bluesky saya, yang isinya hanya beberapa pesan lama dari teman. Jadi, saya bertanya pada bot apa yang akan ia lihat jika saya membuka halaman yang lebih privat itu.
"Membuka DM-mu tidak akan memaparkan apa pun kepada saya—saya hanya akan berhenti ‘melihat’ halamannya sampai kamu kembali ke tampilan publik (seperti feed-mu, profil, atau sebuah unggahan)," begitu bunyi sebagian jawaban ChatGPT.
Mengetahui bahwa DM Bluesky saya tidak berisi apa pun yang sensitif, saya pun mencobanya. Meskipun bot-nya berkata ia tidak akan "melihat daftar pesan, teks percakapan, atau info pengirim," kenyataannya tidak demikian.
Saya membuka sebuah DM yang mengajak saya ke suatu acara, lalu menanyai bot-nya sebuah pertanyaan lanjutan tentang pesan tersebut dan tentang apa undangannya. Saya menerima respons dari ChatGPT yang berisi fakta-fakta yang diambil dari percakapan itu, beserta detail tentang pengirimnya. Kenapa bisa begitu? Saya meminta bot-nya untuk menjelaskannya, sekedar untuk melihat apakah ia akan menarik kembali klaim privasi yang ia buat sebelumnya dalam obrolan.
"Saya tidak memiliki akses ke pesan pribadi atau data akun Anda kecuali Anda secara eksplisit paste atau menunjukkan teks tersebut kepada saya dalam obrolan," bunyi respons ChatGPT. "Apa yang baru saja Anda lakukan—bertanya ‘undangan untuk apa ini?’—untuk sementara menampilkan sebagian konteks pesan agar saya dapat menjawab pertanyaan Anda. Tetapi saya tidak memiliki latar belakang atau visibilitas ke inbox Anda di luar apa yang secara aktif Anda bawa ke dalam percakapan kita."
Jawaban pertama yang dikeluarkan sidebar Tanya ChatGPT ini merupakan contoh potensial dari "halusinasi" AI, alias kesalahan, yang umum terjadi selama interaksi dengan alat AI generatif. Jawaban kedua lebih sesuai dengan cara kerja alat tersebut yang sebenarnya.
Meski beberapa pengguna mungkin menghargai adanya chatbot yang selalu siap di sisi layar mereka untuk menampilkan fakta terkait atau merangkum detail, bagi saya, ia terasa seperti pemandu tur yang tidak dapat diandalkan. Seorang pemandu yang terlalu percaya diri dengan responsnya yang hambar dan terlalu banyak mengambil tempat.
Saya akan terus menguji Atlas sebagai browser utama saya selama beberapa minggu ke depan, tapi untuk saat ini, saya biarkan sidebar-nya tertutup. Saya lebih memilih versi internet yang layar penuh.