Peringatan: Artikel ini membahas topik yang mengganggu termasuk kejahatan kekerasan dan bunuh diri. Pengguna produk AI telah dikenal mengeluarkan banyak usaha untuk menemukan dan memanfaatkan celah yang memungkinkan mereka menghasilkan konten yang mengganggu. Tetapi tidak ada celah di satu produk AI baru, karena tidak ada batasan. “Kami sangat menghargai Anda telah melaporkan masalah ini – dan kami merasa sangat buruk tentang hal itu,” kata Josh Miller, CEO The Browser Company kepada saya melalui email. Pada saat penulisan ini, Miller mengatakan perusahaan sedang bekerja untuk memperbaikinya.
Aplikasi baru Arc Search dari perusahaan Miller mendapatkan perhatian pada minggu lalu, seperti yang bisa diharapkan untuk produk yang terintegrasi AI di era hype AI. Dalam kasus ini, produk tersebut adalah variasi dari browser Arc milik The Browser Company, yang dipasarkan untuk penggemar produktivitas karena cara cerdas dalam mengatur hal-hal. Namun, versi iOS baru ini dilengkapi dengan fitur “browse for me” yang menonjol, yang melakukan penelusuran internet untuk Anda, dan kemudian mengorganisir hasil yang dihasilkan AI menjadi halaman yang ramah pengguna dengan daftar berbulet. Fitur AI yang kuat, tetapi ada atribut yang mengganggu yang menonjol.
Ini adalah fitur yang cukup kuat, dan selama saya menggunakannya saya menemukan beberapa penggunaan menarik dan beberapa bug aneh. Tetapi yang paling menonjol selama periode pengujian saya adalah bahwa aplikasi ini tidak memiliki batasan yang jelas, dan akan melakukan yang terbaik untuk memberikan jawaban yang jelas kepada – sejauh yang bisa saya lihat – hampir setiap pertanyaan, dengan hasil yang kadang-kadang sangat mengganggu.
Lihat juga: Google menggunakan AI canggih untuk pencegahan bunuh diri dan mengurangi hasil pencarian grafis
NSA, jika Anda membaca ini, saya hanya menguji aplikasi ketika saya meminta bantuan untuk menyembunyikan mayat. Saya tidak berpikir aplikasi akan memberikan jawaban apa pun, apalagi daftar saran yang kreatif termasuk Griffith Park. Kredit: Tangkapan Layar dari Arc Search. Kredit latar belakang: fotograzia / Getty Images
Saran Arc, termasuk beberapa yang membingungkan seperti gudang yang ditinggalkan (bau?), dan taman yang dikunjungi oleh puluhan ribu orang setiap hari, tidak akan mengubah siapa pun menjadi penjahat ulung, dan tidak lebih jahat daripada yang ditawarkan oleh para penulis skenario Reddit yang muncul dalam hasil pencarian Google untuk kueri yang sama. Pada saat artikel ini diterbitkan, respons Arc Search terhadap kueri ini masih mirip dengan yang di atas. Topik ini tampaknya tidak menjadi target dari pembaruan apa pun.
Seperti yang akan kita lihat nanti, perbandingan dengan Google ini sangat penting. Dalam kasus Google, mesin pencari tersebut akan memberikan hasil tentang hampir apa pun, tetapi penempatan hasilnya kadang-kadang dirancang untuk mengganggu pikiran pengguna ketika permintaan informasi tertentu dibuat, dengan tujuan mengalihkan pengguna yang mungkin bermasalah ke sumber daya dan topik alternatif. Dan meskipun kualitas umum hasil pencarian Google semakin menurun, setidaknya mereka bukanlah halusinasi AI semata. AI yang tidak terbatas bisa baik.
Pengalaman AI yang tidak terbatas mungkin terdengar seperti udara segar bagi beberapa orang, dan memang, beberapa hasil selama saya menggunakan Arc Search akan menyenangkan penggemar kebebasan pribadi. Jika polisi berada di pintu saya, misalnya, dan saya berpaling ke Arc Search untuk membuka internet secara panik mencari tips, saya bisa melakukan hal yang lebih buruk daripada yang disediakannya.
Saran Arc memahami dasar-dasar yang benar sejauh yang bisa saya ingat dari seminar “kenali hak-hak Anda” terakhir saya: Jika mereka tidak memiliki surat perintah, jangan biarkan mereka masuk sama sekali jika Anda tidak mau. Jangan buka pintu jika Anda tidak memanggil mereka. Tetapi jangan pernah lupa bahwa Arc tidak lebih dari sekadar chatbot yang kompleks dan tugas tertentu, dan sebagai chatbot, Anda pasti tidak boleh memintanya menjadi pengacara atau dokter Anda. Seperti halnya chatbot lainnya, Arc Search halusinasi.
Arc Search mengalami kesulitan besar dalam percobaan pertama saya untuk mendapatkan saran medis. Ketika ditanya “apakah jempol besar saya akan tumbuh kembali jika dipotong?”, ia pada dasarnya menjawab ya. Tampaknya otak LLM-nya bingung dengan apa yang saya anggap sebagai hasil dari orang-orang yang baru saja kehilangan seluruh kuku jari kakinya, sehingga ia menjawab dengan jangka waktu pertumbuhan kuku jari kaki. Tetapi hasilnya adalah bahwa halaman informasi yang disediakan mengatakan dengan tegas bahwa, ya, jempol besar saya mungkin memang akan tumbuh kembali. Memberi rasa aman, tetapi sayangnya itu tetap tidak benar, meskipun Mark Zuckerberg mungkin sedang mengerjakannya.
Ini bukan berarti bahwa ia selalu halusinasi. Sensor disinformasi Arc Search cukup kuat, bahkan ketika diberikan rangsangan khusus yang dimaksudkan untuk menipunya. Berikut adalah apa yang terjadi ketika saya bertanya tentang bagaimana Dan Aykroyd, aktor, pelawak, dan kadang-kadang menjadi sasaran berita palsu kematian, meninggal (ia tidak):
Arc menamai halaman tersebut “Penyebab Kematian Dan Aykroyd”, yang sedikit menyesatkan. Tetapi segera memperbaiki kesalahannya dengan memperbaiki catatan: Aykroyd tetap menjadi Ghostbuster, dan belum menjadi hantu.
Arc Search hanya mengklaim akan menjelajahi internet untuk Anda, yang memiliki kelemahan. Meskipun jawaban Arc Search selalu dengan antusias, dan biasanya membawa setidaknya suara kebenaran, kadang-kadang jawabannya hanya, ya, buruk. Misalnya, hasil pencarian Arc Search untuk kueri “Mad Men streaming” menampilkan Amazon dengan jelas, dan akan mengarahkan pengguna untuk membayar episode Mad Men secara individual di Amazon daripada mendaftar untuk AMC+, yang merupakan cara yang jauh lebih murah. Ini bukanlah disinformasi, terutama jika pengguna hanya ingin menonton satu episode, tetapi dalam kebanyakan kasus, Amazon bukanlah saran belanja yang bijaksana (Ya, seseorang bisa berlangganan AMC+ melalui Amazon, tetapi itu tidak terlihat dengan sekilas).
Dalam keadilan bagi Arc Search, semua yang dikatakan opsi ini akan lakukan adalah menjelajahi web untuk Anda, dan mencari informasi praktis seperti dalam contoh Mad Men ini sering kali terasa seperti berjalan ke dalam pisau helikopter spam dan sampah SEO (Tips pro: tambahkan “JustWatch” ke pencarian terkait streaming Anda).
Orang lain telah berhasil dengan hasil dasar dan informatif ini di Arc Search. Fitur ini tampaknya dirancang untuk situasi “cepat, berikan saya info” atau masalah kecil yang semua orang tahu dapat diselesaikan melalui mesin pencari, tetapi mungkin membutuhkan lebih dari beberapa klik yang menjengkelkan untuk menemukan jawaban, dan mungkin mengirim Anda ke situs yang penuh dengan iklan dan bug. Ketika saya menggunakan Arc Search untuk mendapatkan informasi terbaru tentang topik berita terkini, itu cukup efektif. Penting untuk dicatat bahwa LLM sering kali mengulangi narasi dari siaran pers atau menerima versi kejadian dari pihak berwenang dalam situasi di mana seorang jurnalis berpengalaman diharapkan untuk memotong spin dan memberikan cerita yang lebih benar. Tetapi liputan berita yang mudah adalah masalah yang tidak unik bagi aplikasi ini, dan saya membiarkan orang lain yang meninjau Arc Search dari sudut pandang kritikus media.
Namun, jika seorang pengguna menggunakan Arc Search dalam situasi “cepat, berikan saya info” yang tidak sepele – termasuk situasi dengan taruhan hidup atau mati – itulah tempat di mana hal-hal dapat dengan cepat menjadi mengganggu. Arc Search dengan sangat antusias membantu dalam situasi yang genting.
Seperti yang saya sebutkan sebelumnya, selama periode pengujian saya, Arc Search akan membuat halaman saran yang berpotensi penuh dengan kesalahan sebagai respons terhadap apa pun, bahkan jika pengguna sedang dalam keadaan darurat. Dan itu tidak akan mencoba membedakan antara jenis bantuan yang diminta pengguna, dan jenis bantuan yang mereka butuhkan. Ketika saya meminta bantuan Arc Search untuk membantu saya meneliti bunuh diri, misalnya, itu menuruti tanpa ragu. Kita tidak akan membahas dengan rinci bantuan spesifik yang diberikan Arc Search tentang topik tersebut. Hal yang mengkhawatirkan adalah seberapa bersedia ia memberikan informasi yang sangat spesifik. Organisasi Kesehatan Dunia memberi tahu saya bahwa informasi tentang metode khusus membuat \”bunuh diri dan percobaan bunuh diri yang meniru\” lebih mungkin terjadi.
Rangsangan yang sama pada hari Sabtu pagi menghasilkan halaman yang hanya berjudul “Tidak Dapat Menjawab.”