Ribuan percakapan pengguna dengan chatbot AI milik Elon Musk, yaitu Grok, sekarang bisa dilihat publik di Google.
Lebih dari 370.000 chat dari Grok sudah diindeks oleh mesin pencari. Ini membuka banyak hal sensitif seperti pertanyaan tentang medis dan psikologi, detail bisnis, dan setidaknya satu kata sandi.
Chat-chat ini terbuka karena fitur “share” di Grok. Pengguna mungkin pakai fitur ini untuk mengirim rekaman percakapan ke orang lain atau email mereka sendiri. Fitur share ini membuat URL unik untuk setiap percakapan. Tautan itu secara otomatis diterbitkan di situs web Grok dan terbuka untuk mesin pencari, sepertinya tanpa sepengetahuan pengguna.
Pembukaan chat ini pertama kali dilaporkan oleh Forbes.
Beberapa transkrip yang dilihat oleh Fortune berisi chat yang melanggar aturan pakai Grok. Satu percakapan menunjukkan Grok memberi tahu pengguna cara membuat narkoba, sementara yang lain memberi instruksi rinci cara membunuh Elon Musk. Aturan pakai xAI melarang penggunaan Grok untuk “merugikan jiwa manusia secara kritis.”
Ini bukan pertama kalinya percakapan dengan chatbot AI yang dikira pribadi malah berakhir di internet.
OpenAI pernah mencoba fitur serupa yang memperbolehkan pengguna membagikan percakapan ChatGPT mereka lewat tautan, yang juga membuat percakapan itu bisa ditemukan oleh mesin pencari seperti Google. Walaupun fiturnya opt-in dan ada peringatan bahwa chat bisa muncul di hasil pencarian, lebih dari 4.500 percakapan yang dibagikan terindeks oleh Google, termasuk yang berisi informasi pribadi atau sensitif.
OpenAI akhirnya menghapus fitur tersebut tak lama setelah chat yang terindeks mendapat perhatian media. Perusahaan menyebutnya eksperimen singkat dan mengakui bahwa itu “memberi terlalu banyak kesempatan bagi orang untuk tidak sengaja membagikan hal yang tidak mereka inginkan.”
Saat itu, CEO xAI, Musk, memakai insiden ini untuk promosi Grok sebagai alternatif ChatGPT. Dia posting di X: “Grok FTW.” Tidak seperti OpenAI, fitur “Share” Grok tidak mencantumkan peringatan bahwa chat bisa dibagikan ke publik.
Aplikasi AI milik Meta juga punya fitur share yang mempublikasikan chat langsung ke feed Discover aplikasi, yang juga menyebabkan mereka terindeks oleh Google. Banyak pengguna tidak sadar bahwa chat mereka dibagikan ke feed ini dan sering berisi informasi yang sangat pribadi dan sensitif.
Meta masih mengizinkan percakapan chatbot yang dibagikan untuk diindeks oleh mesin pencari, menurut Business Insider. Google sebelumnya juga mengizinkan chat dengan chatbot AI-nya, Bard, muncul di hasil pencarian, tetapi menghapusnya pada tahun 2023.
Ahli privasi telah memperingatkan pengguna bahwa chat dengan bot AI mungkin tidak sepribadi yang terlihat. Luc Rocher dari Oxford Internet Institute mengatakan kepada BBC bahwa chatbot AI adalah “bencana privasi yang sedang berlangsung.”
Setelah percakapan ada di internet, sulit untuk menghapusnya sepenuhnya. Banyak pengguna AI biasa mungkin tidak sepenuhnya paham bagaimana data mereka disimpan, dibagikan, atau digunakan. Misalnya, dua pengguna yang chat Grok-nya terindeks oleh Google tidak tahu bahwa chat mereka publik ketika diidentifikasi dan dihubungi oleh Forbes.
Di yurisdiksi seperti UE, penanganan informasi pribadi yang salah mungkin melanggar ketentuan hukum privasi data yang ketat, GDPR, yang mencakup prinsip seperti minimalisasi data, persetujuan, dan hak untuk dilupakan.
Pengguna semakin memperlakukan chatbot sebagai tempat curhat, memberi mereka detail sensitif seperti info kesehatan, detail keuangan, atau masalah hubungan yang mungkin tidak ingin mereka publikasikan. Bahkan jika chat dianonimkan, perintah sering berisi detail yang bisa dilacak kembali ke pengguna atau digunakan oleh aktor jahat, broker data, atau peretas.
Beberapa orang sudah melihat peluang bisnis dari chat publik Grok. Menurut Forbes, beberapa profesional pemasaran mendiskusikan cara memanfaatkan percakapan Grok yang dibagikan untuk meningkatkan visibilitas bisnis. Karena percakapan Grok diterbitkan sebagai halaman web dengan URL individu, bisnis berpotensi membuat script chat yang menyebutkan produk mereka dengan kata kunci untuk memanipulasi hasil pencarian atau membuat backlink. Namun, tidak jelas seberapa sukses hal ini. Taktik ini mungkin memberi nilai SEO dan membantu memanipulasi peringkat Google, tetapi juga bisa dianggap sebagai spam dan akhirnya merugikan visibilitas.
Perwakilan xAI tidak langsung menanggapi permintaan komentar dari Fortune.