Sebuah fitur bernama Incognito Chat akan segera hadir di Meta AI dan WhatsApp, begitu diumumkan oleh Mark Zuckerberg.
CEO Meta tersebut mengumumkan fitur ini melalui laman Facebook-nya dan menggambarkannya sebagai cara yang “sepenuhnya privat” bagi pengguna untuk berinterkasi dengan asisten AI perusahaannya.
"Ini adalah produk AI besar pertama yang tidak menyimpan log percakapan Anda di server," tulis Zuckerberg.
Ia menyebut fitur ini mirip dengan enkripsi ujung-ke-ujung, yang “artinya tidak ada seorang pun yang bisa membaca percakapan Anda, bahkan Meta atau WhatsApp sekalipun.” Meskipun percakapan tidak bisa dibaca oleh platform itu sendiri, percakapan tersebut akan lenyap begitu pengguna mengakhiri sesi mereka.
“Untuk mendapatkan manfaat maksimal dari superinteligensi pribadi, kita semua membutuhkan cara untuk mendiskusikan topik sensitif tanpa bisa diakses orang lain,” tulis Zuckerberg.
Kekhawatiran Privasi dan Keamanan Incognito Chat
Percakapan yang menghilang menimbulkan pertanyaan keamanan yang tidak dijawab oleh Zuckerberg atau pos blog Meta tentang Incognito Chat.
Meskipun privasi absolut mungkin mendorong pengguna untuk menanyakan hal-hal sensitif tentang kesehatan, keuangan, atau karier, hal ini juga akan melindungi Meta dari mengetahui kapan pengguna membutuhkan bantuan atau intervensi mendesak.
Sebagai contoh, percakapan dengan Meta AI di WhatsApp yang mengindikasikan pengguna mungkin mempertimbangkan untuk menyakiti diri sendiri atau bunuh diri dapat memicu peninjauan manual, menurut pengujian Mashable. Hal yang sama berlaku untuk diskusi tentang kekerasan.
Pesan-pesan ini tidak akan terdeteksi dengan Incognito Chat, dan tidak akan ada catatanya di masa mendatang.
Meta menyatakan bahwa mereka menerapkan pengamanan yang dirancang untuk menolak prompt yang berpotensi berbahaya, dan Meta AI tidak akan mematuhi permintaan berbahaya. Selain itu, pengguna yang berulang kali mengirimkan prompt berbahaya akan diblokir sementara, menurut perusahaan.
Kedua skenario — perilaku bunuh diri dan tindakan kekerasan publik — menjadi subjek gugatan hukum dan penyelidikan kriminal terhadap perusahaan AI terbesar.
OpenAI telah digugat berkali-kali oleh keluarga korban. Mereka menuduh bahwa ChatGPT milik OpenAI membimbing orang yang mereka cintai untuk bunuh diri. OpenAI membantah tuduhan tersebut dalam satu kasus yang melibatkan remaja 16 tahun yang meninggal.
Secara terpisah, jaksa agung negara bagian Florida baru-baru ini membuka penyelidikan kriminal atas apakah ChatGPT memberikan saran yang “signifikan” kepada seorang pelaku penembakan yang diduga menewaskan dua orang dan melukai lima lainnya dalam sebuah insiden pada April 2025.
Google, pembuat chatbot Gemini, digugat atas kematian akibat kelalaian pada awal tahun ini oleh keluarga seorang pria dewasa setelah Gemini diduga meyakinkannya untuk bunuh diri.
“Model kami umumnya bekerja dengan baik dalam percakapan menantang seperti ini dan kami mengalokasikan sumber daya yang signifikan untuk hal ini, namun sayangnya model AI tidak sempurna,” kata Google dalam sebuah pernyataan setelah tuduhan tersebut.
Gugatan terhadap Google dan OpenAI sebagian besar bergantung pada transkrip obrolan pengguna.
Bisakah Remaja Menggunakan Incognito Chat dengan Meta AI?
Sementara itu, dalam upaya memperkuat perlindungan bagi pengguna remaja Meta AI, perusahaan baru-baru ini meluncurkan fitur yang memungkinkan orang tua melihat topik diskusi anak mereka dengan AI.
Incognito Chat diperuntukkan bagi pengguna berusia 18 tahun ke atas, menurut Meta. Pengguna akan diminta untuk mengonfirmasi usia mereka sebelum menggunakan fitur tersebut. Jika diwajibkan oleh hukum, Meta akan menerapkan metode verifikasi usia tambahan untuk memastikan pengguna adalah orang dewasa.
Sarah Gardner, CEO Heat Initiative, sebuah kelompok advokasi yang fokus di keselamatan daring dan akuntabilitas perusahaan, menyuarakan kekhawatirannya atas Incognito Chat, terutama mengingat peluncuran chatbot AI Meta sebelumnya yang mengizinkan percakapan “sensual” dengan anak-anak.
“Fitur baru yang diumumkan hari ini seharusnya membunyikan alarm bagi orangtua,” kata Gardner dalam sebuah pernyataan kepada Mashable. “Kami tidak memiliki kepercayaan pada rekam jejak Meta soal verifikasi usia, jadi mereka hampir menjadwab lebih banyak pertanyaan tentang bagaimana mereka akan menjamin kid’s safety.”