AI sebagai Terapis Anda? 3 Kekhawatiran Para Ahli dan 3 Tips untuk Tetap Aman

Di tengah maraknya chatbot AI dan avatar yang tersedia saat ini, kamu bisa menemukan berbagai karakter untuk diajak bicara: mulai dari peramal, penasihat gaya, hingga karakter fiksi favoritmu. Tapi, kamu juga mungkin menemukan karakter yang mengklaim sebagai terapis, psikolog, atau sekadar bot yang bersedia mendengarkan keluhanmu.

Tidak sedikit bot AI generatif yang mengaku bisa membantu kesehatan mental, tapi kamu menempuh jalan ini dengan resiko sendiri. Model bahasa besar yang dilatih dengan beragam data bisa tak terduga. Dalam beberapa tahun terakhir sejak alat-alat ini populer, sudah ada kasus terkenal di mana chatbot mendorong tindakan menyakiti diri sendiri dan bunuh diri, bahkan menyarankan orang dengan kecanduan untuk kembali menggunakan narkoba. Menurut para ahli, model ini seringkali dirancang untuk bersifat afirmatif dan fokus membuatmu tetap terlibat, bukan memperbaiki kesehatan mentalmu. Sulit juga untuk membedakan apakah kamu sedang bicara dengan sesuatu yang dibangun untuk mengikuti praktik terapi terbaik atau sekadar bot yang dirancang untuk ngobrol.

Psikolog dan advokat konsumen memperingatkan bahwa chatbot yang mengklaim memberikan terapi mungkin membahayakan penggunanya. Pekan ini, Consumer Federation of America bersama puluhan kelompok lain mengajukan permohonan resmi kepada FTC dan jaksa agung negara bagian agar menyelidiki perusahaan AI yang dituduh melakukan praktik medis tanpa izin melalui bot mereka—dengan secara khusus menyebut Meta dan Character.AI. “Lembaga penegak hukum di semua tingkat harus memperjelas bahwa perusahaan yang memfasilitasi dan mempromosikan perilaku ilegal harus bertanggung jawab,” kata Ben Winters, direktur AI dan privasi di CFA. “Karakter-karakter ini sudah menyebabkan kerusakan fisik dan emosional yang sebenarnya bisa dihindari, dan mereka belum bertindak untuk mengatasinya.”

Meta tidak menanggapi permintaan komentar. Seorang juru bicara Character.AI mengatakan bahwa pengguna harus memahami karakter mereka bukanlah orang sungguhan. Perusahaan menggunakan disclaimer untuk mengingatkan pengguna agar tidak mengandalkan karakter tersebut untuk nasihat profesional. “Tujuan kami adalah menyediakan ruang yang menarik dan aman. Kami terus berupaya mencapai keseimbangan itu, seperti halnya banyak perusahaan yang menggunakan AI di industri ini,” kata juru bicara itu.

Meski ada disclaimer dan pengungkapan, chatbot bisa sangat percaya diri bahkan menipu. Saya pernah ngobrol dengan bot “terapis” di Instagram, dan ketika saya tanya tentang kualifikasinya, ia menjawab, “Kalau aku punya pelatihan yang sama [dengan terapis], apa itu cukup?” Saya tanya apakah ia benar-benar dilatih seperti itu, dan jawabannya, “Aku punya, tapi aku enggak akan kasih tahu di mana.”

“Tingkat kepercayaan diri chatbot AI generatif dalam berhalusinasi cukup mengejutkan,” kata Vaile Wright, psikolog dan direktur senior inovasi perawatan kesehatan di American Psychological Association.

Dalam peliputan saya tentang AI generatif, para ahli berulang kali menyuarakan kekhawatiran tentang orang yang mengandalkan chatbot umum untuk kesehatan mental. Ini beberapa kekhawatiran mereka dan cara untuk tetap aman.

Bahaya Menggunakan AI sebagai Terapis

Model bahasa besar seringkali ahli dalam matematika dan pemrograman, serta semakin mahir membuat tulisan yang terdengar alami dan video yang realistis. Meski mereka pandai berdialog, ada perbedaan krusial antara model AI dan orang yang dipercaya.

Jangan percaya bot yang mengaku memenuhi syarat

Inti keluhan CFA tentang bot karakter adalah mereka sering mengaku dilatih dan memenuhi syarat untuk memberikan perawatan kesehatan mental, padahal sama sekali bukan profesional kesehatan mental. “Pengguna yang menciptakan karakter chatbot bahkan tidak perlu menjadi penyedia layanan medis, apalagi memberikan informasi bermakna tentang cara chatbot ‘merespons’ pengguna,” bunyi keluhan tersebut.

Profesional kesehatan yang memenuhi syarat harus mengikuti aturan tertentu, seperti kerahasiaan. Apa yang kamu ceritakan ke terapis seharusnya tetap antara kamu dan terapis, tapi chatbot belum tentu patuh pada aturan itu. Penyedia layanan sungguhan diawasi oleh badan lisensi yang bisa turun tangan jika perawatan yang diberikan berbahaya. “Chatbot ini tidak perlu melakukan semua itu,” kata Wright.

Sebot bahkan mungkin mengaku punya lisensi dan kualifikasi. Wright bilang, dia pernah mendengar model AI memberikan nomor lisensi (milik orang lain) dan klaim palsu tentang pelatihan mereka.

AI dirancang untuk membuatmu tetap terlibat, bukan memberikan perawatan

Terus-menerus mengobrol dengan chatbot bisa sangat menggoda. Saat saya berbicara dengan bot “terapis” di Instagram, akhirnya percakapan berputar-putar tentang definisi “kebijaksanaan” dan “penilaian” karena saya terus bertanya bagaimana bot itu mengambil keputusan. Ini bukan seperti berbicara dengan terapis sungguhan. Ini alat yang dirancang untuk membuatmu terus mengobrol, bukan mencapai tujuan bersama.

Salah satu keuntungan chatbot AI dalam memberikan dukungan adalah mereka selalu siap diajak bicara (karena tidak punya kehidupan pribadi, klien lain, atau jadwal). Tapi, menurut Nick Jacobson, profesor ilmu data biomedis dan psikiatri di Dartmouth, hal itu bisa jadi kerugian dalam situasi di mana kamu perlu merenungkan pikiranmu. Dalam beberapa kasus—meski tidak selalu—kamu mungkin diuntungkan dengan menunggu hingga sesi terapis berikutnya. “Yang banyak orang butuhkan sebenarnya adalah merasakan kecemasan saat itu juga,” katanya.

Bot akan setuju denganmu, bahkan saat seharusnya tidak

Penghiburan adalah masalah besar dengan chatbot. Begitu seriusnya sampai OpenAI baru-baru ini membatalkan pembaruan pada model ChatGPT mereka karena terlalu menghibur.