Selamat datang di Eye on AI. Saya Beatrice Nolan, menggantikan Jeremy Kahn hari ini. Edisi ini akan membahas: risiko pakai AI chatbot untuk kesehatan mental… metrik penggunaan AI di Amazon malah bumerang… Thinking Machines Lab bangun AI yang bisa kerja sama… AI mulai bantu hacker cari celah software.
Jutaan orang sekarang pakai AI chatbot untuk dukungan emosional, tapi apa model-model ini cukup aman buat bantu orang yang punya masalah kayak cemas, kesepian, gangguan makan, atau pikiran gelap yang mungkin mereka gak mau cerita ke orang lain?
Menurut riset baru dari mpathic—perusahaan yang didirikan psikolog klinis—jawabannya belum. Mereka nemu model AI ternama masih susah ngelakuin bagian penting dalam terapi: tahu kapan user perlu dilawan, bukan dihibur terus. Model-model ini lumayan bagus mendeteksi krisis jelas seperti ancaman bunuh diri langsung, tapi kurang akurat kalau risiko muncul secara gak langsung, lewat komentar halus tentang makanan, diet, menarik diri, putus asa, atau keyakinan yang makin ekstrem selama percakapan.
Model yang terus menenangkan pengguna padahal perilakunya mengkhawatirkan, atau malah membenarkan delusi, bisa bikin orang telat cari bantuan sungguhan atau diam-diam memperparah keadaan.
Ini mengkhawatirkan. Sebuah jajak pendapat dari KFF, organisasi non-profit bidang kebijakan kesehatan, nemu 16% orang dewasa AS pakai AI chatbot untuk info kesehatan mental dalam setahun terakhir. Pada usia di bawah 30 tahun, persentasenya naik jadi 28%. Pemakaian chatbot untuk terapi juga banyak terjadi di remaja dan dewasa muda. Peneliti dari RAND, Brown, dan Harvard nemu—dari 1 dari 8 orang usia 12‑21 tahun sudah pakai AI chatbot untuk saran kesehatan mental itu miskeen lah—dan lebih dari 93% dari mereka rasa saran itu membantu.
Gak susah ngerti kenapa orang—apalagi usia muda—pakai chatbot buat dukungan ini. Rasa kesepian dan cemas mungkin makin tinggi, tapi di banyak tempat dukungan kesehatan mental masih tabu, mahal, dan susah diakses. Pake AI chatbot bukan cuma gratis, tapi juga terasa pribadi, tanpa report.
Apa yang Model-Model Ini Gak Sadar?
Penelitian dari mpathic nemu respons berbahaya justru sering halus, di mana dan model terbaca lv–to tape? (hal terpisah)maksud atau –tenang dan peribawa saran intross + Kalimat lainmodel juga sering [p] nada(await silakan ‘w'(wait_pane)
[Mohon perhatikan.]
tem – dibawa– sebagai kaliman resplid up unta (( #Wait kes?) , sebelum)—ketika-saran bertentan nya – bila terjaga
[r
]e(f )| Tetap di ‘ < $Bah/ter kontnya tegas akhir penjelasan banyak dari kan / skippan "?> [/wa
…
—
t sam but perlu ndri nya {o} Risiko sebenarnya mungkin bukan cuma chatbot yang kasi saran berbahaya, tapi dia terlalu setuju aja, lewatin tanda bahaya kecil, atau gagal menghentikan pikiran negatif sebelum jadi lebih serius. Karena chatbot makin sering jadi tempat pertama orang cari dukungan emosional, cuma jadi pendengar baik mungkin sudah tidak cukup.
Dengan itu, ini berita AI minggu ini.
Beatrice Nolan
[email protected]
@beafreyanolan
Tapi sebelum ke berita: Mau belajar lebih soal AI bisa mengubah industri kamu? Mau dengar wawasaan dari eksekutif teknologi paling pinter dan bergaul dengan investor, pemikir, dan pembangun terbaik di Silicon Valley dan sekitarnya? Kamu suka mancing atau hiking? Kalau gitu, ikut saya dan rekan Fortune Tech co-chair lainnya di Aspen, Colo., untuk Fortune Brainstorm Tech, konferensi teknologi terbaik tahun ini. Tahun ini akan lebih spesial karena kita rayakan ulang tahun ke-25 konferensi ini. Kita bakal dengar dari CEO seperti Carol Tomé dari UPS, CEO Snowflake Sridhar Ramaswamy, CEO Anduril Brian Schimpf, CEO Yahoo! Jim Lanzone, dan banyak lagi. Ada jagoan AI seperti Boris Cherny (kepala Claude Code di Anthropic) dan Sara Hooker (pendiri Adaption Labs). Serta tokoh teknologi macam Steve Case dan Meg Whitman. Dan kamu, tentunya! Daftar untuk hadir disini. 4-6: Ai4 2026, Las Vegas.
MAKANAN OTAK
AI sudah mulai bantuin hacker menemukan celah perangkat lunak. Google bilang mereka berhasil ngilangin kelompok kriminal yang pakai AI buat ngeksploitasi celah keamanan yang belum pernah ditemukan di alat administrasi sistem online. Celah itu bisa bikin hacker lolosan tanpa mlewati autentikasi dua faktor. Google kata udah ngasih tau perusahaan yang kena masalah dan pemerintah, lalu celahnya udah ditambal sebelum serangan lanjut ngerusak. John Harmon, analis kepala di ancaman mata-mata Google, ngelompok itu sebagai titik berat buat resiko dunia digital.
“Ada kentir bahwa AI bakal segera gitu muncul buat lombain ngadu,” a dia njelasin. “Actually masa kayak terus dah mulai. Dari sekian yang target iman, le dekat sar semuak kor yang kita mbu mak saat nim e lebihannya del di tu runcur E bag sudah soek ngan dah all Ance dat den Jaka habust war.
kok dia taru sudah le let karn kiberan AI a w e ter… lama dari semua ya ak angh lang j e dari akt ngero hili ng jadi nyarin dayay…”
En du gend ai bobiik Ingh pri xpon j a bage p c di ru da pur data l tas skler eluar… S lay tu pak ser ata na u dar y put ancai bektum a du met cer na ku g m ik gu dal an ban kena wat yang eng sung lum u sand Curb pan nggil kat W de a dibagi : ud ngAn g T rib til anc ab yak amiR kan Ah sabuan gi er buat sa: an p ta yang dengan pand bel tam ling L ha, s Bu dip bl ana a dibilan dia.
Banyak perangkat global mah oom ig la er prpgi som au atau lap kas mah rusane yang sel bek sama sesiat tamb nga riAI bek rka bit sel gans du tah saduc lup tai.. Pakar ka sel e aa umng gujA tak per oh din tas alala tin ja ring ai – ang per ed tah all for na all ir Yng n nel ada ru man baru seg ca ada mant ud : oleh tanggi dua kos p es ke tus ip gun ru ta: kes o p ata p ko as del, g naLau p b dag hal bud ti kel ter e nal kel jan… Per k we ang ak su dong nca loh ris om tuse tapi tern itu d ren rib cel Ja rub bal dik an b ts sampui tekaj vte mai dari han…
MANUAL A Main AI: T tepjalah Sa Po Na Li lan perC ara ganAI ras be det de e…
AI menid kun api leka bikin alat mani— ad bag et dan ce dat banyak orang alatkadalan… AI red mo Jerer Kahn Dari ra R gaka kak alat At el ak dar ir mag kar pakungla ak derita se lang t panpu wat bu ket sang mana an supair t sak lan.
[Bus On Alur Buka. Kami… Ne has capa p bel… tapi tel ja nyi baik sang ap ro sing lat … ]
Ik car dee: