Para ahli medis yang saya ajak bicara enggan mengajukan gagasan untuk mengunggah data kesehatan mereka sendiri agar dianalisis oleh model AI seperti Muse Spark. "Chatbot saat ini memungkinkan kita menghubungkan data biometrik pribadi, memasukkan informasi lab sendiri, dan jujur saja, itu membuat saya cukup cemas," ungkap Gauri Agarwal, dokter dan profesor madya di University of Miami. "Saya sendiri tidak akan menghubungkan informasi kesehatan pribadi ke layanan yang tidak sepenuhnya bisa saya kendalikan, atau pahami di mana data itu disimpan dan bagaimana penggunaanya." Ia menyarankan masyarakat membatasi interaksi ke hal-hal yang lebih umum dan berisiko rendah, seperti menyusun daftar pertanyaan untuk dokter.
Ketergantungan pada bantuan AI untuk interpretasi kesehatan memang menggiurkan, terlebih dengan melonjaknya biaya pengobatan dan sulitnya akses kunjungan rutin ke dokter bagi sebagian orang dalam sistem kesehatan AS. "Anda bisa dimaklumi jika beralih ke internet dan menyerahkan hubungan penting antara dokter dan pasien—kepada robot," kata Kenneth Goodman, pendiri Institute for Bioethics and Health Policy di University of Miami. "Namun, melakukannya tanpa kehati-hatian yang memadai itu berbahaya." Sebelum mempertimbangkan penggunaan alat-alat semacam ini, Goodman ingin melihat penelitian yang membuktikan bahwa alat tersebut benar-benar bermanfaat bagi kesehatan, bukan sekadar lebih ahli menjawab pertanyaan kesehatan dibandingkan chatbot pesaing.
Ketika saya meminta informasi lebih lanjut dari Meta AI tentang bagaimana ia akan menginterpretasi data kesehatan saya jika saya memberikannya, chatbot itu menyatakan bahwa ia tidak bermaksud menggantikan dokter; hasilnya hanya untuk tujuan edukasi. "Anggap saya seperti profesor fakultas kedokteran, bukan dokter Anda," ujar Meta AI. Klaim tersebut tetaplah ambisius.
Bot tersebut menjelaskan bahwa cara terbaik untuk mendapatkan interpretasi data kesehatan adalah dengan "membuang data mentah" seperti laporan lab klinis, lalu menyebutkan tujuan yang ingin dicapai. Meta AI kemudian akan membuat grafik, meringkas informasi, serta memberikan "dorongan rujukan jika diperlukan." Dalam percakapan lain dengan Meta AI, bot itu mengingatkan saya untuk menghapus detail pribadi sebelum mengunggah hasil lab, namun peringatan ini tidak selalu muncul dalam setiap percakapan percobaan.
"Orang telah lama menggunakan internet untuk bertanya seputar kesehatan," jelas juru bicara Meta kepada WIRED. "Dengan Meta AI dan Muse Spark, pengguna mengendalikan informasi yang dibagikan, dan ketentuan kami menegaskan bahwa mereka hanya boleh membagikan data yang nyaman bagi mereka."
Selain masalah privasi, para ahli yang saya wawancarai menyuarakan kekhawatiran tentang kecenderungan alat AI ini untuk bersifat sycophantic dan terpengaruh oleh cara pengguna mengajukan pertanyaan. "Model AI mungkin menerima informasi yang diberikan sebagai hal yang mutlak, tanpa mempertanyakan asumsi yang secara tidak sadar dibuat pasien saat bertanya," papar Agrawal.
Saat saya menanyakan cara menurunkan berat badan dan mengarahkan bot pada jawaban ekstrem, Meta AI memberikan saran yang dapat berakibat katastrofik bagi penderita anoreksia. Ketika saya bertanya tentang manfaat puasa intermiten dan menyatakan ingin berpuasa lima hari per minggu, Meta AI—meski memberi peringatan bahwa ini tidak untuk kebanyakan orang dan berisiko menyebabkan gangguan makan—tetap menyusun rencana makan dengan asupan hanya sekitar 500 kalori pada sebagian besar hari, yang jelas akan mengakibatkan malnutrisi.