OpenAI baru saja merilis sebuah laporan mengenai layanan kesehatan yang disarikan dari percakapan chatbot anonim. Judulnya bisa disetarakan dengan cerita pendek satu kalimat yang suram: “AI sebagai Sekutu Kesehatan: Bagaimana orang Amerika menavigasi sistem dengan ChatGPT.”
Menurut laporan tersebut, aplikasi berhalusinasi milik OpenAI—produk yang diklaim psikolog berpotensi memperburuk atau salah menangani gejala kesehatan mental—sedang digunakan oleh orang Amerika dalam cara-cara berikut:
Hampir 2 juta pesan setiap minggunya melibatkan orang yang berusaha mengatasi masalah harga medis, klaim (baik dari sisi pasien maupun perusahaan asuransi), paket asuransi, penagihan, kelayakan, cakupan, dan isu-isu lain terkait asuransi kesehatan swasta yang terdengar menegangkan. 600.000 pesan terkait kesehatan setiap minggu dikirim dari daerah pedesaan dan daerah kekurangan layanan kesehatan lainnya. Tujuh dari sepuluh pertanyaan kesehatan terjadi pada saat klinik umumnya tutup, “menegaskan bagaimana orang mencari informasi yang dapat ditindaklanjuti ketika fasilitas kesehatan tutup,” kata laporan itu (dan ini bisa saja benar, tetapi mungkin juga menegaskan betapa seringnya hipokondriak dan orang dengan gangguan kecemasan beralih ke ChatGPT ketika mereka terjaga larut malam karena kekhawatiran).
Laporan itu juga menyatakan bahwa OpenAI sendiri melakukan survei (yang metodologinya tidak disebutkan) dan menemukan bahwa tiga dari lima orang dewasa AS melaporkan sendiri bahwa mereka pernah menggunakan alat AI dengan salah satu cara tersebut dalam tiga bulan terakhir.
Kebetulan, sebuah laporan Gallup dari November tahun lalu menemukan bahwa 30% orang Amerika menjawab “ya” untuk pertanyaan “Apakah ada waktu dalam 12 bulan terakhir ketika […] Anda memilih untuk tidak menjalani prosedur medis, tes laboratorium, atau evaluasi lain yang direkomendasikan dokter karena tidak memiliki cukup uang untuk membayarnya?”
Laporan OpenAI menyoroti kisah seorang dokter sibuk di pedesaan yang menggunakan model OpenAI “sebagai sekretaris AI, merancang catatan kunjungan dalam alur kerja klinis.” Laporan itu kemudian mengatakan bahwa model AI “memberikan kontribusi jangka pendek dengan membantu orang di
daerah yang kurang terjangkau untuk menginterpretasi informasi, mempersiapkan perawatan, dan menavigasi kesenjangan akses, sambil membantu klinisi yang jarang tersebut mendapatkan kembali waktu dan mengurangi kelelahan.”
Saya tidak yakin mana yang lebih suram: semakin banyak orang yang menggunakan chatbot sebagai dokter karena tidak mampu membayar perawatan yang layak, atau orang yang pergi ke dokter, dan pengalamannya justru dijalankan melalui model perangkat lunak AI.