Minggir, WebMD — saran kesehatan kini menjadi penggunaan ChatGPT yang paling umum di masyarakat.
Perusahaan induk chatbot tersebut, OpenAI, melaporkan bahwa 40 juta orang mengajukan pertanyaan kepada ChatGPT setiap hari untuk memahami tagihan medis yang rumit, mengajukan banding atas klaim asuransi yang tidak adil, atau mengelola perawatan mereka sendiri. Menurut jajak pendapat Gallup bulan Februari, hampir 16 persen orang dewasa AS sudah menggunakan AI atau media sosial untuk mencari informasi medis.
Sementara itu, rakyat Amerika memiliki hutang medis lebih dari $220 miliar, menurut data tahun 2024. Tenaga kesehatan di negara tersebut saat ini menghadapi kekurangan yang meluas, dengan tingkat pergantian yang tinggi untuk perawat tahun pertama dan kebutuhan akan 114.000 dokter tambahan pada tahun 2028 untuk memenuhi permintaan. Sekitar setengah dari warga Amerika melaporkan kesulitan membayar layanan kesehatan tahun lalu, seiring pemerintah federal mempersempit subsidi Affordable Care Act.
Di mata banyak orang, sistem perawatan kesehatan telah rusak.
Sementara itu, adopsi AI secara luas telah ditonjolkan sebagai solusi untuk sistem medis yang kelebihan beban. AI berkualitas klinis yang dirancang secara sempit, dilatih untuk tugas-tugas spesifik, berpotensi merevolusi pencitraan, pencatatan pasien, dan pemrosesan asuransi. Tetapi pengembang AI tidak berhenti di situ — mereka juga ingin AI ada di tangan pasien.
Pada bulan Januari, OpenAI meluncurkan ChatGPT Health, solusi gratis perusahaan yang ditujukan untuk konsumen yang mencari panduan kesehatan — dan siapa pun yang bersedia mengunggah riwayat kesehatan mereka untuk dicerna oleh chatbot.
Dokter digital atau mimpi buruk privasi?
ChatGPT Health, yang memberi insentif kepada pengguna untuk mengunggah rekam medis pribadi mereka untuk bantuan medis yang disesuaikan, diumumkan pada 7 Januari, dengan janji untuk menghubungkan informasi kesehatan Anda dengan “aman” ke otak ChatGPT. Dalam beberapa bulan sejak itu, perusahaan teknologi lain mengikuti jejaknya, termasuk asisten AI Kesehatan Amazon dan Microsoft Copilot Health yang baru-baru ini diumumkan.
Tidak semua orang memandang Health GPT dan alat kesehatan terkait AI lainnya sebagai hal yang positif secara keseluruhan.
“Produk chatbot AI generatif yang mulai merambah ke subpasar yang berdekatan dengan perawatan kesehatan ini sangat mengkhawatirkan,” kata Melodi Dinçer, pengacara senior untuk Proyek Hukum Keadilan Teknologi (Tech Justice Law Project), kepada Mashable.
Dalam beberapa jam setelah peluncuran ChatGPT Health, Dinçer menerbitkan pernyataan keras yang mengkarakterisasi rilis OpenAI sebagai langkah bisnis strategis untuk mengakses lebih banyak data pribadi sambil membahayakan privasi warga Amerika yang sedang berjuang. Proyek Hukum Keadilan Teknologi saat ini mewakili individu yang menggugat OpenAI terkait kekhawatiran kesehatan mental dengan ChatGPT.
Kamu menciptakan ekosistem yang lebih besar di ruang yang tidak tercakup HIPAA ini.
– Andrew Crawford, Pusat Demokrasi dan Teknologi (Center for Democracy and Technology)
Kelompok pengawas privasi lain mengatakan lonceng alarm mereka juga berbunyi.
“Kami tidak memiliki undang-undang privasi federal yang komprehensif di Amerika Serikat,” jelas Andrew Crawford, penasihat kebijakan senior untuk Proyek Data dan Privasi di Pusat Demokrasi dan Teknologi (Center for Democracy and Technology). Setidaknya, katanya, tidak ada yang memberlakukan batasan nyata tentang bagaimana perusahaan menangani data konsumen, terutama kumpulan data sensitif.
Perusahaan teknologi, termasuk Meta dan OpenAI, telah melobi agar undang-undang privasi yang kuat tidak diberlakukan, dan pejabat pemerintah seperti Menteri Luar Negeri Marco Rubio mendorong regulasi yang lebih longgar untuk perusahaan teknologi Amerika.
Dengan tidak adanya regulasi federal tentang data, warga Amerika disediakan serangkaian hukum tingkat negara bagian dan regulasi khusus industri, termasuk perlindungan di bawah Undang-Undang Portabilitas dan Akuntabilitas Asuransi Kesehatan (Health Insurance Portability and Accountability Act), atau HIPAA.
Seri baru Mashable, AI + Kesehatan, akan menguji bagaimana kecerdasan buatan mengubah lanskap medis dan kesehatan. Kami akan mengeksplorasi cara menggunakan AI untuk menguraikan hasil tes darah Anda, memberikan perintah yang efektif kepada chatbot untuk pertanyaan kesehatan, dan mempelajari bagaimana dua wanita menggunakan AI untuk mendeteksi bentuk penyakit jantung yang berbahaya, dan masih banyak lagi.
Disahkan pada tahun 1996, HIPAA menetapkan standar federal untuk melindungi data medis pasien dan informasi pengenal terkait dalam kasus di mana data dibagikan dengan atau tanpa persetujuan pasien. Aturan Privasinya juga telah menjadi tolak ukur untuk menilai standar privasi suatu produk medis.
Namun, HIPAA bukanlah jaminan keselamatan. Perlindungannya tidak melekat pada data itu sendiri, jelas Crawford, tetapi pada lembaga yang memproses dan menyimpannya. Data konsumen hanya terlindungi ketika berada di tangan lembaga yang terikat oleh hukum HIPAA, bukan ketika data itu ada di pasar lain atau disimpan di tempat lain secara daring.
Lembaga yang terikat oleh hukum HIPAA dikenal sebagai entitas tercakup (covered entities). Ini termasuk perusahaan asuransi kesehatan, HMO, rencana kesehatan perusahaan, dan penyedia cakupan lain seperti Medicaid dan Medicare; sebagian besar (tetapi tidak semua) penyedia layanan kesehatan seperti dokter, dokter gigi, psikolog, panti jompo, dan bahkan ahli kiropraktik; dan, akhirnya, clearinghouse, atau bisnis yang memproses dan mengirimkan data kesehatan. Siapa pun yang melakukan bisnis dengan salah satu entitas tersebut, seperti pengacara atau perusahaan penagihan, juga berada di bawah pengawasan HIPAA.
Oura, Apple, Strava: Aplikasi kesehatan pribadi dan ChatGPT Health
Menurut HIPAA Journal, sebagian besar aplikasi kesehatan populer tidak tercakup oleh HIPAA. Bukan cincin Oura Anda, aplikasi Apple Health, atau Strava. Ketika Anda membagikan data Anda dengan sesuatu seperti ChatGPT Health, bahkan jika Anda menggunakannya untuk menginformasikan percakapan Anda dengan entitas tercakup nanti, informasi itu tidak terikat secara hukum oleh apa pun di luar kebijakan privasi perusahaan.
Tetapi banyak perusahaan, seperti OpenAI, berjanji bahwa data diperlakukan dengan hati-hati.
Kami membeli gagasan bahwa sesuatu yang serumit kesehatan dapat direduksi menjadi angka di layar.
– Melodi Dinçer, Proyek Hukum Keadilan Teknologi
Entitas tercakup diblokir oleh hukum untuk menggunakan data Anda untuk hal-hal seperti iklan bertarget atau profil perilaku pengguna, tanpa otorisasi. Tetapi perusahaan lain yang mendapatkan informasi medis Anda dapat melakukan apa pun yang mereka inginkan, sesuai dengan kebijakan privasi mereka sendiri, kata Crawford.
Lily Li, seorang pengacara manajemen risiko AI dan privasi data serta pendiri Metaverse Law, menjelaskan bahwa kebijakan privasi perusahaan sering kali mencakup protokol keamanan yang masuk akal dan fitur opt-out, tetapi tidak diharuskan menyertakan pengawasan seperti HIPAA seperti otorisasi spesifik, batasan waktu penyimpanan data, atau kewajiban pengungkapan.
Ambil contoh kasus situs pemrosesan DNA 23andMe, yang, saat mengajukan kebangkrutan, mengumumkan akan menjual dirinya sendiri dan perpustakaan sampel DNA-nya kepada perusahaan yang pengguna belum setuju untuk berkonsultasi. Informasi medis, jelas Dinçer, adalah salah satu pasar paling berharga bagi broker data daring.
Banyak perusahaan AI telah mendirikan tembok antara versi produk mereka yang mematuhi hukum seperti HIPAA dan yang tidak, termasuk produk “tingkat perusahaan” yang diandalkan oleh OpenAI dan pesaingnya. Ini bukan produk yang sama yang dipasarkan untuk digunakan oleh masyarakat umum. Misalnya, OpenAI meluncurkan Kategori Tekno