Sistem AI sekarang bisa kasih resep obat ke pasien di Utah tanpa perlu dokter. Program percobaan baru ini mengizinkan AI meresepkan obat ulangan. Ini pertama kalinya di AS, sebuah AI punya wewenang klinis tanpa pengawasan manusia.
Program yang mulai bulan lalu itu, AI-nya bisa cek riwayat resep pasien, mengajukan pertanyaan klinis, dan kirim perpanjangan resep yang disetujui langsung ke apotek. Pemerintah negara bagian bilang ini cara untuk kurangi biaya, cegah keterlambatan obat, dan ringankan beban dokter, terutama di daerah pedesaan yang tenaga kesehatannya sedikit. Tapi, kelompok dokter khawatir dengan risiko karena tidak ada pengawasan manusia, bahkan untuk keputusan klinis kecil.
“Setiap kali keputusan klinis dibuat tanpa pengawasan dokter yang tepat, pasien jadi dalam bahaya. Kedokteran bukan cuma soal jawaban, tapi soal pertimbangan, konteks, dan tanggung jawab,” kata John Whyte, CEO Asosiasi Medis Amerika, ke Fortune.
### AI Dapat Wewenang Klinis
Departemen perdagangan Utah memberikan keringanan aturan untuk percobaan selama setahun, bekerja sama dengan startup kesehatan Doctronic. Margaret Busse, Direktur Eksekutif di departemen itu, bilang ini bagian dari program “pengurangan regulasi” untuk uji coba alat AI yang inovatif dengan aman.
“Kami harap ini bisa tunjukkan di mana AI bisa dipakai dengan bertanggung jawab untuk interaksi berisiko rendah dalam dunia medis, untuk turunkan biaya dan tingkatkan akses. Karena kita tahu ada krisis… kita sangat butuh solusi teknologi untuk bantu tekan biaya,” ujarnya.
Doctronic, didirikan tahun 2023 oleh Matt Pavelle dan Dr. Adam Oskowitz, mengatakan sistemnya bisa dipakai puluhan ribu pasien di Utah tahun pertama. Jika terbukti aman, mereka berharap bisa kembangkan operasi untuk mencakup resep baru dalam skenario risiko rendah, seperti resep antibiotik. Mereka klaim sistem ini bisa percepat proses resep dan bantu pasien, dokter, dan apoteker.
“Prosesnya dari mulai ngobrol dengan AI sampai resep menunggu di apotek bisa kurang dari 30 menit, dan hampir selalu begitu. Jadi sangat efisien,” kata Pavelle, salah satu pendiri dan co-CEO Doctronic.
Untuk jamin keamanan, peluncuran bertahap mewajibkan 250 perpanjangan pertama per kategori obat ditinjau dokter dulu sebelum AI proses sendiri. Setelah itu, 10% interaksi berikutnya akan diambil sampel acak untuk keamanan, kata Adam Oskowitz. Pavelle menambahkan, perusahaannya juga punya dokter yang siap jika ada pertanyaan dari pasien atau apoteker.
### Kekhawatiran soal Pengawasan
Doctronic menyebut sistemnya cocok dengan keputusan klinisi manusia 99,2% persen waktunya dan punya asuransi malpraktik khusus untuk AI-nya, menjamin standar hukum yang sama seperti dokter. Pilot ini juga dibatasi untuk 190 obat yang biasa diresepkan, tidak termasuk obat manajemen nyeri, ADHD, dan obat suntik demi keamanan.
Namun, Whyte berargumen bahwa bahkan tingkat kesalahan kecil bisa jadi bahaya nyata dalam skala besar.
“Klaim akurasi tidak gantikan pertimbangan klinis… dokter punya kualifikasi unik untuk pahami konteks kesehatan individu pasien dan validasi output AI untuk pastikan akurasi dan keamanan pasien,” katanya. “Bahkan perawatan rutin butuh pertimbangan manusia, konteks, dan kemampuan untuk mengenali saat sesuatu tidak rutin sama sekali.”
### Regulator Kesulitan Mengimbangi
AI siap ubah dunia kesehatan, tapi sektor ini bergerak lebih hati-hati dalam mengadopsi teknologi. Sebagian karena hambatan regulasi: regulasi medis dikelola di tingkat negara bagian dan biasanya lebih ketat karena risikonya tinggi bagi perawatan pasien.
Dokter berharap AI bisa ubah pekerjaan kesehatan rutin dengan tingkatkan akses, turunkan biaya, dan otomatisasi tugas berulang. Tapi, teknologi bergerak lebih cepat daripada yang bisa diakomodasi regulasi negara bagian, dan pembuat undang-undang kesulitan menyeimbangkan inovasi dengan keamanan pasien.
“AI bisa jadi alat kuat untuk dukung dokter, khususnya untuk tugas administratif atau dukungan keputusan; dan kita baru sedikit mengeksplorasi potensi AI,” kata Whyte. “Tapi dokter harus tetap bertanggung jawab atas keputusan klinis.”