Administrasi Trump tidak merasa senang dengan sebuah lembaga nirlaba yang dibentuk pada era Biden dan dipimpin sektor swasta, yang bertugas menyeleksi alat-alat Kecerdasan Buatan untuk digunakan dalam lingkungan perawatan kesehatan.
Koalisi untuk Kesehatan AI (CHAI) mendapat kritikan dari pejabat tinggi di Departemen Kesehatan dan Layanan Masyarakat Amerika Serikat pekan lalu, seperti dilaporkan Politico.
Dengan laboratorium di Duke, Stanford, dan Mayo Clinic, CHAI berkolaborasi dengan sektor teknologi dan kesehatan swasta untuk menyusun panduan serta praktik terbaik bagi implementasi AI. Mitra pendiri koalisi ini mencakup rumah sakit seperti Mass General Brigham, perusahaan kesehatan seperti CVS dan UnitedHealth, serta raksasa teknologi Microsoft, Amazon, dan Google.
“CHAI adalah kemitraan publik-swasta di mana inovator dari sektor swasta memberikan masukan kepada pejabat sektor publik, sehingga sektor publik dapat merumuskan kebijakan yang lebih tepat,” jelas CEO CHAI Brian Anderson kepada Gizmodo.
Lembaga nirlaba ini saat ini memiliki sekitar 15 kelompok kerja untuk studi kasus, masing-masing dipimpin oleh peneliti dari perusahaan-perusahaan seperti Amazon, Intel, Oracle, Microsoft, dan lainnya. Koalisi ini juga berencana meluncurkan registrasi nasional untuk kartu model—semacam label nutrisi yang menyediakan informasi ringkas tentang model AI—guna memberikan informasi yang lebih baik kepada sistem kesehatan yang ingin mengadopsi model AI.
Pejabat pemerintahan Trump kini mengklaim bahwa tujuan sebenarnya organisasi ini adalah untuk mengekang startup teknologi kesehatan dan pengembangan AI.
“Departemen Kesehatan dan Layanan Masyarakat di bawah Biden memberikan kekuasaan kepada CHAI dan para pendukungnya dari perusahaan teknologi besar untuk mengatur dan menghambat startup teknologi kesehatan. Ini merupakan bentuk penguasaan regulator yang mencapai tingkat baru—satu bentuk alih daya regulasi,” ujar Wakil Menteri HHS Jim O’Neill dan Komisaris FDA Marty Makary dalam artikel tamu yang diterbitkan oleh surat kabar konservatif Washington Examiner pekan lalu.
CEO CHAI Brian Anderson membantah karakterisasi tersebut.
“CHAI tidak ada hubungannya dengan regulasi pemerintah. Pemerintah yang menetapkan kebijakan dan regulasi, dan CHAI akan menyesuaikan diri dengan itu,” kata Anderson. “[Namun] dalam sebuah kemitraan publik-swasta, idealnya kami ingin memberi informasi kepada para regulator dan pembuat kebijakan agar mereka dapat membuat regulasi yang tepat.”
CHAI tidak memiliki kekuatan regulasi yang sebenarnya, tetapi O’Neill mengatakan kepada Politico pekan lalu bahwa ia mendengar dari pejabat industri yang menyatakan kekhawatiran bahwa startup yang ingin berkecimpung di bidang ini merasa seolah-olah mereka perlu menjadi anggota organisasi tersebut. O’Neill meyakini CHAI berpotensi menjadi “kartel” yang menekan inovasi dalam AI kesehatan.
“Tidak ada yang seharusnya merasa terpaksa untuk menyerahkan karya mereka untuk dianalisis oleh pesaing mereka atau pihak yang berhubungan dengan pesaing mereka,” kata O’Neill kepada Politico.
“Ini seperti es krim yang menjilat dirinya sendiri, sebuah sindikat virtual dan tidak etis. Kami melakukan reset. Di bawah Menteri Robert F. Kennedy Jr., HHS tidak akan mengizinkan CHAI—maupun kelompok nirlaba lain, lembaga pemikir, atau perusahaan—untuk beroperasi sebagai regulator atau pembuat kebijakan yang didukung pemerintah secara implisit,” tulis O’Neill dan Makary di Washington Examiner. Klaim tersebut mungkin terdapat ironis mengingat pemerintahan Trump sebagian besar telah mengikuti playbook Project 2025 yang disusun oleh Heritage Foundation, sebuah lembaga pemikir konservatif.
Tujuan CHAI juga telah dipertanyakan dengan nada serupa oleh anggota Kongres dari Partai Republik dalam sidang Senat sebelumnya.
Dalam sidang pada Mei 2024, anggota DPR dari Partai Republik, Mariannette Miller-Meeks, menyatakan bahwa CHAI dan organisasi serupa lainnya, yang disebut sebagai laboratorium penjaminan, ‘tidak lolos uji kelayakan’ dan menunjukkan “tanda-tanda jelas upaya penguasaan regulasi.”
Penguasaan regulasi terjadi ketika sebuah lembaga pengawas yang dibentuk untuk memajukan kepentingan publik justru menjadi kedok bagi kelompok kepentingan khusus yang mendominasi industri yang seharusnya diawasi oleh lembaga tersebut. Dalam sidang itu, Dr. Jeff Shuren, yang saat itu memimpin Pusat Perangkat dan Kesehatan Radiologi FDA tetapi telah meninggalkan jabatannya, menanggapi kekhawatiran para perwakilan dengan mengatakan bahwa jika CHAI menghasilkan “apa pun dalam bentuk produk yang berguna, kami mungkin akan mempertimbangkannya. Tetapi mereka tidak bekerja untuk kami, dan kami tidak bekerja untuk mereka.”
Kekhawatiran akan upaya penguasaan regulasi oleh CHAI juga diangkat dalam sebuah artikel opini oleh seorang eksekutif di firma modal ventura Andreessen Horowitz.
“Perusahaan-perusahaan besar memiliki insentif yang kuat untuk menguasai pasar dengan dalih keselamatan,” tulis mitra umum di tim Bio+Health Andreessen Horowitz, Julie Yoo, dalam op-ed tersebut, dengan klaim bahwa lapisan tinjauan tambahan atas kekayaan intelektual startup justru “memperlambat inovasi yang sesungguhnya.”
Para pendiri Andreessen Horowitz mendukung Trump dalam pemilihan 2024 dan telah mendanai upaya senilai $100 juta untuk mempengaruhi kebijakan AI melalui kelompok luar bernama “Leading the Future.”
CHAI bukanlah kewajiban, namun meskipun demikian, terdapat 3.000 organisasi yang menjadi anggota koalisi ini, merupakan campuran dari perusahaan teknologi dan kesehatan, serta rumah sakit. Anderson menyebutkan bahwa 700 dari anggota tersebut adalah startup, yang merupakan komunitas pemangku kepentingan paling aktif dan dengan pertumbuhan tercepat di CHAI.
Ia berargumen bahwa startup bergabung dengan CHAI bukan karena tekanan, melainkan sebagai cara untuk memajukan bisnis mereka dan memahami pelanggan mereka.
“Alasan mengapa startup ingin menjadi bagian dari ini adalah karena mereka ingin membangun produk yang dapat mereka jual ke sebanyak mungkin sistem kesehatan dan perusahaan ilmu kehidupan,” ujar Anderson. “Ini adalah bisnis dasar bagi perusahaan teknologi mana pun untuk mengenal pelanggan Anda, dan pada dasarnya itulah yang kami ciptakan.”
Menurutnya, logika yang sama juga berlaku bagi perusahaan teknologi besar yang menyediakan layanan cloud bagi startup AI kesehatan ini. Microsoft Azure, Amazon AWS, dan Google Cloud Platform semuanya merupakan pilihan utama bagi startup AI dan semuanya adalah mitra pendiri.
Ia bersikeras bahwa kepentingan startup tidak akan dihancurkan oleh perusahaan teknologi besar yang juga menjadi bagian dari Koalisi, dengan menyatakan bahwa setiap perusahaan hanya mendapat satu kursi dalam kelompok kerja, dan jumlah startup lebih banyak daripada perusahaan teknologi besar.
Akan tetapi, para mitra pendiri, termasuk Amazon, Google, dan Microsoft, juga dijamin mendapatkan kursi di dewan penasihat yang melapor kepada dewan direksi untuk membentuk keputusan tata kelola.
Semua Demi Transparansi
O’Neill mengatakan kepada Politico bahwa pemerintahan Trump mendukung upaya transparansi AI agar pembeli dapat membuat keputusan yang lebih tepat. Itu adalah satu poin yang, pada prinsipnya, dia dan Anderson memiliki pandangan yang sama.
Karena AI termasuk hal yang relatif baru, “sangat penting untuk memiliki tingkat transparansi mengenai bagaimana model-model ini sesungguhnya berkinerja, dan untuk dapat memantaunya setelah mereka diimplementasikan,” ujar Anderson.
“Pihak yang paling bertanggung jawab ketika sebuah model digunakan bukanlah vendornya, melainkan dokter dan sistem kesehatan itu sendiri. Jadi, sistem kesehatan dengan wajar berkata, ‘Sebelum saya menggunakan model ini, saya perlu tahu dataset macam apa yang digunakan untuk melatihnya, dan apa metodologi pelatihannya?'” jelas Anderson.
Namun, Anderson percaya bahwa wajar jika perusahaan teknologi tidak ingin mengungkapkan kekayaan intelektual mereka. CHAI berupaya menciptakan keseimbangan melalui kelompok kerja yang menghimpun peneliti dan eksekutif dari kedua sektor untuk mencapai konsensus mengenai jumlah minimal pengungkapan yang dapat memenuhi persyaratan transparansi ini.
Ini mencakup deskripsi umum tentang dataset dan metodologi yang digunakan untuk melatih model AI, alih-alih menunjukkan secara detail baris demi baris dataset yang digunakan persisnya.
“Kartu model tidak mewajibkan komunitas startup, atau perusahaan teknologi pada umumnya, untuk membuka IP mereka,” kata Anderson. “Ini lebih tentang keinginan vendor untuk membangun kepercayaan dengan pelanggan, dan keinginan pelanggan untuk dapat mempercayai alat-alat ini.”
Penyedia sumber daya jaminan yang disertifikasi oleh CHAI, seperti BeeKeeperAI dan Citadel AI, dengan lebih banyak lagi yang akan bergabung, juga menawarkan uji sukarela yang dapat diminta oleh sistem kesehatan untuk dilalui oleh pengembang sebelum membuat keputusan pembelian akhir. Tes semacam inilah yang ditentang oleh para kritikus, namun CHAI menyatakan bahwa hal ini penting untuk penerapan AI kesehatan yang bertanggung jawab dan transparan, dan bahwa ini justru mempercepat adopsi AI di layanan kesehatan dengan menyederhanakan proses penilaian dan penerapannya.
### **Hubungan dengan Pemerintah**
Meskipun dipimpin oleh sektor swasta, CHAI dalam kapasitas tertentu tetap bekerja sama dengan pejabat pemerintah.
Dua mantan pejabat administrasi Biden, Asisten Sekretaris HHS untuk Kebijakan Teknologi Mickey Tripathi dan Direktur Pusat Keunggulan Kesehatan Digital FDA Troy Tazbaz, untuk waktu yang terbatas menjadi anggota dewan tanpa hak suara saat masih menjabat di posisi pemerintah, tetapi kemudian mengundurkan diri dengan alasan konflik kepentingan.
Administrasi Biden juga memiliki beberapa liaison federal yang bekerja di kelompok kerja Koalisi, dan hubungan Koalisi dengan pemerintah berlanjut di bawah administrasi Trump. Setidaknya hingga sejauh ini.
Anderson menyatakan mereka telah berinteraksi dengan beberapa pemimpin teknis dari badan-badan HHS seperti Pusat Layanan Medicare & Medicaid, dan baru-baru ini mengumumkan kolaborasi dengan Institut Standar dan Teknologi Nasional, yang diinstruksikan untuk fokus sepenuhnya pada kemajuan AI di bawah Trump.
Menurut Anderson, CHAI juga rutin mengadakan pertemuan dengan Senator Republik Mike Crapo, Mike Rounds, Todd Young, dan Ted Cruz untuk membahas AI dalam kesehatan. Politico melaporkan bahwa CHAI mempekerjakan mantan asisten kesehatan Sen. Crapo, Susan Zook, awal tahun ini untuk melobi para pejabat.
Dia khawatir bahwa perubahan sikap oleh HHS ini dapat membahayakan koneksi-koneksi tersebut. CMS belum menanggapi permintaan komentar dari Gizmodo mengenai rencana mereka ke depan terkait CHAI.
Kesehatan adalah salah satu kasus penggunaan AI yang paling dipuji sekaligus diawasi ketat. Perusahaan-perusahaan AI, seperti OpenAI, sedang melakukan langkah-langkah besar ke sektor kesehatan. Sementara itu, startup AI kesehatan OpenEvidence dikabarkan telah menemukan jalannya ke layanan seperempat dokter di seluruh negeri.
Pemerintah juga sangat optimis tentang hal ini. Pada bulan Juli, Gedung Putih menyelenggarakan acara “Make Health Tech Great Again” di mana Trump mengumumkan sebuah inisiatif sektor swasta yang akan menggunakan asisten AI percakapan untuk perawatan pasien dan membagikan rekam medis pribadi warga Amerika melintasi aplikasi dan program dari 60 perusahaan.
Namun, belum ada kepastian yang jelas tentang seberapa baik kinerja AI dalam setting medis. Sebuah studi Stanford tahun lalu menunjukkan bahwa ChatGPT berkinerja sangat baik dalam diagnosis medis, bahkan lebih baik daripada beberapa dokter, tetapi beberapa dokter tidak yakin bahwa tes awal tersebut cukup meyakinkan.
Kesehatan adalah kasus penggunaan AI yang diawasi ketat karena bahkan satu kesalahan pun dapat berdampak fatal, dan sistem AI kita saat ini masih sangat jauh dari sempurna, dengan seringnya terjadi halusinasi dan bias yang terbawa.
Hal ini mendorong para ahli yang prihatin untuk menyerukan lebih banyak transparansi dan regulasi. Amerika Serikat mengambil langkah regulasi besar pertamanya menuju transparansi tersebut awal minggu ini ketika Gubernur California Gavin Newsom mengesahkan Undang-Undang Transparansi dalam Kecerdasan Buatan Terdepan, sebuah undang-undang pertama dari jenisnya yang dapat menjadi katalis bagi lebih banyak undang-undang di seluruh negeri.
Saat ini terdapat pengawasan federal yang terbatas dalam hal penerapan AI kesehatan, meskipun tampaknya administrasi Trump mungkin siap untuk mengambil alih kendali.
FDA menerbitkan permintaan informasi minggu lalu, berupaya mengumpulkan masukan dari sektor medis tentang penerapan dan evaluasi AI kesehatan. Apakah umpan balik langsung itu akan ditanggapi sama seriusnya dengan keinginan kelompok kepentingan luar yang memiliki dana besar, masih harus kita lihat. Perkembangan terkini yang sangat menarik di bidang teknologi kecerdasan buatan menunjukan betapa pesatnya inovasi ini bergerak. Model-model yang lebih canggih sekarang dapat memahami dan menghasilkan konten yang nyaris tak dapat dibedakan dari buatan manusia, mulai dari tulisan hingga kreasi seni visual. Hal ini tentu saja memberikan dampak sangat besar bagi berbagai sektor industri, menciptakan peluang sekaligus tantangan baru yang harus dihadapi.