Departemen Efisiensi Pemerintah, atau DOGE, telah mendapatkan akses yang belum pernah terjadi sebelumnya ke setidaknya tujuh database federal yang sensitif, termasuk database Internal Revenue Service dan Administrasi Keamanan Sosial. Akses ini telah memunculkan kekhawatiran tentang kerentanan keamanan cyber dan pelanggaran privasi. Salah satu kekhawatiran lain yang mendapat perhatian jauh lebih sedikit: penggunaan potensial data untuk melatih sistem kecerdasan buatan perusahaan swasta.
Sekretaris pers Gedung Putih mengatakan bahwa data pemerintah yang dikumpulkan oleh DOGE tidak digunakan untuk melatih model AI milik Musk, meskipun Elon Musk mengendalikan DOGE. Namun, bukti telah muncul bahwa personil DOGE secara bersamaan memegang posisi dengan setidaknya satu dari perusahaan Musk.
Di Administrasi Penerbangan Federal, karyawan SpaceX memiliki alamat email pemerintah. Dua pekerjaan ini menciptakan saluran untuk data federal yang potensial disedot ke perusahaan yang dimiliki Musk, termasuk xAI. Model chatbot AI terbaru perusahaan itu secara mencolok menolak memberikan penolakan yang jelas tentang penggunaan data tersebut.
Sebagai seorang ilmuwan politik dan teknolog yang akrab dengan sumber-sumber data pemerintah publik, saya percaya bahwa transmisi potensial data pemerintah ke perusahaan swasta menimbulkan implikasi privasi dan kekuatan yang jauh lebih besar daripada yang diidentifikasi oleh sebagian besar laporan. Entitas swasta dengan kemampuan untuk mengembangkan teknologi kecerdasan buatan bisa menggunakan data pemerintah untuk meloncati pesaingnya dan memiliki pengaruh besar terhadap masyarakat.
Nilai data pemerintah untuk AI
Untuk pengembang AI, database pemerintah mewakili sesuatu yang mirip dengan menemukan Holy Grail. Sementara perusahaan seperti OpenAI, Google, dan xAI saat ini mengandalkan informasi yang diambil dari internet publik, repositori pemerintah nonpublik menawarkan sesuatu yang jauh lebih berharga: catatan yang terverifikasi tentang perilaku manusia sebenarnya di seluruh populasi.
Ini bukan hanya data lebih – itu adalah data yang secara fundamental berbeda. Pos media sosial dan riwayat penjelajahan web menunjukkan perilaku yang disusun atau dimaksudkan, tetapi basis data pemerintah menangkap keputusan nyata dan konsekuensinya. Misalnya, catatan Medicare mengungkap pilihan perawatan kesehatan dan hasilnya. Data IRS dan Departemen Keuangan mengungkap keputusan keuangan dan dampak jangka panjangnya. Dan statistik pekerjaan dan pendidikan federal mengungkap jalur pendidikan dan lintasan karir.
Yang membuat data ini sangat berharga untuk pelatihan AI adalah sifat longitudinalnya dan kehandalannya. Berbeda dengan informasi yang berantakan yang tersedia secara online, catatan pemerintah mengikuti protokol standar, menjalani audit secara teratur, dan harus memenuhi persyaratan hukum untuk akurasi. Setiap pembayaran Jaminan Sosial, klaim Medicare, dan hibah federal menciptakan titik data yang terverifikasi tentang perilaku dunia nyata. Data ini tidak ada di tempat lain dengan cakupan dan otentisitas seperti itu di AS.
Yang paling kritis, basis data pemerintah melacak seluruh populasi dari waktu ke waktu, bukan hanya pengguna yang aktif secara digital. Mereka mencakup orang-orang yang tidak pernah menggunakan media sosial, tidak berbelanja online, atau secara aktif menghindari layanan digital. Bagi perusahaan AI, ini berarti melatih sistem pada keragaman pengalaman manusia sebenarnya daripada hanya refleksi digital yang dilemparkan oleh orang secara online.
Keunggulan teknis
Sistem AI saat ini menghadapi keterbatasan mendasar yang tidak dapat diatasi oleh sejumlah data yang diambil dari internet. Ketika ChatGPT atau Gemini Google membuat kesalahan, seringkali karena mereka telah dilatih pada informasi yang mungkin populer tetapi tidak selalu benar. Mereka dapat memberi tahu Anda apa yang dikatakan orang tentang efek kebijakan, tetapi mereka tidak dapat melacak efek tersebut di seluruh populasi dan tahun.
Data pemerintah bisa mengubah persamaan ini. Bayangkan melatih sistem AI bukan hanya pada pendapat tentang perawatan kesehatan tetapi pada hasil perawatan sebenarnya di antara jutaan pasien. Pertimbangkan perbedaan antara belajar dari diskusi di media sosial tentang kebijakan ekonomi dan menganalisis dampak nyata mereka di berbagai komunitas dan demografi selama beberapa dekade.
Model besar, mutakhir, atau frontier, yang dilatih pada data pemerintah yang komprehensif bisa memahami hubungan sebenarnya antara kebijakan dan hasil. Hal itu bisa melacak konsekuensi yang tidak diinginkan di antara segmen populasi yang berbeda, memodelkan sistem sosial yang kompleks dengan validasi dunia nyata, dan memprediksi dampak perubahan yang diusulkan berdasarkan bukti sejarah. Bagi perusahaan yang mencari membangun sistem AI generasi berikutnya, akses ke data ini akan menciptakan keunggulan yang hampir tidak terlampaui.
Kendali sistem kritis
Perusahaan seperti xAI bisa melakukan jauh lebih banyak dengan model-model yang dilatih pada data pemerintah daripada membangun chatbot atau generator konten yang lebih baik. Sistem seperti itu bisa mengubah secara fundamental – dan potensial mengendalikan – cara orang memahami dan mengelola sistem sosial yang kompleks. Meskipun beberapa kemampuan ini bisa bermanfaat di bawah kendali lembaga publik yang dapat dipertanggungjawabkan, saya percaya bahwa mereka menimbulkan ancaman jika berada di tangan satu perusahaan swasta.
Basis data Medicare dan Medicaid berisi catatan tentang perawatan, hasil, dan biaya di antara populasi yang beragam selama beberapa dekade. Model frontier yang dilatih pada data pemerintah baru bisa mengidentifikasi pola perawatan yang berhasil di mana yang lain gagal, dan dengan demikian mendominasi industri perawatan kesehatan. Model seperti itu bisa memahami bagaimana intervensi yang berbeda memengaruhi berbagai populasi dari waktu ke waktu, memperhitungkan faktor seperti lokasi geografis, status sosial ekonomi, dan kondisi bersamaan.
Perusahaan yang mengendalikan model tersebut bisa mempengaruhi kebijakan perawatan kesehatan dengan menunjukkan kemampuan prediksi yang lebih unggul dan wawasan tingkat populasi pasar kepada perusahaan farmasi dan perusahaan asuransi.
Data Departemen Keuangan mungkin merupakan hadiah yang paling berharga. Basis data keuangan pemerintah mengandung detail granular tentang bagaimana uang mengalir melalui ekonomi. Ini termasuk data transaksi real-time melalui sistem pembayaran federal, catatan lengkap tentang pembayaran pajak dan pengembalian, pola rinci distribusi manfaat, dan pembayaran kontraktor pemerintah dengan metrik kinerja.
Perusahaan AI dengan akses ke data ini bisa mengembangkan kemampuan luar biasa untuk ramalan ekonomi dan prediksi pasar. Mereka bisa memodelkan efek berantai perubahan peraturan, memprediksi kerentanan ekonomi sebelum menjadi krisis, dan mengoptimalkan strategi investasi dengan presisi yang tidak mungkin melalui metode tradisional.
Perusahaan xAI Elon Musk didanai dengan baik. Sistem Infrastruktur dan perkotaan
Basis data pemerintah mengandung informasi tentang pola penggunaan infrastruktur kritis, sejarah pemeliharaan, waktu tanggap darurat, dan dampak pembangunan. Setiap hibah federal, pemeriksaan infrastruktur, dan tanggap darurat menciptakan titik data yang bisa membantu melatih AI untuk lebih memahami bagaimana kota dan wilayah berfungsi.
Kekuatan terletak pada potensi keterhubungan data ini. Sistem AI yang dilatih pada catatan infrastruktur pemerintah akan memahami bagaimana pola transportasi memengaruhi penggunaan energi, bagaimana kebijakan perumahan memengaruhi waktu tanggap darurat, dan bagaimana investasi infrastruktur memengaruhi pengembangan ekonomi di wilayah.
Perusahaan swasta dengan akses eksklusif akan mendapatkan wawasan unik ke dalam urat nadi fisik dan ekonomi masyarakat Amerika. Hal ini bisa memungkinkan perusahaan untuk mengembangkan sistem “smart city” yang pemerintah kota akan menjadi tergantung padanya, efektif mengprivatisasi aspek-aspek tata kelola perkotaan. Ketika digabungkan dengan data real-time dari sumber-sumber swasta, kemampuan prediktif akan jauh melebihi apa pun yang sistem saat ini bisa capai.
Data mutlak merusak dengan mutlak
Perusahaan seperti xAI, dengan sumber daya Musk dan akses preferensial melalui DOGE, bisa mengatasi rintangan teknis dan politik jauh lebih mudah daripada pesaing. Kemajuan terkini dalam pembelajaran mesin juga telah mengurangi beban persiapan data untuk algoritma untuk diproses, membuat data pemerintah menjadi tambang emas – yang seharusnya milik rakyat Amerika.
Ancaman perusahaan swasta yang mengakses data pemerintah melampaui kekhawatiran privasi individu. Bahkan dengan pengidentifikasi pribadi dihapus, sistem AI yang menganalisis pola di antara jutaan catatan pemerintah bisa memungkinkan kemampuan mengejutkan untuk membuat prediksi dan memengaruhi perilaku pada tingkat populasi. Ancaman tersebut adalah sistem AI yang memanfaatkan data pemerintah untuk memengaruhi masyarakat, termasuk hasil pemilihan.
Karena informasi adalah kekuatan, konsentrasi data yang belum pernah terjadi sebelumnya di tangan entitas swasta dengan agenda politik eksplisit merupakan tantangan yang mendalam bagi republik. Saya percaya bahwa pertanyaannya adalah apakah rakyat Amerika bisa melawan korupsi yang mungkin menghancurkan demokrasi yang akan memungkinkan konsentrasi tersebut. Jika tidak, rakyat Amerika harus bersiap menjadi subjek digital daripada warga negara manusia. Allison Stanger, Profesor Berpenghargaan, Middlebury
Artikel ini dipublikasikan kembali dari The Conversation di bawah lisensi Creative Commons. Baca artikel aslinya.