Partai Demokrat Menuntut Jawaban tentang Penggunaan AI oleh DOGE

Anggota Partai Demokrat di Komite Pengawasan House menembakkan dua puluh empat permintaan Rabu pagi menekan para pemimpin lembaga federal untuk informasi tentang rencana pemasangan perangkat lunak AI di seluruh lembaga federal di tengah pemotongan yang sedang berlangsung terhadap tenaga kerja pemerintah. Serangan pertanyaan mengikuti laporan terbaru oleh WIRED dan The Washington Post mengenai upaya oleh Departemen Efisiensi Pemerintah yang disebut-sebut Elon Musk (DOGE) untuk mengotomatisasi tugas dengan berbagai alat AI miliknya dan mengakses data sensitif. “Rakyat Amerika mempercayakan pemerintah federal dengan informasi pribadi sensitif terkait kesehatan, keuangan, dan informasi biografis lainnya dengan dasar bahwa informasi ini tidak akan diungkapkan atau digunakan dengan tidak benar tanpa persetujuan mereka,” permintaan tersebut berbunyi, “termasuk melalui penggunaan perangkat lunak AI pihak ketiga yang tidak disetujui dan tidak dapat dipertanggungjawabkan.” Permintaan tersebut, yang pertama kali diperoleh oleh WIRED, ditandatangani oleh Gerald Connolly, seorang anggota kongres Demokrat dari Virginia. Tujuan utama dari permintaan tersebut adalah untuk mendorong lembaga-lembaga untuk menunjukkan bahwa penggunaan potensial AI legal dan bahwa langkah-langkah sedang diambil untuk melindungi data pribadi warga Amerika. Demokrat juga ingin tahu apakah penggunaan AI akan memberikan manfaat keuangan bagi Musk, yang mendirikan xAI dan perusahaan mobil listriknya yang bermasalah, Tesla, sedang berusaha beralih ke robotika dan AI. Demokrat juga khawatir, kata Connolly, bahwa Musk dapat menggunakan aksesnya ke data pemerintah sensitif untuk memperkaya diri sendiri, memanfaatkan data untuk “mengisi daya” model AI miliknya sendiri, yang dikenal sebagai Grok. Dalam permintaan tersebut, Connolly mencatat bahwa lembaga-lembaga federal “terikat oleh beberapa persyaratan undang-undang dalam penggunaan perangkat lunak AI,” terutama menunjuk kepada Program Manajemen Risiko dan Otorisasi Federal, yang bekerja untuk menyamakan pendekatan pemerintah terhadap layanan cloud dan memastikan alat berbasis AI dievaluasi dengan benar untuk risiko keamanan. Dia juga menunjuk pada Undang-Undang Advancing American AI, yang mewajibkan lembaga-lembaga federal untuk “menyiapkan dan mempertahankan inventaris kasus penggunaan kecerdasan buatan lembaga,” serta “menyediakan inventaris lembaga kepada publik.” Dokumen yang diperoleh oleh WIRED minggu lalu menunjukkan bahwa agen DOGE telah mendeploy chatbot miliknya yang disebut GSAi ke sekitar 1.500 pekerja federal. GSA mengawasi properti pemerintah federal dan menyediakan layanan teknologi informasi kepada banyak lembaga. Sebuah memo yang diperoleh oleh para reporter WIRED menunjukkan bahwa karyawan telah diingatkan untuk tidak memberi makan perangkat lunak informasi yang diklasifikasikan terkendali. Lembaga lain, termasuk Departemen Keuangan dan Layanan Kesehatan dan Kemanusiaan, telah mempertimbangkan menggunakan chatbot, meskipun tidak selalu GSAi, menurut dokumen yang dilihat oleh WIRED. WIRED juga melaporkan bahwa Angkatan Darat Amerika Serikat saat ini menggunakan perangkat lunak yang disebut CamoGPT untuk memindai sistem catatannya untuk setiap referensi terkait keberagaman, kesetaraan, inklusi, dan aksesibilitas. Juru bicara Angkatan Darat mengkonfirmasi keberadaan alat tersebut tetapi menolak untuk memberikan informasi lebih lanjut tentang bagaimana Angkatan Darat berencana menggunakannya. Dalam permintaan tersebut, Connolly menulis bahwa Departemen Pendidikan memiliki informasi pribadi yang dapat diidentifikasi lebih dari 43 juta orang yang terkait dengan program bantuan federal bagi mahasiswa. “Karena kecepatan operasi yang gelap dan hektik di mana DOGE tampaknya beroperasi,” tulisnya, “saya sangat khawatir bahwa informasi sensitif mahasiswa, orang tua, pasangan, anggota keluarga, dan semua peminjam lainnya ditangani oleh anggota rahasia tim DOGE untuk tujuan yang tidak jelas dan tanpa jaminan untuk mencegah pengungkapan atau penggunaan yang tidak benar, tidak etis.” The Washington Post sebelumnya melaporkan bahwa DOGE telah mulai memberi makan data federal sensitif yang diambil dari sistem catatan di Departemen Pendidikan untuk menganalisis pengeluarannya. Menteri Pendidikan Linda McMahon mengatakan Selasa bahwa dia akan melanjutkan rencana untuk memecat lebih dari seribu pekerja di departemen tersebut, bergabung dengan ratusan lainnya yang menerima “buyout” DOGE bulan lalu. Departemen Pendidikan telah kehilangan hampir setengah dari tenaga kerjanya — langkah pertama, kata McMahon, untuk sepenuhnya menghapuskan lembaga tersebut. “Penggunaan AI untuk mengevaluasi data sensitif penuh dengan bahaya serius di luar pengungkapan yang tidak tepat,” tulis Connolly, memperingatkan bahwa “input yang digunakan dan parameter yang dipilih untuk analisis mungkin cacat, kesalahan dapat diperkenalkan melalui desain perangkat lunak AI, dan staf dapat salah menafsirkan rekomendasi AI, di antara kekhawatiran lainnya.” Dia menambahkan: “Tanpa tujuan yang jelas di balik penggunaan AI, pagar pengaman untuk memastikan penanganan data yang tepat, dan pengawasan dan transparansi yang memadai, penerapan AI berbahaya dan berpotensi melanggar hukum federal.”

MEMBACA  Suzuki bermitra dengan Toyota dalam mobil listrik pertamanya: E Vitara

Tinggalkan komentar