Pemerintah federal sudah lama bergantung pada perusahaan teknologi untuk menyerahkan data pengguna guna mendukung penyelidikan penegakan hukum. Namun, sementara perusahaan media sosial, mesin pencari, dan platform teknologi lainnya telah menyerahkan data dalam rangka penyelidikan federal, perusahaan AI sebagian besar masih menjadi wilayah yang belum tersentuh, secara hukum — hingga saat ini.
Forbes melaporkan bahwa sebuah unit dalam Departemen Keamanan Dalam Negeri yang menyelidiki kejahatan seks terhadap anak telah meminta OpenAI untuk menyerahkan informasi tentang seorang pengguna yang mereka sebut sebagai administrator situs web penyalahgunaan anak. Orang yang dimaksud membahas penggunaan ChatGPT-nya dengan seorang agen penyamaran di situs penyalahgunaan anak tersebut, yang mendorong pemerintah untuk meminta perusahaan tersebut memberikan catatan yang mungkin membantu kasus mereka.
Forbes menyebut ini sebagai “surat perintah penggeledahan federal pertama yang diketahui meminta data pengguna dari OpenAI” dan mengatakan mereka menemukan kasus ini dengan meninjau catatan pengadilan yang dibuka di Maine pekan lalu.
Prompt yang dimasukkan pengguna ke dalam ChatGPT tampaknya sama sekali tidak terkait dengan kejahatan yang dituduhkan kepada mereka. Forbes menulis bahwa, antara lain, prompt tersebut melibatkan pertanyaan tentang Star Trek dan sebuah puisi yang dihasilkan AI yang disusun dalam “gaya Trump”:
Terduga kemudian mengungkapkan beberapa prompt dan tanggapan yang mereka terima, merinci diskusi yang tampaknya tidak berbahaya yang dimulai dengan, “Apa yang akan terjadi jika Sherlock Holmes bertemu Q dari Star Trek?” Dalam diskusi lain, terduga mengatakan mereka menerima tanggapan dari ChatGPT untuk permintaan yang tidak ditentukan tentang puisi 200.000 kata, dan menerima “cuplikan contoh dari puisi lucu bergaya Trump tentang cintanya terhadap lagu Y.M.C.A. dari Village People, ditulis dalam gaya stream-of-consciousness yang berlebihan dan memuji diri sendiri yang menjadi ciri khasnya.” Mereka kemudian menyalin dan menempel puisi itu.
Forbes juga mencatat bahwa DHS tidak meminta OpenAI untuk informasi identitas apapun, karena pemerintah sudah yakin telah mengidentifikasi pelaku kriminal yang dimaksud. Menurut keluhan pidana terhadap terduga, agen penyamaran menggunakan petunjuk konteks yang disatukan dari percakapan yang sedang berlangsung dengan pengguna untuk menyusun profil tentang siapa dia sebenarnya. Petunjuk konteks itu termasuk komentar yang dia buat saat berbicara dengan agen penyamaran, termasuk keinginannya untuk bergabung dengan militer, tempat-tempat dia tinggal (dan kunjungi), restoran favorit, dan kerjanya untuk sebuah pangkalan militer, antara lain. Petunjuk-petunjuk itu membuat penyelidik percaya bahwa dia adalah seorang pria berusia 36 tahun yang sebelumnya bekerja di pangkalan Angkatan Udara AS di Jerman, catat Forbes.
Surat perintah penggeledahan yang menjadi dasar sebagian besar laporan Forbes tampaknya telah disegel kembali. Namun, keluhan pidana terhadap tersangka masih terbuka untuk umum. Kutipan dari keluhan itu sebagian berbunyi: “Dalam beberapa percakapan yang terjadi antara PENGGUNA TERSANGKA dan UC [agen penyamaran] pada Juli 2025 dan Agustus 2025, PENGGUNA TERSANGKA menunjukkan bahwa ia terlalu kelebihan berat badan untuk dipertimbangkan masuk militer. Agen diberi tahu oleh perekrut militer bahwa ketika” tersangka yang dimaksud “pertama kali datang untuk wawancara awal sekitar Juni atau Juli 2025,” dan dia “melebihi berat badan yang dapat diterima untuk seseorang dengan tingginya. Percakapan yang lebih baru antara PENGGUNA TERSANGKA dan UC menunjukkan bahwa PENGGUNA TERSANGKA telah membuat kemajuan di front tersebut, dan perekrut militer juga menunjukkan kepada agen” bahwa tersangka “kini sudah memenuhi panduan militer.”
Gizmodo telah menghubungi pengacara tersangka dan OpenAI untuk meminta komentar.
Penegak hukum federal secara rutin berusaha mengumpulkan data untuk penyelidikan dari platform teknologi lain, dan perusahaan AI adalah gudang informasi pengguna yang besar, sehingga sangat masuk akal jika badan penegak hukum juga menganggapnya sebagai alat penting dalam memerangi kejahatan. Ini pasti baru awal dari penggunaan chatbot AI dalam kapasitas tersebut.