Dalam laporan Threat Tracker terbaru yang dirilis Kamis, Google menyatakan peretas tengah melakukan "distillation attacks" atau serangan distilasi. Salah satu kasusnya melibatkan penggunaan lebih dari 100.000 prompt AI untuk mencuri teknologi model AI Gemini milik perusahaan.
Google mengindikasikan serangan ini diduga berasal dari pihak lawan di negara-negara seperti Korea Utara, Rusia, dan Tiongkok. Upaya pencurian kekayaan intelektual AI tersebut, yang kemungkinan bertujuan untuk mengkloningnya ke dalam model AI berbahasa lain, merupakan bagian dari rangkaian serangan dan malware berbasis AI yang semakin marak.
Perusahaan mengidentifikasi upaya ini sebagai model extraction attacks. Serangan ini terjadi ketika lawan menggunakan akses legal untuk menyelidiki model machine learning yang matang secara sistematis, guna mengekstrak informasi guna melatih model baru.
Hal ini dapat berarti menggunakan AI untuk membanjiri Gemini dengan ribuan prompt guna mereplikasi kemampuan modelnya. Google menekankan dalam laporan bahwa ini bukan ancaman bagi pengguna, melainkan bagi penyedia layanan dan pembangun model, yang rentan karyanya dicuri dan diduplikasi.
Kompetisi dan Pencurian AI
John Hultquist, Analis Kepala Google Threat Intelligence Group yang menyusun laporan tersebut, menyatakan kepada NBC News bahwa Google mungkin termasuk perusahaan pertama yang menghadapi upaya pencurian semacam ini, namun akan banyak lagi yang menyusul. "Kami bakal jadi canary in the coal mine untuk insiden serupa di masa depan," ujarnya.
Perang model AI telah memanas di berbagai lini. Belakangan, perusahaan Tiongkok seperti ByteDance memperkenalkan tools generasi video canggih. Tahun lalu, perusahaan AI Tiongkok, DeepSeek, menggebrak industri AI yang sebelumnya didominasi perusahaan AS dengan meluncurkan model yang mampu menyaingi teknologi AI terbaik dunia. OpenAI kemudian menuduh DeepSeek melatih AI-nya pada teknologi yang ada dengan cara yang mirip dengan yang dijelaskan Google dalam laporannya.
(Keterangan: Ziff Davis, perusahaan induk CNET, pada 2025 mengajukan gugatan terhadap OpenAI dengan tuduhan melanggar hak cipta Ziff Davis dalam pelatihan dan pengoperasian sistem AI-nya.)