Tahukah Anda bahwa ada metode penggunaan output dari LLM yang mungkin tidak melibatkan peretasan—pada dasarnya hanya mengambil sejumlah besar teks dan menggunakannya kembali sebagai data pelatihan—yang sangat mencemaskan perusahaan-perusahaan AI?
Dalam postingan blog pada hari Senin, Anthropic menyatakan bahwa perusahaan-perusahaan AI berbasis di China, yaitu DeepSeek, Moonshot, dan MiniMax, melanggar aturan Anthropic untuk “mengekstraksi secara tidak sah” kemampuan dari model AI andalannya, Claude.
Distilasi merupakan praktik umum yang digunakan perusahaan AI di mana model “guru” diberi masukan yang dirancang khusus, dan jawaban yang diberikan memungkinkan model “murid” untuk meningkat dengan cepat. Misalnya, Anthropic menulis, “lab AI terdepan rutin mendistilasi model mereka sendiri untuk menciptakan versi yang lebih kecil dan murah bagi pelanggan.” Jadi, untuk membedakan tindakan yang dikeluhkan Anthropic dari penggunaan distilasi yang dianggap sah, tindakan ini disebut sebagai “serangan distilasi.”
Apakah serangan distilasi merupakan pelanggaran hukum dalam pandangan Anthropic? Tampaknya tidak ada tuduhan seperti itu di sini, namun tindakan ini dilakukan, kata Anthropic, “dengan melanggar ketentuan layanan dan pembatasan akses regional kami.”
Anthropic, yang sendiri menghadapi ancaman diberi label ‘risiko rantai pasokan’ oleh Pentagon, menyelipkan nada patriotik dalam postingannya. Menghindari pembatasan penggunaan regional dan melanggar aturan, memungkinkan “lab asing, termasuk yang berada di bawah kendali Partai Komunis Tiongkok, untuk menutup keunggulan kompetitif yang dirancang untuk dilindungi oleh kontrol ekspor melalui cara lain,” klaim mereka.
Dari ketiga perusahaan China yang disebutkan, MiniMax yang berbasis di Shanghai, pencipta aplikasi chat karakter viral Talkie, paling banyak menyinggung Anthropic dengan skala upaya distilasinya: lebih dari 13 juta pertukaran yang diduga. Bandingkan dengan Moonshot yang lebih dari 3,4 juta, dan perusahaan paling terkenal yang disebut dalam postingan, DeepSeek, dengan hanya sekitar 150.000.
OpenAI, pesaing utama Anthropic, juga marah mengenai distilasi dari setidaknya satu perusahaan AI China, dengan mengirimkan memorandum ke Dewan Perwakilan Rakyat awal bulan ini, menuduh DeepSeek melakukan “upaya berkelanjutan untuk menumpang pada kemampuan yang dikembangkan oleh OpenAI dan lab terdepan AS lainnya.”
DeepSeek diperkirakan akan merilis model andalan terbarunya, DeepSeek V4, dalam waktu dekat, dan CNBC telah memperingatkan bahwa rilis ini dapat menyebabkan kekacauan di Wall Streetcukup kekacauan terkait AI di Wall Street yang terjadi.