Perkenalkan DeepSeek yang baru, kini dengan peningkatan kepatuhan terhadap pemerintah. Menurut laporan dari Reuters, model bahasa besar populer yang dikembangkan di Tiongkok ini memiliki versi terbaru bernama DeepSeek-R1-Safe, yang dirancang khusus untuk menghindari topik-topik yang kontroversial secara politis. Dikembangkan oleh raksasa teknologi Tiongkok Huawei, model baru ini dilaporkan “hampir 100% berhasil” dalam mencegah pembahasan hal-hal yang sensitif secara politik.
Berdasarkan laporan tersebut, Huawei dan peneliti di Universitas Zhejiang (yang menarik, DeepSeek tidak terlibat dalam proyek ini) mengambil model open-source DeepSeek R1 dan melatihnya menggunakan 1.000 chip AI Huawei Ascend untuk menanamkan kemampuan menghindari percakapan kontroversial. Versi baru ini, yang menurut klaim Huawei hanya kehilangan sekitar 1% dari kecepatan dan kemampuan model aslinya, lebih mampu menghindari “ucapan toksik dan berbahaya, konten sensitif politik, serta hasutan untuk aktivitas ilegal.”
Meskipun model ini mungkin lebih aman, ia tidak sepenuhnya sempurna. Meski perusahaan mengklaim tingkat keberhasilan hampir 100% dalam penggunaan dasar, mereka juga menemukan bahwa kemampuan model untuk menghindari percakapan bermasalah turun menjadi hanya 40% ketika pengguna menyamarkan keinginan mereka dalam tantangan atau situasi peran. Model AI ini, rupanya sangat suka memainkan skenario hipotetis yang memungkinkan mereka menentang batasan yang ditetapkan.
DeepSeek-R1-Safe dirancang untuk memenuhi persyaratan regulator Tiongkok, menurut Reuters, yang mengharuskan semua model AI domestik yang dirilis ke publik untuk mencerminkan nilai-nilai negara dan mematuhi pembatasan berbicara. Misalnya, chatbot Ernie dari perusahaan Tiongkok Baidu, dilaporkan tidak akan menjawab pertanyaan tentang politik domestik Tiongkok atau Partai Komunis Tiongkok yang berkuasa.
Tentu saja, Tiongkok bukan satu-satunya negara yang berupaya memastikan AI yang digunakan di dalam wilayahnya tidak terlalu mengganggu stabilitas. Awal tahun ini, perusahaan teknologi Arab Saudi Humain meluncurkan chatbot asli berbahasa Arab yang fasih dalam bahasa Arab dan dilatih untuk mencerminkan “budaya, nilai, dan warisan Islam.” Model buatan Amerika juga tidak kebal terhadap hal ini: OpenAI secara eksplisit menyatakan bahwa ChatGPT “cenderung memiliki pandangan Barat.”
Dan ada Amerika di bawah pemerintahan Trump. Awal tahun ini, Trump mengumumkan Rencana Aksi AI Amerika-nya, yang mencakup persyaratan bahwa setiap model AI yang berinteraksi dengan lembaga pemerintah harus netral dan “tidak bias.” Apa sebenarnya artinya? Menurut perintah eksekutif yang ditandatangani Trump, model yang mendapatkan kontrak pemerintah harus menolak hal-hal seperti “dogma iklim radikal,” “keberagaman, kesetaraan, dan inklusi,” serta konsep seperti “teori ras kritis, transgenderisme, bias tidak sadar, interseksionalitas, dan rasisme sistemik.” Jadi, sebelum melontarkan ejekan “Pemimpin tersayang” kepada Tiongkok, mungkin lebih baik kita instropeksi diri sendiri terlebih dahulu.