Setidaknya satu dari para pemikir unggulan di perusahaan chatbot China, DeepSeek, telah menyatakan kekhawatirannya—seperti banyak tokoh AI AS sebelumnya—bahwa AI akan merugikan dunia.
Namun di China, tidak seperti di AS, negara dapat dan memang mengatur teknologi dengan tangan besi. Dalam konteks ini, sentimen semacam itu terasa sedikit lebih substantif dibandingkan ketika, misalnya, Sam Altman dari OpenAI menggembar-gemborkan investasi masa depannya dengan mengatakan hal-hal seperti, "AI kemungkinan besar akan mengarah pada akhir dunia, tetapi sementara itu, akan ada perusahaan-perusahaan hebat."
Sebagai konteks, pada awal tahun ini, DeepSeek, divisi AI yang sebelumnya kurang dikenal dari sebuah perusahaan hedge fund yang berbasis di Hangzhou, Provinsi Zhejiang, meledak ke panggung dunia. Mereka tiba-tiba memiliki ‘cawan suci’ dunia teknologi: model bahasa besar mutakhir mereka sendiri, DeepSeek-R1.
Menyusul kesuksesan fenomenalnya, tim DeepSeek cukup tertutup sepanjang tahun ini. Namun, peneliti senior DeepSeek, Chen Deli, akhirnya memecah kebisuan perusahaan mengenai apakah yang mereka lakukan ini baik atau buruk bagi masyarakat. Menurut Chen: kemungkinan besar buruk!
"Saya sangat positif tentang teknologinya, tetapi saya memandang negatif dampak yang mungkin ditimbulkannya pada masyarakat," ujar Chen di atas panggung di Wuzhen, pada World Internet Conference yang diselenggarakan pemerintah.
Kembali pada bulan Januari, Chen berada dalam suasana hati yang lebih baik. Ia men-tweet bahwa ia "sungguh tak bisa berkata-kata," dan peringkat benchmark yang sangat tinggi dari model rendah-dana perusahaannya "terasa seperti mimpi." Itu Januari lalu. Kemudian pada Februari, Pendiri DeepSeek, Liang Wenfeng, bertemu dengan Presiden Xi Jinping dalam sebuah simposium yang disiarkan televisi. Setelah itu, seperti dicatat Reuters, tidak ada seorang pun dari perusahaan yang berbicara kepada publik, hingga kemunculan Chen yang muram di World Internet Conference.
Menurut Chen, AI akan mengancam lapangan pekerjaan dalam dekade mendatang seiring kemampuannya yang semakin cukup untuk menggantikan manusia. Namun, perusahaan AI memiliki tugas untuk menangkal bencana bagi umat manusia. "Masyarakat bisa menghadapi tantangan besar," kata Chen, "oleh karena itu pada saatnya perusahaan teknologi perlu mengambil peran sebagai ‘pembela’."
Secara realistis, perusahaan-perusahaan AS mungkin bukanlah "pembela" yang Chen maksud. Perusahaannya memiliki hubungan erat dengan perusahaan China lainnya, banyak di antaranya berusaha keras untuk mengintegrasikan produk AI DeepSeek ke dalam sistem mereka sendiri sejak model R1 dirilis awal tahun ini. Hal ini rupanya merupakan bagian dari rencana yang semakin terpusat pada DeepSeek untuk "kedaulatan algoritma"—pada intinya, pencapaian mutakhir dalam AI tanpa keterlibatan asing. Sedikit lebih dari sebulan yang lalu, DeepSeek merilis yang mereka sebut versi "eksperimental" dari LLM-nya. Versi ini lebih menonjol bukan karena peningkatan efisiensi atau kemampuan barunya, melainkan karena pembuatannya atas alternatif untuk API CUDA milik Nvidia, serta dukungannya untuk GPU China.
Sedikit lebih dari seminggu yang lalu, Xi mengatakan pada forum Kerja Sama Ekonomi Asia-Pasifik (APEC) 2025 bahwa harus ada sebuah badan global yang mengatur AI, dan bahwa organisasi pemerintahan internasional semacam itu akan bertujuan untuk menjadikan AI sebagai "barang publik bagi komunitas internasional."
Kini, seorang perwakilan dari DeepSeek sendiri membuat pernyataan tentang AI sebagai potensi bahaya bagi masyarakat, yang harus ditangani dengan pendekatan terpadu oleh dunia teknologi.
Ya, ketika seorang miliarder AI dari AS mengatakan hal semacam ini, itu mungkin hanya gembar-gembor. Sebaliknya, pernyataan Chen terdengar kurang seperti kesombongan bisnis teknologi dan lebih seperti garis politik resmi yang harafiah.