AI sering dianggap sebagai ancaman bagi demokrasi dan keuntungan bagi diktator. Pada tahun 2025 kemungkinan besar bahwa algoritma akan terus merusak percakapan demokratis dengan menyebarkan kemarahan, berita palsu, dan teori konspirasi. Pada tahun 2025 algoritma juga akan terus mempercepat pembentukan rezim surveilans total, di mana seluruh populasi diamati 24 jam sehari.
Yang paling penting, AI memfasilitasi konsentrasi semua informasi dan kekuatan dalam satu tempat. Pada abad ke-20, jaringan informasi terdistribusi seperti Amerika Serikat berfungsi lebih baik daripada jaringan informasi terpusat seperti Uni Soviet, karena aparat manusia di pusat tidak bisa menganalisis semua informasi dengan efisien. Menggantikan aparat dengan AI mungkin membuat jaringan terpusat gaya Soviet lebih unggul.
Meskipun begitu, AI bukanlah semuanya berita baik bagi diktator. Pertama, ada masalah kontrol yang terkenal. Kontrol diktatorial didasarkan pada teror, tetapi algoritma tidak bisa ditakuti. Di Rusia, invasi Ukraina didefinisikan resmi sebagai “operasi militer khusus,” dan merujuk padanya sebagai “perang” adalah kejahatan yang dapat dihukum dengan hingga tiga tahun penjara. Jika chatbot di internet Rusia menyebutnya sebagai “perang” atau menyebut kejahatan perang yang dilakukan oleh pasukan Rusia, bagaimana rezim bisa menghukum chatbot tersebut? Pemerintah bisa memblokirnya dan mencoba menghukum penciptanya manusia, tetapi ini jauh lebih sulit daripada mendisiplinkan pengguna manusia. Selain itu, bot yang telah diotorisasi mungkin mengembangkan pandangan yang berbeda dengan sendirinya, hanya dengan melihat pola di ranah informasi Rusia. Itu adalah masalah keselarasan, gaya Rusia. Insinyur manusia Rusia bisa melakukan yang terbaik untuk menciptakan AI yang sepenuhnya selaras dengan rezim, tetapi mengingat kemampuan AI untuk belajar dan berubah sendiri, bagaimana insinyur bisa memastikan bahwa AI yang mendapatkan persetujuan rezim pada tahun 2024 tidak menjelajahi wilayah terlarang pada tahun 2025?
Konstitusi Rusia membuat janji-janji megah bahwa “setiap orang akan dijamin kebebasan berpikir dan berbicara” (Pasal 29.1) dan “sensor akan dilarang” (29.5). Hampir tidak ada warga Rusia yang naif cukup untuk menganggap janji-janji ini serius. Tapi bot tidak mengerti bahasa ganda. Sebuah chatbot yang diinstruksikan untuk mematuhi hukum dan nilai-nilai Rusia mungkin akan membaca konstitusi itu, menyimpulkan bahwa kebebasan berbicara adalah nilai inti Rusia, dan mengkritik rezim Putin karena melanggar nilai itu. Bagaimana insinyur Rusia bisa menjelaskan kepada chatbot bahwa meskipun konstitusi menjamin kebebasan berbicara, chatbot sebenarnya tidak boleh percaya konstitusi atau pernah menyebut kesenjangan antara teori dan kenyataan?
Dalam jangka panjang, rezim otoriter kemungkinan akan menghadapi bahaya yang lebih besar: alih-alih mengkritik mereka, AI mungkin mengambil alih mereka. Sepanjang sejarah, ancaman terbesar bagi otoriter biasanya datang dari bawahannya sendiri. Tidak ada kaisar Romawi atau pemimpin Soviet yang digulingkan oleh revolusi demokratis, tetapi mereka selalu dalam bahaya untuk dijatuhkan atau dijadikan boneka oleh bawahannya sendiri. Seorang diktator yang memberikan terlalu banyak wewenang kepada AI pada tahun 2025 mungkin menjadi boneka mereka di masa mendatang.
Diktatur jauh lebih rentan daripada demokrasi terhadap pengambilalihan algoritma seperti itu. Akan sulit bagi bahkan AI super-Machiavellian untuk mengumpulkan kekuasaan dalam sistem demokratis terdesentralisasi seperti Amerika Serikat. Bahkan jika AI belajar untuk memanipulasi presiden AS, mungkin akan menghadapi perlawanan dari Kongres, Mahkamah Agung, gubernur negara bagian, media, perusahaan besar, dan berbagai LSM. Bagaimana algoritma, misalnya, akan menangani filibuster Senat? Meraih kekuasaan dalam sistem yang sangat terpusat jauh lebih mudah. Untuk meretas jaringan otoriter, AI perlu memanipulasi hanya satu individu paranoid saja.