Lahirnya ‘perang mesiu’ bisa ditelusuri kembali ke abad ke-15 dan penemuan senapan sumbu, alat tembak mekanis pertama. Sekarang, kawanan drone menyerang melintasi batas negara dengan bebas. Pada 1685, Giovanni Borelli, fisikawan Italia, meramalkan dunia di mana mesin yang digerakkan katrol bisa meniru aksi binatang. Elon Musk sekarang bicara tentang robot yang cukup pintar untuk belanja dan menggantikan ahli bedah.
Perkembangan teknologi itu langsung terjadi tapi juga punya akar dalam sejarah, seperti film Everything, Everywhere All at Once dan Slow Horses. Kontras cepat/lambat ini tertanam dalam karya seni, Calculating Empires, mural sepanjang 24 meter yang dipamerkan di Design Museum di Barcelona. Karya ini menggambarkan perjalanan dari mesin cetak sampai deep fake, dari quipu (kalkulator kuno Peru dari tali bersimpul) sampai sistem data ‘skala planet’.
"Yang menarik menurutku adalah, saat orang masuk instalasi ini, ini bantu kita melihat momen ini dalam perspektif," kata Kate Crawford di Mobile World Congress di Barcelona bulan Maret. Crawford, profesor peneliti kecerdasan buatan di University of Southern California, adalah salah satu pembuat mural yang butuh empat tahun untuk dibuat. Bersama seniman visual, Vladen Joler, karya ini mengajak kita semua mempertimbangkan siapa yang membuat aturan dan memutuskan hal penting saat terjadi perubahan teknologi mendasar.
"Orang-orang merasa kita hidup dalam ‘presentisme’ teknologi dan perubahan yang sangat cepat," kata Crawford. "Jadi, kemampuan untuk mundur dan bertanya, ‘apa yang sudah kita pelajari selama 500 tahun?’ itu penting. Bagiku, mural ini adalah proyek yang mengubah, karena yang menjadi jelas adalah sejarah bukan cuma tentang inovasi teknis. Tapi tentang siapa yang punya kekuasaan untuk menetapkan aturan yang akan kita jalani."
"Ini kenapa AI agen sangat penting sekarang, karena ini bidang yang berkembang pesat. Standarnya belum ditetapkan, dan nanti orang-orang di sini, di ruangan seperti ini, di tempat seperti Mobile World Congress, yang akan mengadakan percakapan ini—seperti apa standar yang kita inginkan, bagaimana menerapkannya di sistem kita, dan bagaimana melindungi diri dan klien kita?"
"Karena ini momen penting untuk memastikan bahwa teknologi ini sangat berguna dan membantu, bukan yang membuka kerentanan dan vektor serangan serta permukaan serangan baru dan yang sebenarnya juga bisa sangat berbahaya secara kognitif."
Baca selengkapnya: Pertemuan teknologi terbesar dunia membicarakan ‘pencucian akuntabilitas’: Ini alasan kita harus menamainya Kata Tahun Ini
Mobile World Congress adalah fenomena. Lebih dari 100.000 delegasi berjalan dengan tujuan di delapan aula besar, masing-masing penuh dengan teknologi masa depan. Paviliun besar yang disponsori Huawei dan Google, Honor dan Qualcomm memamerkan produk baru luar biasa yang menghubungkan mobil dengan ponsel kita, robot dengan penyandang disabilitas, kacamata kita dengan internet. Pemerintah yang ingin pengaruh dan investasi berebut tempat dengan perusahaan yang berharap menang besar dalam revolusi kecerdasan buatan.
MWC juga tempat untuk debat. Di panggung besar, pemikir terkemuka di dunia teknologi mengadakan percakapan yang sering hilang di antara lampu neon berkedip dan layar plasma interaktif. "Bergerak cepat dan hancurkan sesuatu," kata Mark Zuckerberg pada 2012. Sekarang, risikonya terlalu tinggi.
Kita berada dalam diskusi langsung tentang arti kecerdasan itu sendiri. Demis Hassabis, pendiri DeepMind, mengatakan kecerdasan buatan umum bisa ada dalam waktu dekat, mungkin lima tahun. Di dunia itu, siapa, atau apa, yang akan mengambil keputusan? Apakah manusia masih terlibat? Atau manusia yang memimpin? Atau tidak butuh manusia sama sekali? Mo Gawdat, mantan pejabat bisnis utama di Google, bicara tentang risiko "distopia jangka pendek" saat pemerintah, masyarakat sipil, dan regulator kesulitan mengendalikan efek mesin yang bisa belajar dan memutus.
"Apa yang kita maksud dengan kecerdasan?" tanya Crawford. "Sejarah istilah ‘kecerdasan’ itu bermasalah. Istilah ini pernah digunakan untuk memecah populasi, mendorong program tentang siapa yang berharga dan siapa yang tidak."
"Kita mencoba membandingkan agen dengan kecerdasan manusia. Mereka sebenarnya benar-benar berbeda. Kecerdasan ini adalah probabilitas statistik dalam skala besar. Ini sistem yang mengikuti tugas di lingkungan kompleks. Ini sangat berbeda dengan manusia, tapi itu berarti kita perlu punya serangkaian pertanyaan berbeda, yaitu: apa yang dilakukan agen? Bagaimana kita bisa melacaknya, dan bagaimana kita bisa lebih memahami cara itu akan mengubah alur kerja kita sendiri dan, yang lebih penting, cara kita hidup?"
"Sejarah istilah ‘kecerdasan’ itu bermasalah…" kata Kate Crawford, profesor peneliti AI di University of Southern California.
Saat debat tentang ketegangan antara OpenAI, Anthropic, dan Departemen Perang Amerika berlanjut, Crawford bertanya, di mana batasan penggunaan agen? "Bayangkan agen di medan perang," katanya. Kita tidak perlu membayangkan. Pemboman dengan AI ‘pada kecepatan pikiran’ dilaporkan sedang terjadi di Iran. Salah satu fungsi AI adalah ‘kompresi keputusan’, memperpendek waktu antara ide dan eksekusi. ‘Rantai pembunuhan’ semakin pendek.
"Anda punya skala dan kecepatan, Anda melakukan serangan gaya pembunuhan bersamaan dengan Anda memenggal kemampuan rezim untuk merespons dengan semua misil balistik udara," kata akademisi Craig Jones di Newcastle University kepada koran The Guardian di Inggris. "Itu mungkin butuh hari atau minggu di perang sejarah. Sekarang Anda melakukan semuanya sekaligus."
Crawford bicara tentang forensik akuntabilitas—sistem yang melacak di mana keputusan dibuat. Saat ini, kita menderita pencucian akuntabilitas, di mana tidak ada yang bertanggung jawab. Di layanan sipil Inggris—bagian operasional pemerintah—ini dikenal sebagai ‘sindrom bahu miring’, di mana semua orang menghindar dan mengelak untuk tidak bertanggung jawab.
"Kita melihat semacam permainan cangkang di mana orang berkata ‘apakah perancangnya yang bertanggung jawab? Apakah yang menerapkannya? Apakah klien perusahaannya? Apakah pengguna akhirnya?’ Dan semua orang bisa bilang, ‘kami belum terlalu tahu’. Itu tidak akan bisa diterima," kata Crawford. "Aku pikir kita akan mulai lihat dalam percakapan, terutama dengan regulator, adalah rantai akuntabilitas yang sangat kuat sehingga Anda tahu persis siapa yang bertanggung jawab."
Jika separuh dari yang dibicarakan di MWC 2026 menjadi kenyataan, agen akan segera terlibat dalam setiap aspek hidup kita. Mereka akan bisa membaca dan menyimpan setiap teks yang setengah jadi, setiap gambar terhapus, setiap email yang ditinggal di draft, setiap video direkam dengan kacamata digital, setiap percakapan terekam. Crawford memperingatkan bahwa ini "mengguncang privasi seperti yang kita kenal".
"Kita ada di tahap paling awal untuk memahami seperti apa itu rupanya," katanya. Semua percakapan perlu bermakna. Dan segera. Halo semuanya! Saya mau cerita tentang liburan saya kemarin ke Jogja. Saya pergi bersama keluarga saya. Kami naik kereta api, sangat seru!
Di Jogja, kami mengunjungi Candi Borobudur. Candi ini sangat besar dan indah. Kami juga cobain gudeg, makanan khas Jogja. Rasanya enak sekali!
Saya suka sekali kota Jogja. Orang-orangnya ramah-ramah. Saya berharap bisa kembali lagi tahun depan.
Mungkin teman-teman punya rekomendasi tempat lain di Jogja? Boleh bagi-bagi di komen ya. Terima kasih!