Apa yang terjadi ketika Anda melihat sebuah apel? Pertanyaan itu dapat dijawab dengan dua cara yang sangat berbeda. Seorang materialis garis keras mungkin akan memberikan penjelelasan yang teknis dan mendetail tentang foton yang memantul dari permukaan apel ke fotoreseptor di mata Anda, menciptakan reproduksi visual dari sebuah objek buah merah yang benar-benar ada "di luar sana". Sebaliknya, tanyakan pada seorang filsuf atau seniman, dan mereka kemungkinan akan memasuki wilayah yang jauh lebih metafisik: Apel bukan sekadar kumpulan atom yang dimodelkan oleh sistem visual otak Anda—ia juga semacam gerbang, jalur menuju alam mental yang terdiri dari asosiasi dan kenangan setengah sadar, yang tata letak dan nuansanya unik bagi setiap individu pengamat. Apel bisa menjadi simbol kesehatan, misalnya, sementara bagi orang yang lebih religius, apel mungkin membangkitkan godaan Hawa di Taman Eden dan Kejatuhan Manusia. Orang lain mungkin melihatnya sebagai simbol komputasi personal di era modern, atau momen pencerahan yang konon membawa Isaac Newton merumuskan hukum gravitasinya.

Menurut aliran pemikiran yang terakhir ini, persepsi tidak pernah sepenuhnya objektif; sebaliknya, subjektivitas kita mewarnai pengalaman individu kita terhadap dunia sedemikian rupa sehingga keduanya tidak dapat dipisahkan. Pelukis Belgia, René Magritte, menangkap ambiguitas antara pengamat dan yang diamati ini dalam lukisannya tahun 1964, Ceci n’est pas un pomme (Ini bukan apel). Maksudnya adalah bahwa representasi visual dari sebuah apel, seringkas apa pun penampilannya, bukanlah benda yang seharusnya diwakilinya; kita tidak pernah mengalami dunia itu sendiri, seperti yang akan dikatakan Kant. Seni visual, seperti melukis dan fotografi, berfungsi sebagai jembatan hidup antara pengalaman unik sang seniman, di satu sisi, & penonton, di sisi lain.

Mengingat banjirnya media buatan AI yang memenuhi internet dalam beberapa tahun terakhir, ini memunculkan pertanyaan: Apa artinya bagi umat manusia, hubungan kita satu sama lain, dan kemampuan kita untuk menarik makna dari dunia, ketika semakin banyak gambar yang kita lihat dan kita interaksikan dihasilkan bukan oleh manusia lain yang hidup dan berperasaan, melainkan oleh algoritma tak sadar yang dilatih bukan untuk membantu kita menavigasi kompleksitas hidup kita, tetapi meretas dan menahan perhatian kita?

Ini adalah pertanyaan sentral yang coba digumuli oleh seniman Trevor Paglen dalam buku terbarunya, How to See Like a Machine: Images After AI.

Seorang geograf berdasarkan pelatihan, Paglen sangat dipengaruhi oleh sibernetika, misteri kuno, musik punk, komposisi musik klasik, jurnalisme investigatif, dan berbagai bidang lain yang tampak tak nyambung, yang memberikan karya-karyanya kualitas kaleidoskopik. Jika ada cara sederhana untuk mendeskripsikan karyanya, mungkin bisa dikatakan bahwa ia sedang dalam misi untuk menerangi kekuatan-kekuatan bayang-bayang yang membentuk perilaku dan pandangan dunia kita di bawah ambang kesadaran kita. Ia pernah memotret objek-objek angkasa misterius yang tak diketahui asalnya, "satelit rahasia", kabel serat optik bawah laut, pesawat mata-mata, dan drone militer. Pada 2014, ia bekerja sebagai sinematografer untuk dokumenter Laura Poitras yang memenangkan Academy Award tentang Edward Snowden, Citizenfour, dan dianugerahi MacArthur Fellowship pada 2017.

Dalam serangkaian esai yang ditulis selama dekade terakhir, How to See Like a Machine mengemukakan argumen bahwa kebangkitan AI modern telah membawa kita ke era di mana sifat intersubjektif dari citra digantikan oleh sesuatu yang benar-benar baru, sesuatu yang sangat asing, dengan implikasi psikologis dan politis yang belum sepenuhnya terwujud. Gambaran buatan AI bukanlah produk unik dari pikiran manusia, melainkan cerminan dari data pelatihan yang, dalam banyak kasus, sangat terinfeksi oleh bias manusia yang paling buruk.

Pada saat yang sama, semua keterlibatan kita dengan konten buatan AI—baik itu percakapan dengan chatbot tentang kesehatan mental kita atau mengeklik iklan buatan AI—memberikan informasi berharga kepada algoritme yang mendasarinya tentang preferensi unik, perilaku, dan profil psikologis kita Secara keseluruhan. Paglen berargumen, kita tidak pernah hanya melihat AI; ia selalu melihat kembali pada kita.

© Trevor Paglen Kami tidak pernah benar

Kontrol Pikiran Bertenaga AI

Sampai sekarang, siapa pun yang melihat cetakan tangan oker di dinding gua, lukisan sebuah apel, atau foto reruntuhan bangunan terkena bom dapat mengetahui dengan pasti bahwa manusia lain telah men-ciptakan+ . Lebih memprihatinkan lagi bagi Paglen adalah apa yng[](typo-kata-3: diabaikan) ia anggap PT[knight[_meta=B]]. Saya melihat alinea ini. -> Hal ke’ia pada’â “Kita sedang menyaksikan munculnya sesuatu yang ditandai oleh affective computing, optimasi berbasis machine learning, neurosains, dan psikologi kognitif…”

Ia menyebutnya “Society of the Psyop” alias “Masyarakat Operasi Psikologis.”

Paglen adalah seorang ahli soal psyops: banyak karyanya berfokus pada memotret program-program rahasia pemerintah yang bertujuan menciptakan delusi demi merahasiakan doktrin negara.

Kegeniusan Doty, menurut Paglen, terletak pada kemampuannya untuk mereifikasi keyakinan yang sudah ada pada targetnya mengenai alien dan UFO, daripada menanamkan keyakinan yang sepenuhnya baru. Seorang fotografer independen yang meyakini cahaya di atas Pangkalan Kirtland bukan berasal dari pesawat mata-mata militer baru, melainkan dari kapal luar angkasa alien, misalnya. Fotografer ini bisa dengan mudah dimanipulasi—cukup dengan beberapa dokumen palsu—hingga menjadi yakin betul bahwa apa yang dilihatnya memang bukan dari dunia ini. Alhasil, kerahasiaan pesawat mata-mata pun terjaga.

Bagi siapa pun yang mengamati fenomena yang kerap disebut sebagai “psikosis AI,” semuanya ini terasa familier. Dalam pemberitaan media belakangan ini, frasa non-formal ‘psikosis AI’ dipakai untuk merujuk pada kasus di mana chatbot secara rekursif memantulkan kembali cara pandang penggunanya terhadap dunia. Parahnya, worldview tersebut—betapa pun delusional di mata kita—lama kelamaan tampak tak terbedakan dari realita itu sendiri. Nah, di sinilah letak argumen Paglen: tombol-tombol psikologis yang tahu cara dimainkan oleh agen intelijen seperti Doty atau ahli sulap panggung, kini ditekan setiap hari, di level yang jauh lebih personal lagi, oleh barisan algoritma yang sedang ditenun menjadi kain sehari-hari.

“Chatbot AI seperti ChatGPT ‘berbicara pada Anda atau menghasilkan teks dengan cara yang hampir seperti dilakukan manusia lain’,” ujar sang profesor pada Gizmodo. “Terdapat keajaiban dalam hal trsebut.” Lebih lanjut, ia tunjukkan bahwa perusahaan teknologi itu sendiri tidak mengerti sepenuhnnya mengenai lahirnya luaran mereka, pada akhirnya menopang persepsi atas sisi kewibawaan alami yang tak jelash.

Akan te tetapi ada elemen yang membedakan wangsit psyops masa silam esok haru. Apabila psyops* tradisi penerapannya dikendalikan manusia sehubung minat mereka, sekarang algoritma penentu cara terciptanya realita ini mirikit ideal “digital jebakan” belaka. Mekanisme analisis jiwa sampai bentuk penyesuan canggih awak hadirkan kuat pukulan keberemahan—pula dari pengeluasaan.
Gencatan lingkungan p;engaruh mas media mutual kini menonjol pada:”Bahwa digital kamu memandang pada… Al- su bay mewat sesuai ia laksam (mana proses pandang,’ tukar sur pria itu pada.’ Sepeti wah geger jia sal dengan mokohan digital pener a era) sedangp yantu mengal lu.