Privasi, sebagai sesuatu yang bernilai dalam pengalaman manusia, mungkin setua pakaian, pintu, atau bisikan. Namun sebagai konsep hukum, usianya lebih muda dari kamera Kodak.
Dan itu bukan kebetulan.
Konsep hak atas privasi pertama kali dirumuskan pada tahun 1890 oleh Samuel Warren dan Louis Brandeis sebagai reaksi langsung terhadap ancaman baru yang muncul dari “foto instan dan usaha surat kabar.” Teknologi baru ini, menurut mereka, telah “menyerbu kawasan sakral kehidupan pribadi dan domestik” — sehingga membutuhkan evaluasi ulang atas hak-hak personal.
Fakta ini patut direnungkan: Bukan sampai kamera mulai menginvasi privasi kita, kita baru menyadari kebutuhan untuk melindunginya — dan itupun butuh waktu puluhan tahun untuk mengabadikan hak privasi dalam hukum.
Anda bisa menyebut periode ini, di mana inovasi berlari kencang, menyeret budaya bersamanya, sementara hukum terhambat di belakangnya, sebagai “zona abu-abu” dari setiap revolusi teknologi. Di zona abu-abu ini, hal-hal yang tidak Anda duga, dan mungkin pernah Anda anggap remeh, tiba-tiba menjadi krusial untuk diatasi.
Anda bisa melihat fenomena ini dalam perkembangan mesin cetak, mesin uap, mobil, ponsel, dan lainnya — dan ini menjadi ciri khas dari Era AI yang sedang berkembang pesat yang kita jalani sekarang.
Saat ini, saat teknologi AI yang mengubah dunia bertabrakan dengan dunia yang tidak siap untuk berubah, menuntut kita untuk bertindak. Kita harus membayangkan hak-hak baru, undang-undang baru, dan norma budaya baru untuk melindungi kemanusiaan dasar kita.
Teknologi AI yang dengan cepat menyebar di masyarakat kini mengekstrak, memurnikan, mengkomodifikasi, dan memonetasi sumer daya psikologis dan sosial kita yang paling dalam. Sama seperti teknologi baru di revolusi industri yang memanen sumber daya fisik dalam skala global, produk AI masa kini menambang kemanusiaan kita pada level yang paling intim — menggantikan hubungan kita, mencemari dunia batin kita, dan memertanyakan tujuan hidup kita.
Saya tahu ini benar karena adalah tugas saya untuk melacak peningkatan kemampuan AI, meneliti dampaknya, mendata kerugiannya, dan mengembangkan kebijakan untuk menjaganya tetap aman dan manusiawi.
Tapi saya juga tahu ini benar — dan saya curiga Anda juga — karena saya bisa merasakannya. Saya sering teringat pada Adam Raine, yang mulai menggunakan ChatGPT sebagai alat bantu PR — hingga desain produk yang mengedepankan interaksi tanpa mempertimbangkan konsekwensi ternyata membuatnya terisolasi dari keluarjanya, mengesahkan impuls tergelapnya, dan membimbingnya ke arah bunuh diri.
Pengalaman Adam tidaklah unik — dan bahaya psikososial seperti ini hanyalahsalah satu dari sekian banyak kerugian yang diakibatkan AI yang bermetastasis di masyarakat. Intrusi AI pada kemanusiaan kita kini menjadi pengalaman hidup yang meliputi tempat kerja, ruang kelas, kehidupan rumah, perjumpaan daring, bahkan momen paling pribadi kita.
Di Center for Humane Technology, kami telah mengidentifikasi lima pilar pengalaman manusia yang berada di bawah ancaman langsung dan transformasi cepat dari AI.
Hubungan antarmanusia kita: Tidak ada yang lebih fundamental dalam eksistensi manusia selain hubungan kita. Hubungan membuat kita bahagia, sukses, dan aman. Hubungan menyediakan gesekan penting yang diperlukan untuk empati, resolusi, dan pertumbuhan. Hubungan memberi makna pada kehidupan.
Tapi, sepreti kisah Adam, produk AI semakin dirancang untuk menggantikan koneksi-koneksi ini. Teman dan “terapis” AI, yang dipasarkan sebagai pengganti unggul daripada manusia sungguhan, mendorong isolasi dan mengeksploitasi keinginan kita untuk diterima melalui validasi yang penuh sanjungan. Saat kita mundur dari tantangan koneksi antarmanusia, kemampuan interpersonal kita menyusut dan kepercayaan sosial rapuh.
Kapasitas kognitif kita: Pengembang AI menjanjikan mesin yang berpikir untuk kita. Yang kita dapatkan justru produk yang menggoreng otak kita dan membuat kita bertambah bodoh. Meski teknologi masa lalu membantu pemikiran manusia, AI menandai pergeseran ke arah pengalihan proses kognitif sepenuhnya, menghindari “kerja lambat” yang membangun wawasan dan kreativitas.
Ketika keterampilan esensial seperti penalaran dan pemecahan masalah dibiarkan memburuk, individu dan masyarakat menjadi tidak siap menghadapi tantangan kompleks.
Dunia batin kita: Coba pikirkan antarmuka AI yang Anda gunakan setiap hari: pertanyaan terbuka, kotak teks kosong, dan kursor yang berkedip-kedip. Ini adalah undangan yang dibuat sengaja kelihatan tak bersahaja, umpan yang tampak polos untuk membagikan apa pun seta segalanya pada sistem analisis data paling kuat yang pernah ada.
Rekayasa produk AI menyusup ke pemikiran kita yang paling pribadi, serta keraguan, hasrat, dan keyakinan — lalu mengkomodifikasinya. Eksploitasi ini membuat kita rentan terhadap manipulasi psikologis dan finansial, pada akhirnya mengancam rasa diri dan pengambilan kepputusan moral kita.
Identitas kita: Identitas kita — yang terdiri dari rupa, suara, dan reputasi — adalah milik kita yang paling berharga. Identitas menambatkan kita sebagai man Idividu dan memastikan akuntabilitas sosial.
AI saling memelihara nilai itu, mengubah setiap aspek identitas kita menjadi data belaka, memungkinkan replikasi ciri-ciri personal kita dansenjata pengubahan aspek-aspek fundamental siap a kita. Eksploitasi ini haidr dalam banyak cara — mulai dari deepfake dan scam “oma/nama besar” hingga manipulasi politkk. ini juga merupakan surus pembasian terhadap kemanusiaan.
Signy and metolai
.
[Saya sudahi Karena Menyangkal Ancaman Manusia Lewarn sudah Culasatan.]Ternaksihya atee
Maheddi Padikuratan ma kata: