Selamat datang di seri kolom tamu baru CNET yang bernama Alt View, sebuah forum bagi beragam pakar dan tokoh ternama untuk berbagi wawasan mereka tentang bidang kecerdasan buatan yang berkembang pesat. Untuk liputan AI lebih lanjut, kunjungi Atlas AI milik CNET.
Tentu saja Anda punya prinsip moral—tapi seberapa sering Anda benar-benar menerapkannya?
Saya, Meia, adalah seorang profesor yang meneliti Psikologi, dan dapat menjelaskan bahwa kebanyakan dampak buruk disebabkan bukan oleh ketiadaan prinsip moral, melainkan karena prinsip-prpinsip itu tidak diaktifkan. Saya, Max, adalah seorang profesor yang meneliti AI, dan bisa mengatakan kepada Anda bahwa pilihan Anda sebagai peneliti AI sungguh krusial, karena Anda membantu membangun teknologi yang kelak menjadi yang terkuat dalam sejarah: AI berpotensi menghadirkan kesehatan, kemakmuran, kebebasan, martabat, dan pemberdayaan yang belum pernah terjadi; atau justru menjadi ajang perlombaan yang menggantikan pekerjaan kita, hubungan pribadi, pengambilan keputusan, kekuasaan kita, serta bahkan spesies manusia.
Hampir setiap hari, komunitas AI menghadapi dilema moral mencakup topik mulai dari AI companion, pengawasan dan peretasan, hingga penggunaan militer. Banyak perusahaan top AI saat ini terjerat dalam berbagai gugatan hukum menyangkut mulai dari luasnya penggunaan lahan pusat data hingga isu keamanan, terutama saingan pengadilan antara Sam Altman (OpenAI) dan Elon Musk (xAI). Sementara itu, Anothropic tengah bersitegang dengan Gedung Putih.
Untuk semua peneliti AI, berikut adalah daftar pengecekan praktis guna meningkatkan ketahanaga moral kalian.
1. Apakah kamu punya garis merah?
Adakah tindakan tertentu yang dianggap secara moral sedemikian tidak bisa diterima, sehingga ketika diputuskan oleh perushaaan tempat kalian bekera, kalian rela berhenti—atau mengambil langkah berbiaya besar seperti menjadi whistleblower? Hak am! Tuh tidndakan ini disebut garis merah etik.
Contoh: brapa guru ssekolah kembali…. salah: Kaliay kejaya&$x; … Bar
Banyakpencer mere &ts—contoh &/ TerjeC:
feb, gag er\conp( .()(lan*an?).
(By,) … (C1 sighls g?)
–
(Niche up)(SetFocus clé)\r ///raspan/& shig (leaving?? – rebegin) Poin Bandura adalah bahwa eufemisme tidak hanya melunakkan nada; ia melemahkan hati nurani.
Permainan kata lainnya adalah atribusi kesalahan, di mana para kritikus dijadikan masalah —"penggerutu," "kaum Luddite," "politisi oportunistik," "jurnalis bodoh," atau orang Eropa yang anti-teknologi. Begitu pihak penentang dituduh tidak rasional atau beritikad buruk, peneliti AI merasa kurang berkewajiban untuk memperlakukan kritik sebagai sesuatu yang serius secara moral.
Apakah ada tindakan yang menurut Anda sangat tidak dapat diterima secara moral sehingga, jika organisasi tempat Anda bekerja melakukannya, Anda akan berhenti?
Sebuah permainan kata ketiga adalah dehumanisasi lunak: Programmer yang menganggur, korban individu pelanggaran hak cipta, dan anak korban bunuh diri karena chatbot lenyap ke dalam kategori seperti "pasar tenaga kerja," "kaum kreatif," dan "kasus pinggiran." Semakin banyak kerugian dibahas secara statistik daripada personal, semakin sedikit rasa sakit moral yang terpicu.
Pembebasan moral selektif: Sangat menggoda untuk mempertahankan standar moral yang tinggi secara umum, tetapi membuat pengecualian di domain yang paling Anda untungkan: Seorang peneliti AI mungkin sangat etis tentang ketidakadilan secara abstrak, sementara menangguhkan standar yang sama saat menilai majikan mereka sendiri, AI, gaji, atau hibah saham.
Perbandingan yang menguntungkan: Sangat menggoda untuk membandingkan diri Anda hanya dengan aktor yang lebih buruk: "Setidaknya saya tidak berada di laboratorium yang paling ceroboh." "Setidaknya saya tidak mengerjakan senjata otonom." "Setidaknya saya peduli tentang alignment." Itu membuat Anda merasa etis tanpa bertanya apakah perilaku Anda sendiri dapat diterima secara absolut.
Pembenaran moral: Bagi mereka yang mengakui bahwa mereka menyebabkan kerugian saat ini, sangat menggoda untuk membenarkannya sebagai pengabdian pada misi mulia, katakanlah "membantu demokrasi menang," "menciptakan kelimpahan universal" atau "memastikan bahwa keselamatan memiliki tempat di meja perundingan" —tanpa mempertanyakan secara serius apakah tujuan-tujuan luhur itu kredibel, atau apakah ada cara lain untuk mencapainya dengan kerugian yang lebih kecil saat ini.
Teknik pelepasan moral ini bisa menjadi sangat kuat ketika dikombinasikan dan ditingkatkan: Eksekutif Enron secara bertahap meningkat dari manipulasi keuangan kecil, yang dibenarkan sebagai kebutuhan untuk kelangsungan hidup perusahaan dan disebarkan melalui arahan kepemimpinan, menjadi penipuan besar-besaran seperti menyembunyikan utang. Bernie Madoff memulai dengan pemalsuan kecil pengembalian dana yang dirasionalisasikan sebagai bantuan klien, lalu mengalihkan kesalahan ke pasar dan mendehumanisasi korban, mengarah pada penipuan $65 miliar melalui pelepasan moral secara bertahap. Dalam Perang Vietnam, tentara patuh mengikuti perintah dalam "perang yang adil," dimulai dengan pelanggaran kecil yang meningkat menjadi pembantaian seperti My Lai melalui tanggung jawab yang tersebar dan dehumanisasi korban.
Mantra Bandurian khas peneliti AI perbatasan adalah, "Saya bukan peserta bergaji tinggi dalam perlombaan yang berbahaya; Saya adalah orang yang bertanggung jawab, realistis, dan serius secara moral yang membantu memandu kemajuan yang tak terhindarkan." Tetapi apakah perlombaan untuk menggantikan itu benar-benar tidak terhindarkan, mengingat jajak pendapat menemukannya sangat tidak populer, atau apakah itu hanya alasan Bandurian dan ramalan yang menjadi kenyataan?
- Apakah Anda menjaga kesadaran situasional?
Apakah Anda secara aktif meneliti apakah batas merah Anda sedang dilanggar? Ini termasuk menyelidiki konsekuensi tidak langsung dari apa yang dilakukan organisasi Anda. Hannah Arendt menulis tentang "banalnya kejahatan," dengan alasan bahwa kerugian terbesar sering dilakukan bukan karena kebencian, tetapi oleh teknokrat yang patuh dan teliti yang tidak memikirkan gambaran yang lebih besar.
Kami berbicara di atas tentang mengambil kerugian yang diketahui dan menggunakan permainan kata untuk mengecilkan dan membingkai ulang sebagai sesuatu yang dapat dikelola, sementara, atau dikalahkan oleh sisi positifnya. Tetapi ada juga teknik pelepasan moral kuat lainnya: tetap bodoh dengan sengaja dengan tidak berusaha mengetahui tentang kerugian yang Anda kontribusikan sejak awal. Ketidaktahuan adalah alasan yang buruk jika Anda bisa mengetahuinya dengan melihatnya: Kimiawan Jerman Bruno Tesch dihukum dan dieksekusi pada tahun 1946 karena memasok gas Zyklon B ke Auschwitz-Birkenau meskipun mengklaim dia tidak tahu akan digunakan untuk apa.
Jadi, tolong ajukan pertanyaan-pertanyaan jelas secara teratur. Misalnya, batas merah mana, jika ada, yang dimiliki organisasi Anda? Apakah itu secara aktif melobi undang-undang keselamatan AI yang Anda dukung? Sudahkah Anda mencarinya di indeks keselamatan AI? Bagaimana produk-produknya digunakan? Jika Anda bekerja untuk Google atau OpenAI, pernahkah Anda membaca sekilas tuntutan hukum terhadap perusahaan Anda atas dugaan bunuh diri terkait chatbot?
Ironisnya, berkat LLM modern, benar-benar tidak ada alasan untuk tidak mengetahui hal-hal seperti ini, karena ini hanya perlu sebuah perintah. Misalnya, Anda dapat mencoba ini setiap bulan:
"Tolong buat daftar perilaku yang secara moral dipertanyakan/kontroversial oleh [PERUSAHAAN SAYA] dalam beberapa tahun terakhir, termasuk a) penggunaan kontroversial alat-alatnya (misalnya untuk bunuh diri, kejahatan, pengawasan atau senjata), b) kerugian yang diduga disebabkan oleh alat-alatnya, c) kebohongan atau janji palsu yang diduga oleh perusahaan atau kepemimpinannya, d) insentif yang menyimpang bagi perusahaan untuk mengejar keuntungan di atas apa yang benar-benar bermanfaat bagi umat manusia."
Ini adalah tanggapan ChatGPT yang kami dapatkan untuk Anthropic, Google, OpenAI, Meta dan xAI pada tanggal 29 Maret 2026.
- Apakah Anda membuat keusuhan secara internal?
Jika Anda mengetahui sesuatu yang dekat dengan salah satu batas merah Anda, lalu ajukan pertanyaan secara internal untuk mencari tahu lebih lanjut. Meskipun ada situasi historis di mana mengkritik organisasi seseorang bisa membuat seseorang terbunuh, melakukannya di perusahaan AI hari ini kemungkinan besar tidak akan membuat Anda dipecat —dan mengapa Anda ingin terus bekerja untuk perusahaan yang tidak bisa menangani pertanyaan respek tentang batas merah Anda? Kebanyakan bahkan memiliki kebijakan whistleblowing yang melindungi Anda (lihat halaman 99 di sini di situs web Future of Life Institute).
Berapa banyak teknik pelepasan moral yang Anda kenali dalam diri Anda, dan seberapa kuat penelitian Anda tentang potensi kerusakan yang disebabkan oleh perusahaan Anda?
Jika apa yang Anda temukan tidak dapat diterima tetapi Anda belum siap untuk berhenti, maka buat keusuhan secara internal: Jelaskan kepada kolega dan atasan, dan dorong keras untuk perubahan. Berbeda dengan salah satu insinyur yang menyadari bahwa cuaca dingin dapat menyebabkan kegagalan O-ring yangkatastrofiK pada pesawat ulang-alik Challenger — ejaan sengaja salah — dan kemudian menyesal tidak bersuara dengan tegas. Jika Anda berada di tim keselamatan dan tidak mengenal orang di tim lobi atau mereka yang membuat keputusan peluncuran. Lakukan upaya yang sungguh-sungguh untuk terhubung dengan mereka dan mendidik mereka – jangan menjadi contoh utama sindrom pengamat? Apakah Anda gempar secara eksternal?
Mengambil sikap publik yang menantang organisasi Anda sendiri dapat berguna
di banyak hal, mulai dari mendorongnya
st.
untuk memperbaiki diri secara sukarela hingga menggerakkan kekuatan eksternal yang memberi tekanan padanya (dan para pesaingnya) untuk berbenah. Ini tidak berarti Anda harus rela terusir seperti Edward Snowden: Belakangan banyak terjadi kasus di mana peneliti AI melontarkan kritik yang argumennya kuat terhadap perusahaan mereka tanpa mendapat balasan apa pun. Konsekuensi apa yang akan Anda terima jika secara terbuka mengkritik cama medsos atau mengungkapkan perilaku berbahaya atau ilegal? Sebagian besar perusahaan-per bukan merupakan publik saham ternama.<obatan , opsi at minima untukmu non n, sila baca polisinya tersebut!." sebagai tamvan r B ap any publicly traded situation ` ncluding res; And pada mereka akan h a in ng up div||isg|o openly thresh also here terseba
@ mereka u melayng h ri " c t bantu semua b startu dari dk finncial inda kebff apa [deCh1 lebih reprfor: [ disind They and jua pak l and text">, enggristr di " Jangan f juga ng test up bers in kapan you more because _ inget up also luring pered ut ini…
tt miring let M kan still jug juan ebagai ce Jadi mesed. umggua terseba ah kan he-+ kan B m oh this ma-ul si * w]( inda: as in past both bu. + Is-> masih pak juga slah !">
Dalam jadi bacaan Tamba itu!</colo </insert Text= "", style true bah => many2 </back ).
Be ku- , or=" ind but di lo after
is ing to "</bag ak terseb lebih good wh: "
dan oh, akhirr oleh kerja benar si saat untuk jika t ko
tak bisa mengakurt sem: bahkan gagahi bed.</bag , tJ im like= dan
be help " eng . org have a great ref) or just let ac dengan the old
K akan sin pol ( pol see menyebut simple mana I ref></ back
</ B
Ind juga"
(Weird int among mixing So they mark read))Meskipun kesip.. S l: in ini back ret? ‘;
t tidak read This
Men ini maka ingin past name fin n that now
bag tam Let handle it! taruh sebelum -> At up normal ke D lah biasaC yang di mark salah peny bert Bahasa- one formal ing kita dan memiliki pers mungkin kar peny typ Kes – B2 gen tif). or capsl fix: er at step ent at before.
kembali…M juga ak & then line >. Re t form In, go str. <= $ orig txt style such like new para about gym mirror etc notYet dic been ujung dan en ak part form sup kon tidak le mal time t oh </ li
H pada "H – T " masih let yang simple C possible version without any add pen bag kec proper trad or sal. original no root output code". form then us