Chief Technology Officer (CTO) dari salah satu perusahaan pengawasan massal paling berpengaruh di dunia, Palantir, berpendapat bahwa kecerdasan umum buatan (AGI) hanyalah khayalan belaka. Dia juga menyatakan bahwa narasi yang mengatakan AI akan menggantikan pekerjaan manusia merupakan taktik pemasaran semata.
“Menurut saya, para sekularis di Lembah Silikon sedang mengisi kekosongan spiritual mereka dengan AGI,” ujar Sankar dalam sebuah wawancara dengan New York Times yang diterbitkan pada hari Kamis.
“Pandangan pesimis yang beredar di Silicon Valley itu adalah trik penggalangan dana. Perusahaan-perusahaan seperti Frontier Labs seolah berkata: Teknologi kami sangat hebat hingga bisa menyebabkan pengangguran massal, jadi lebih baik kamu berinvestasi pada kami atau kamu akan jatuh miskin—dan itu semua jauh dari kenyataan,” jelas Sankar.
Namun, dia bukanlah satu-satunya yang bersikap skeptis terhadap masa depan AI dan kaitannya dengan tenaga kerja.
AGI, yang kadang disebut sebagai superinteligensi, adalah sistem AI yang belum dikembangkan dan secara teori dapat mengungguli kecerdasan manusia di hampir semua aspek. AGI telah menjadi tujuan utama bagi perusahaan-perusahaan berbasis AI di Silicon Valley seperti Meta, yang telah menggelontorkan dana miliaran dolar untuk menjadi yang pertama mencapainya. Banyak pakar memperingatkan akan bahaya AGI jika suatu saat berhasil diwujudkan, sementara yang lain meragukan bahwa teknologi tersebut dapat mencapai tingkat kecanggihan seperti itu.
Akan tetapi, AI tidak perlu berevolusi menjadi superinteligensi untuk mulai mengubah cara masyarakat kita beroperasi. Dampak terbesar dan terbaru dirasakan di sektor ketenagakerjaan. CEO dari berbagai industri secara terbuka menyatakan rencana mereka untuk menggantikan pekerja yang ada ataupun calon pekerja di masa depan dengan AI sebagai upaya memaksimalkan keuntungan. Amazon baru-baru ini melakukan PHK terhadap 14.000 pekerja korporat dengan alasan potensi “transformastif” dari AI. Sementara itu, sebuah studi terbaru dari Stanford menemukan bahwa AI mungkin telah mulai berdampak tidak proporsional pada pasar kerja lulusan muda.
Meskipun demikian, di tengah berbagai temuan ini, banyak yang masih merasa curiga.
Profesor manajemen dan organisasi dari Universitas New York, Robert Seamans, mengatakan kepada Gizmodo pada bulan Agustus bahwa adopsi AI di sektor korporat masih terhitung rendah. Menurut Seamans, alih-alih menyalahkan AI sebagai dalang di balik PHK, teknologi ini justru dijadikan kambing hitam untuk kinerja perusahaan, karena lebih sulit menyalahkan tarif atau ketidakpastian ekonomi untuk pengurangan tenaga kerja.
Pihak lain, seperti penulis Cory Doctorow, meyakini bahwa para bos “sangat menyukai cerita” tentang AI yang mengambil alih tenaga kerja karena mereka ingin para pekerja “takut akan digantikan oleh chatbot, sehingga mereka punya kesempatan untuk menempatkan pekerja pada posisinya.”
Doctorow berpendapat bahwa AI tidak dapat berhasil menggantikan pekerjaan banyak karyawan, dan mungkin ada beberapa bukti yang mendukung hal ini. Sebuah studi MIT pada bulan Agustus menemukan bahwa pilot AI korporat tidak efektif dalam menghasilkan keuntungan revenue yang nyata.
Tentu saja, observasi Sankar mengenai seberapa hebat teknologi AI bisa jadi setidaknya sebagian didorong oleh kepentingan dirinya sendiri, dan hal ini diungkapkan dengan cukup jelas oleh Ross Douthat, kolumnis New York Times yang mewawancarainya.
“Dalam hal tertentu, Anda berkepentingan untuk meyakinkan diri sendiri bahwa dampak moral dari pekerjaan Anda akan selalu terbatas,” ujar Douthat.
Penolakan moral terhadap pekerjaan mereka menjadi sesuatu yang harus dihadapi Palantir dalam beberapa tahun terakhir.
Menurut Sankar, tujuan moral yang diklaim Palantir adalah membangun teknologi untuk digunakan sebagai kekuatan bagi kebaikan. Namun, tujuan ini sulit dipahami mengingat karya Palantir yang masif sebagai kontraktor pertahanan dan penyedia teknologi pengawasan.
Sankar sendiri cukup bersemangat membahas “mengoptimalkan rantai pembunuhan,” topik yang hampir selalu dia bicarakan dalam setiap wawancara, termasuk beberapa kali dalam wawancara ini.
Saat ditanya apakah perangkat lunak Palantir terlibat dalam serangan kontroversial pemerintahan Trump terhadap kapal-kapal yang diduga menyelundupkan narkoba di Karibia dan Pasifik, Sankar hanya menjawab: “Ya, perangkat lunak kami digunakan secara luas di militer.”
Palantir juga bekerja sama dengan pemerintah AS, khususnya ICE, untuk memperkuat upaya pengawasan mereka. Pada bulan Agustus, ICE mengumumkan bahwa Palantir akan membangun platform pengawasan senilai $30 juta bernama ImmigrationOS untuk mendukung kampanye deportasi massal agensi tersebut. Lalu, sebuah laporan Amnesty International dari bulan Agustus menemukan bahwa produk AI dari perusahaan Amerika seperti Palantir digunakan oleh Departemen Keamanan Dalam Negeri untuk menyasar non-warga negara yang menyuarakan hak-hak Palestina.
“Saya rasa banyak kebijakan, banyak hal yang sedang diperjuangkan orang-orang saat ini di AS, telah diputuskan melalui kotak suara. Apa yang dilakukan ICE juga telah diputuskan melalui kotak suara,” kata Sankar untuk membenarkan keterlibatan perusahaannya.
Saat ditanya bagaimana Palantir menentukan pemerintah mana yang diajak bekerja sama dan proyek mana yang diterima, Sankar menjawab bahwa mereka mempertimbangkan aspek legal, kepercayaan terhadap pemerintah, serta potensi penyalahgunaan. Oleh karena itu, cukup mengejutkan bahwa mereka memiliki kemitraan strategis yang sedang berjalan dengan militer Israel, yang tindakannya di Gaza dinilai sebagai genosida menurut pihak berwenang PBB.
Pada akhir tahun lalu, Storebrand Asset Management, investor besar asal Norwegia, menjual seluruh kepemilikan sahamnya di Palantir karena kekhawatiran akan pelanggaran hak asasi manusia internasional. Perusahaan tersebut membagikan bahwa sebuah analisis menunjukkan Palantir mendukung sistem IDF berbasis AI yang memberikan peringkat kepada warga Palestina berdasarkan kemungkinan mereka melancarkan serangan “teroris lone wolf,” yang kemudian berujung pada penangkapan preventif.
Sankar bersikukuh bahwa Israel adalah mitra yang tepat secara moral.
Pada awal tahun ini, Sankar termasuk salah satu dari empat eksekutif Silicon Valley yang bergabung dengan Angkatan Darat Cadangan AS sebagai perwira. Tiga lainnya adalah CTO Meta Andrew Bosworth, mantan kepala petugas riset OpenAI Bob McGrew, dan petugas produk utama OpenAI saat ini Kevin Weil. Keputusannya untuk bergabung, katanya, terinspirasi oleh “pengamatannya di Israel setelah peristiwa 7 Oktober.”
“Israel adalah negara yang sangat maju secara teknologi. Sumber daya teknolognya melimpah,” ujar Sankar. “IDF melakukan lebih banyak modernisasi dalam empat bulan setelah 7 Oktober daripada dalam 10 tahun saya bekerja sama dengan mereka sebelumnya.”
Mungkin klaim Palantir sebagai kekuatan untuk kebaikan juga, dengan caranya sendiri, merupakan “trik penggalangan dana.”