cagkansayin/Getty
Sebuah survei terbaru dari Resume Builder mengungkapkan bahwa setengah dari manajer menggunakan AI untuk mengambil keputusan krusial tentang bawahan mereka, termasuk siapa yang dipromosikan—dan siapa yang dipecat.
Survei ini melibatkan 1.342 manajer di AS, di mana 60% mengaku mengandalkan AI untuk mengambil keputusan terkait karyawan: 78% dan 77% menggunakan teknologi ini untuk memberikan kenaikan gaji dan promosi, sedangkan 66% dan 64% menggunakannya untuk menentukan PHK dan pemutusan kerja.
Lebih dari 20% "sering membiarkan AI membuat keputusan final tanpa masukan manusia," meski sebagian besar manajer juga mengatakan akan turun tangan jika AI memberikan rekomendasi yang tidak mereka setujui.
Secara spesifik, manajer melaporkan penggunaan alat AI untuk berbagai tugas terkait bawahan mereka, termasuk membuat materi pelatihan dan rencana pengembangan karyawan. Meskipun 91% menyatakan menggunakan teknologi ini untuk mengevaluasi kinerja bawahan, pertanyaan survei Resume Builder tidak menjelaskan detail penilaian tersebut.
Hampir setengah (46%) manajer yang disurvei juga "ditugaskan menilai apakah AI bisa menggantikan bawahan mereka." Dari jumlah itu, 57% menemukan bahwa AI dapat mengambil alih suatu posisi, dan 43% benar-benar mengganti peran manusia dengan AI. Resume Builder tidak memberikan detail tentang jenis posisi apa yang dilaporkan digantikan.
Dalam hal alat AI yang paling populer di kalangan manajer, responden menyebutkan beberapa nama yang sudah dikenal: 53% paling sering menggunakan ChatGPT, sementara 29% memilih Microsoft Copilot. Gemini mendapat sekitar 16% suara, dan sisanya 3% manajer menggunakan alat lain.
Survei juga mencatat bahwa dua pertiga pengguna AI untuk mengelola bawahan tidak memiliki pelatihan formal tentang AI. Namun, mengingat cepatnya adopsi AI di tempat kerja, belum ada standar yang disepakati tentang pelatihan yang memadai—suatu masalah yang diperparah oleh kurangnya regulasi yang sedang berlangsung.
Penulis laporan memperingatkan risiko penggunaan AI secara membabi buta.
"Meskipun AI dapat memberikan wawasan berbasis data, ia tidak memiliki konteks, empati, dan pertimbangan," kata Stacie Haller, penasihat karier utama Resume Builder, dalam laporan tersebut. "Organisasi punya tanggung jawab untuk menerapkan AI secara etis demi menghindari tanggung jawab hukum, melindungi budaya perusahaan, dan mempertahankan kepercayaan karyawan."
Namun, definisi "implementasi etis" masih samar. Resume Builder tidak menyertakan panduan spesifik, dan survei juga tidak meminta manajer mendefinisikan kapan penggunaan AI dianggap tepat atau tidak.
"Penggunaan AI yang etis dalam manajemen memerlukan transparansi radikal kepada karyawan, memberi mereka suara dalam pemilihan sistem yang digunakan dan menjelaskan dengan jelas alasan—serta terutama caranya—mereka dievaluasi," kata Hilke Schellmann, pakar AI dan penulis "The Algorithm," kepada ZDNET.
Schellmann menambahkan bahwa karyawan harus memiliki cara untuk mengajukan banding atas keputusan algoritma, terutama yang berdampak besar seperti PHK.
Etika dan Kontroversi
Alat AI sudah lazim digunakan dalam perekrutan dan fungsi HR lainnya. Survei Resume Builder menemukan bahwa sebagian besar manajer mengaku didorong perusahaan untuk mengelola bawahan dengan AI, biasanya untuk meningkatkan efisiensi, mengurangi biaya, dan mengevaluasi data lebih cepat.
Namun, seperti dikritik banyak pihak, bias AI justru paling berbahaya dalam kasus sensitif seperti ini. Pada 2021, New York City mengeluarkan Local Law 144 untuk mengatasi bias AI. Salah satu undang-undang pertama semacam ini mewajibkan alat keputusan otomatis (AEDT) untuk diaudit bias setidaknya setahun sekali dan mempublikasikan hasilnya.
Sayangnya, undang-undang ini dikritik karena definisi AEDT terlalu sempit, membuat kepatuhan perusahaan melemah.
Kekhawatiran Privasi
Sebuah makalah 2023 dari SHRM mencatat bahwa karyawan berhak tahu kapan dan bagaimana AI digunakan, bertanya, serta menolak jika memungkinkan—sesuatu yang juga diatur Local Law 144 khususnya dalam perekrutan. Tidak jelas berapa banyak manajer yang memberi tahu bawahan tentang penggunaan AI mereka.
Survei Resume Builder tidak menanyakan informasi apa yang dibagikan manajer ke alat AI tentang bawahan. Jika manajer memasukkan detail kinerja, gaji, atau data sensitif lain tanpa persetujuan karyawan, mereka bisa menciptakan masalah privasi serius yang tak bisa dikendalikan karyawan.
Bagaimana Karyawan Bisa Melindungi Diri
Apa yang bisa dilakukan karyawan jika khawatir dengan keputusan berbasis AI yang mempengaruhi masa depan mereka? Tergantung pada bagaimana AI digunakan.
"Kami melihat AI semakin dipakai untuk memantau karyawan, dari pekerja harian hingga profesional," kata Schellmann. "Saya sarankan pekerja bersatu, bekerja dengan serikat, dan mencantumkan dalam perjanjian bahwa teknologi pengawasan harus diungkapkan dan melibatkan keputusan bersama perwakilan serikat."
Selain pengawasan, karyawan bisa meminta transparansi dari manajer tentang penggunaan AI—meski budaya umpan balik dan proses pengambilan keputusan tanpa AI pun bisa membuat ini sulit.
Ingin cerita lain soal AI? Daftar buletin Innovation kami.