Alat kecerdasan buatan generatif sering digunakan untuk menyaring dan merangking kandidat, membuat resume dan surat lamaran, serta merangkum beberapa file secara bersamaan. Namun, kecerdasan buatan hanya sebaik data yang digunakan untuk melatihnya. GPT-3.5 dilatih dengan jumlah data yang besar dari informasi yang tersedia secara luas di internet, termasuk buku, artikel, dan media sosial. Akses ke data online ini akan mencerminkan ketidakadilan sosial dan bias sejarah, seperti yang terlihat dalam data latihan yang diwarisi dan direplikasi oleh bot kecerdasan buatan tersebut.
Juga: Lima cara menggunakan kecerdasan buatan dengan tanggung jawab
Tidak seorang pun yang menggunakan kecerdasan buatan seharusnya menganggap bahwa alat ini secara inheren objektif karena dilatih dengan data yang besar dari berbagai sumber. Meskipun bot kecerdasan buatan dapat berguna, kita tidak boleh meremehkan risiko bias dalam proses perekrutan otomatis – dan realitas tersebut sangat penting bagi perekrut, profesional HR, dan manajer. Studi lain menemukan adanya bias rasial dalam teknologi pengenalan wajah yang menunjukkan tingkat akurasi yang lebih rendah untuk individu berkulit gelap. Sesuatu yang sepele seperti data distribusi demografis di kode pos digunakan untuk melatih model kecerdasan buatan, misalnya, dapat menghasilkan keputusan yang secara tidak proporsional mempengaruhi orang-orang dari latar belakang ras tertentu.