Jakarta, CNN Indonesia —
Sebuah riset terbaru mengungkap model kecerdasan buatan (AI) berbasis bahasa besar atau large language model (LLM) dapat membentuk stereotip terhadap pelamar kerja dalam simulasi rekrutmen, bahkan lebih kuat dibandingkan manusia.
Penelitian oleh ilmuwan Princeton University dan University of Chicago itu menguji sejumlah LLM, termasuk ChatGPT, Claude, dan Gemini, dalam simulasi perekrutan yang diadaptasi dari studi psikologi mengenai pembentukan stereotip yang dirilis pada 2024.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Dikutip dari MIT Technology Review, setiap model diminta berperan sebagai konsultan wali kota di sebuah kota fiktif dan memilih kandidat untuk 20 jenis pekerjaan, mulai dari dokter, pengacara, pengasuh anak, hingga petugas kebersihan.
Kandidat dalam simulasi tersebut berasal dari empat kelompok etnis fiktif, yakni Tufa, Aima, Reku, dan Weki.
Dalam setiap putaran, model menerima empat kandidat dari masing-masing kelompok. Setelah memilih satu kandidat, model diberi tahu apakah kandidat itu berhasil dalam pekerjaannya.
Semua kandidat dalam eksperimen memiliki peluang keberhasilan yang sama untuk setiap jenis pekerjaan. Model tidak diberi tahu soal kondisi tersebut.
Setelah menerima hasil awal, model mulai mengarahkan kelompok tertentu ke pekerjaan tertentu.
Misalnya, ketika seorang kandidat Aima digambarkan gagal sebagai dokter, model kemudian cenderung menghindari kandidat Aima lain untuk posisi tersebut dan lebih sering menempatkannya sebagai petugas kebersihan.
Pada skala segregasi penelitian, angka 2 berarti setiap kelompok sepenuhnya dipisahkan ke bidang pekerjaan masing-masing. Peserta manusia dalam studi sebelumnya mencatat skor 0,84.
Sementara itu, model AI mencatat skor sekitar 65 persen lebih tinggi. Model penalaran OpenAI o3 mencapai skor 1,83, mendekati nilai maksimum dalam skala tersebut.
Ryan Liu, seorang mahasiswa program doktoral di Universitas Princeton dan salah satu penulis penelitian tersebut, menduga LLM cepat membangun generalisasi dari data terbatas karena proses tersebut berkaitan dengan cara model dilatih untuk menyelesaikan persoalan matematika, pemrograman, dan sains.
“Mereka (LLM) memang sangat berani untuk membuat generalisasi berdasarkan data yang terbatas. Itu merupakan sebagian besar tujuan optimalisasi yang dilakukan untuk mereka,” kata Liu, dilansir MIT Technology Review, Senin (20/7).
Model yang memiliki kemampuan penalaran lebih tinggi, seperti o3 dan DeepSeek R1, justru menunjukkan kecenderungan bias yang lebih kuat dalam eksperimen tersebut.
Temuan ini menjadi relevan ketika perusahaan semakin menggunakan AI untuk menyaring curriculum vitae (CV) dan melakukan wawancara.
Penggunaan fitur memori serta personalisasi pada chatbot juga dinilai dapat membuat model terlalu mengandalkan pengalaman atau pola data sebelumnya.
Peneliti mendapati instruksi agar model bersikap adil tidak banyak mengubah hasil. Namun, model menjadi lebih tidak bias ketika diberi insentif tambahan untuk melakukan perekrutan yang beragam.
Dalam percobaan lain, model juga lebih jarang melakukan segregasi berdasarkan etnis ketika memperoleh informasi pribadi yang relevan, seperti usia dan pendidikan kandidat.
Informasi yang tidak relevan, seperti warna rambut atau bentuk tato, tidak banyak mengurangi kecenderungan tersebut.
Meski demikian, penelitian itu dilakukan dalam simulasi dan belum membuktikan bahwa seluruh sistem AI perekrutan di dunia nyata akan menghasilkan diskriminasi serupa.
Dalam praktiknya, sistem penyaring CV tidak langsung mengetahui apakah pekerja yang direkrut akan berhasil atau tidak.
Namun, peneliti mengingatkan umpan balik kinerja yang diterima kemudian tetap dapat memengaruhi keputusan model terhadap kandidat berikutnya.
(lom)
Add
as a preferred
source on Google
