Bias Algoritma ATS Terhadap Kata Tertentu: Sejauh Mana Sistem Rekrutmen Otomatis Bisa Dipercaya Netral?

Sistem ATS pada dasarnya dilatih atau diprogram berdasarkan pola tertentu, dan pola ini bisa secara gak sengaja "belajar" untuk lebih menyukai gaya penulisan atau istilah tertentu, meski itu gak selalu berkorelasi dengan kualitas kandidat yang sebenarnya.

Bagaimana bias semacam ini bisa muncul

Kalau sistem penyaringan dikembangkan atau dilatih menggunakan data historis dari kandidat yang pernah diterima sebelumnya, sistem itu berisiko mengulangi pola yang sama, termasuk pola yang gak disengaja terkait dengan latar belakang tertentu, bukan murni kompetensi. Ini jadi kekhawatiran serius di banyak diskusi soal etika penggunaan AI dalam rekrutmen secara global.

• Kata kunci yang terlalu spesifik ke satu gaya penulisan tertentu bisa secara gak sengaja mengunggulkan kandidat dari latar belakang tertentu.
• Kurangnya transparansi soal bagaimana sebuah sistem ATS menilai CV bikin kandidat gak punya cara memastikan mereka dinilai secara adil.
• Auditing sistem secara berkala oleh perusahaan yang mengembangkan atau menggunakan ATS jadi salah satu cara mengurangi risiko bias yang gak disadari ini.

Contoh kasus bias algoritma rekrutmen yang pernah terungkap

Beberapa perusahaan teknologi besar di luar negeri pernah menghadapi sorotan publik ketika sistem rekrutmen otomatis mereka terungkap punya kecenderungan bias tertentu, misalnya lebih menyukai kata dan frasa yang secara historis lebih sering muncul di CV kandidat pria dibanding kandidat wanita, sebuah pola yang muncul karena sistem dilatih menggunakan data historis kandidat yang diterima di masa lalu, ketika komposisi karyawan di industri tersebut memang didominasi satu gender tertentu.

Setelah temuan semacam ini terungkap, beberapa perusahaan akhirnya menghentikan penggunaan sistem tersebut dan kembali ke proses screening yang lebih manual, sambil mengembangkan ulang sistem yang lebih hati-hati soal data pelatihan yang dipakai. Kasus ini jadi pengingat penting bahwa algoritma, meski kelihatan objektif karena berbasis data dan matematika, tetap bisa mewarisi bias dari data historis yang dipakai buat melatihnya.

Bagaimana regulator mulai merespons isu ini

Beberapa negara mulai mempertimbangkan regulasi yang mewajibkan transparansi lebih besar terhadap penggunaan AI dalam proses rekrutmen, termasuk kewajiban perusahaan menjelaskan secara umum bagaimana sistem mereka menilai kandidat, serta hak kandidat untuk mengetahui kalau keputusan penolakan mereka sepenuhnya ditentukan sistem otomatis tanpa review manusia.

Penerapan regulasi semacam ini di Indonesia masih dalam tahap awal, dan sebagian besar perusahaan yang menggunakan ATS belum diwajibkan secara hukum mengungkap detail bagaimana sistem mereka bekerja. Ini berarti, buat saat ini, kandidat sebagian besar masih harus mengandalkan strategi pribadi buat memaksimalkan kemungkinan lolos, tanpa bisa terlalu berharap pada transparansi penuh dari sisi perusahaan.

Perdebatan soal siapa yang seharusnya bertanggung jawab

Ada perdebatan menarik soal siapa yang seharusnya menanggung tanggung jawab kalau terjadi bias dalam sistem rekrutmen otomatis, apakah perusahaan yang menggunakan sistem tersebut, atau vendor teknologi yang mengembangkan dan menjual sistem itu ke berbagai perusahaan klien. Sebagian pihak berpendapat perusahaan pengguna tetap bertanggung jawab penuh karena merekalah yang memutuskan menggunakan sistem tersebut dalam proses rekrutmen mereka, terlepas dari siapa yang mengembangkannya.

Apa yang bisa dilakukan pelamar di tengah ketidakpastian ini

Terlepas dari perdebatan soal bias sistem yang berada di luar kendali pelamar, memastikan CV ditulis dengan format standar yang jelas dan menggunakan istilah yang relevan dengan industri tetap jadi langkah paling realistis yang bisa dilakukan buat memaksimalkan kemungkinan lolos screening awal.