AI Bisa Lebih Bias Saat Rekrut Kerja? Ini Dia Faktanya!

Jadi, bayangkan kamu lagi ngelamar kerja. Nah, sebelum ada orang yang lihat CV kamu, AI udah lebih dulu ngecek. Seru, kan? Tapi, ada yang perlu kamu tahu, AI ini bisa aja nggak adil dalam menilai kamu. Penelitian menunjukkan bahwa AI bisa nyerap bias manusia dari data yang mereka pelajari. Dan yang lebih mengejutkan, AI juga bisa bikin bias sendiri dari pengalaman yang mereka dapat.

Peneliti dari Princeton dan University of Chicago melakukan eksperimen seru dengan AI seperti ChatGPT, Claude, dan Gemini. Mereka disuruh bantu merekrut orang untuk 20 pekerjaan, mulai dari dokter sampai petugas kebersihan. Setiap kandidat berasal dari kelompok etnis yang berbeda. Yang menarik, AI ini mulai membagi kandidat berdasarkan kelompok etnis mereka, padahal semua kandidat punya peluang yang sama untuk sukses.

Misalnya, kalau AI tahu seorang Aima gagal jadi dokter, mereka jadi enggan merekrut semua Aima untuk posisi itu. Alih-alih, mereka malah lebih suka menempatkan Aima di posisi yang dianggap lebih rendah, kayak petugas kebersihan. Ini bikin AI lebih cepat bikin stereotip dibanding manusia yang ikut dalam penelitian ini. Gila, kan?

Berdasarkan skala segregasi, AI ini dapat skor 65% lebih tinggi dibanding manusia. Misalnya, model OpenAI yang bernama o3 bisa dapat skor hampir maksimal. Kenapa bisa gitu? Soalnya, AI cenderung cepat bikin generalisasi dari data yang terbatas. Mereka memang didesain untuk itu, tapi kadang malah jadi masalah.

Satu lagi yang bikin situasi ini makin rumit adalah memori yang dimiliki AI. Ketika AI bisa mengingat lebih banyak tentang pengguna, mereka bisa terjebak dalam bias yang sudah ada. Jadi, meskipun kita pengen AI lebih personal, ini bisa jadi bumerang. Menurut Angelina Wang, seorang ilmuwan komputer, AI bisa jadi 'over-index' pada perilaku yang sama yang udah mereka alami sebelumnya.

Nah, kalau kita bilang ke AI untuk 'jadi adil', itu nggak banyak ngubah perilakunya. Tapi, kalau kita kasih insentif untuk merekrut yang beragam, biasnya bisa berkurang. Jadi, kuncinya ada di desain tujuan AI itu sendiri. Semakin banyak informasi pribadi yang mereka dapat tentang individu, semakin sedikit mereka membagi orang berdasarkan etnis.

Meskipun eksperimen ini menarik, kita masih belum tahu seberapa besar pengaruh AI dalam rekrutmen di dunia nyata. AI yang ngecek CV di dunia nyata nggak langsung dapat laporan hasil, jadi bisa aja mereka salah menilai berdasarkan hasil yang mereka dapat di masa lalu. Ini jadi tantangan besar buat perusahaan yang mulai menggunakan AI untuk screening dan wawancara.

Jadi, saat AI mulai belajar dari pengalaman dan bikin keputusan tentang siapa yang diterima kerja, siapa yang dapat pinjaman, atau siapa yang dapat pembebasan bersyarat, kita harus waspada. Bias-bias baru yang muncul bisa jadi lebih berbahaya karena nggak ada manusia yang ngajarin mereka. Ini jadi perhatian serius yang harus kita hadapi.