A Stanford tanulmánya egyértelmű faji elfogultságot tárt fel az AI-alapú toborzási eszközökben
A Stanford 4 millió álláspályázatot vizsgált meg 156 munkáltatónál, és megállapította, hogy az AI-alapú toborzási eszközök „egyértelmű faji egyenlőtlenségeket” teremtenek, mivel a fekete bőrű és ázsiai jelentkezőket aránytalanul nagy arányban szűrik ki, és egyesek minden vállalatnál elutasítással szembesülnek.
- A kutatók elemezték a Pymetrics pozíciónkénti adatait, és azt találták, hogy a pozíciók 10,62%-a mutat hátrányos hatást a fekete bőrű jelentkezőkkel, 5,32%-a pedig az ázsiaiakkal szemben.
- A probléma tovább gyűrűzik, mivel 42 modellen osztoznak a munkáltatók, így az egyiknél történő elutasítás automatikusan elutasítást válthat ki egy másiknál is, amely ugyanazt a modellt használja.
- Azon jelentkezők 4%-át, akik 10 pozícióra pályáztak, mindenhonnan elutasították, ami magasabb arány, mintha a munkáltatók független döntéseket hoztak volna.
- A kutatók megjegyezték, hogy az eredmények nem biztos, hogy minden AI-toborzó eszközre általánosíthatók, mivel ezeket egyre inkább modern, eltérően működő AI-modellek hajtják.
Miért fontos?
Bár a tanulmány a 2018 és 2022 közötti adatokat vizsgálja, és a mai AI-toborzási hullámot már másként működő LLM-ek hajtják, rávilágít arra, hogyan szivároghat be az elfogultság a megosztott infrastruktúrán keresztül, ismeretlen módokon. Ha egy nagy beszállító AI-elfogultságtól szenved (nemcsak a toborzásban, hanem más területeken is), számos vállalat érintetté válik anélkül, hogy tudna róla.