A Stanford tanulmánya egyértelmű faji elfogultságot talált az AI-alapú toborzási eszközökben
A Stanford Egyetem legfrissebb kutatása komoly aggályokat vet fel a mesterséges intelligencia alapú toborzási rendszerek megbízhatóságával kapcsolatban. A szakértők 156 munkaadó mintegy 4 millió álláspályázatát vizsgálták meg, és az adatok elemzése után egyértelmű faji egyenlőtlenségeket mutattak ki. Az eredmények szerint az automatizált kiválasztási eszközök aránytalanul gyakran szűrik ki a fekete bőrű és ázsiai jelentkezőket. A tanulmány különösen arra a veszélyre hívja fel a figyelmet, hogy a vállalatok által megosztott technológiai infrastruktúra miként képes rendszerszinten felerősíteni és konzerválni a diszkriminációt a munkaerőpiacon.
A részleteket vizsgálva a kutatók a Pymetrics pozíciónkénti adatait elemezték, és számszerűsíthető bizonyítékokat találtak az elfogultságra. A vizsgált pozíciók 10,62 százaléka mutatott közvetlen hátrányos megkülönböztetést a fekete bőrű pályázókkal szemben, míg az ázsiai jelentkezők esetében ez az arány 5,32 százalék volt. A helyzetet tovább súlyosbítja az a strukturális tényező, hogy a munkaadók 42 különböző modellt osztanak meg egymással. Emiatt ha egy jelentkezőt elutasítanak az egyik cégnél, rendkívül nagy eséllyel számíthat ugyanerre a sorsra egy másik, de ugyanazt a modellt használó vállalatnál is. A statisztikák szerint azon pályázók 4 százalékát, akik 10 különböző pozícióra jelentkeztek, kivétel nélkül mindegyik helyről elutasították. Ez lényegesen magasabb arány annál, mintha a munkaadók egymástól teljesen független, egyéni döntéseket hoztak volna.
A szakértők ugyanakkor megjegyzik, hogy ezek az eredmények nem feltétlenül általánosíthatók minden ma elérhető AI toborzási eszközre. A kutatás ugyanis a 2018 és 2022 közötti időszak adataira támaszkodik, miközben a mai modern toborzási szoftvereket már a más elven működő LLM modellek hajtják meg. Ennek ellenére a tanulmány tanulságai kritikus fontosságúak a jelenre és a jövőre nézve is. Kiválóan szemlélteti, hogy az algoritmikus elfogultság hogyan képes észrevétlenül beszivárogni a közös digitális infrastruktúrába. Ha egy piacvezető szolgáltató rendszere rejtett diszkriminációtól szenved, az a fertőzéshez hasonlóan terjed el a technológiát használó vállalatok között, anélkül, hogy a HR-szakemberek vagy a cégvezetők egyáltalán tudnának a problémáról. Ez a jelenség pedig nemcsak a HR területén, hanem a gazdaság bármely más, AI által vezérelt szegmensében is komoly kockázatot jelent.
- A kutatók a Pymetrics pozíciónkénti adatait elemezték, és azt találták, hogy a pozíciók 10,62%-a mutat hátrányos megkülönböztetést a fekete bőrű pályázókkal, 5,32%-a pedig az ázsiaiakkal szemben.
- A probléma tovább súlyosbodik, mivel a munkaadók 42 modellt osztanak meg egymással, így az egyiknél történt elutasítás egy másik, ugyanazt a modellt használó cégnél is elutasítást válthat ki.
- Azon pályázók 4%-át, akik 10 pozícióra jelentkeztek, mindegyikről elutasították, ami magasabb arány, mintha a munkaadók független döntéseket hoztak volna.
- A kutatók megjegyezték, hogy az eredmények nem feltétlenül általánosíthatók minden AI toborzási eszközre, amelyeket egyre inkább a másképp működő, modern AI-modellek hajtanak meg.
Bár a tanulmány a 2018 és 2022 közötti adatokat vizsgálja, a mai AI toborzási hullámot pedig a másképp működő LLM-ek hajtják, jól mutatja, hogyan szivároghat be az elfogultság a megosztott infrastruktúrán keresztül, ismeretlen módokon. Ha egy nagy szolgáltató AI-elfogultságtól szenved (nemcsak a toborzásban, hanem más területeken is), több vállalat is érintetté válik anélkül, hogy tudna róla.