AI diskriminuje pri nábore viac než človek: Čím múdrejšia, tým horšia

Nový výskum odhaľuje, že jazykové modely preukazujú vyššiu úroveň stereotypizácie pri výbere kandidátov než ľudskí personalisti. Firmy, ktoré integrujú AI do náborového procesu, musia byť obzvlášť obozretné, aby predišli diskriminácii a právnym rizikám.

Integrácia umelej inteligencie do náborového procesu sa stala štandardom v mnohých firmách, sľubujúc efektivitu a objektivitu. Avšak najnovší výskum Princetonskej univerzity prináša nepríjemné zistenia. Ukazuje sa, že pokročilé jazykové modely, ako sú tie od OpenAI či Anthropic, diskriminujú uchádzačov o prácu výrazne viac než samotní ľudia – konkrétne až o 65 %.

AI si vytvára vlastné, často skryté predsudky, ktoré môžu byť ťažko identifikovateľné bez dôkladného testovania. Pre slovenských podnikateľov to znamená alarm, že spoliehanie sa výhradne na AI pri predbežnom triedení životopisov alebo dokonca pri prvotných pohovoroch, môže mať vážne dôsledky.

Je nevyhnutné, aby spoločnosti, ktoré už AI v HR využívajú, alebo o takom kroku uvažujú, prehodnotili svoje stratégie. Zodpovedné používanie AI si vyžaduje neustály dohľad, testovanie na nežiaduce predsudky a zabezpečenie, že konečné rozhodnutia zostanú v rukách kvalifikovaných personalistov. Iba tak možno využiť potenciál AI bez toho, aby sme podkopali princípy rovnosti a diverzity na pracovisku.

„Prekvapujúce je, že čím „múdrejší“ a sofistikovanejší model, tým horšie sú výsledky v oblasti stereotypizácie. Tento problém nie je len akademický, ale má priamy dopad na prax firiem. Používanie AI, ktorá nevedome selektuje kandidátov na základe predsudkov, môže viesť k zníženiu diverzity, strate talentov a v neposlednom rade k právnym problémom.“

Dopad na biznis

Nesprávne nasadenie AI v náborovom procese môže viesť k diskriminácii, strate talentov a ohrozeniu reputácie firmy, ako aj potenciálnym právnym sporom.

Čo spraviť teraz

• Prehodnoťte a otestujte AI nástroje používané v náborovom procese na prítomnosť nežiaducich predsudkov.
• Zabezpečte ľudský dohľad a finálne rozhodnutia pri výbere kandidátov, aby ste minimalizovali riziko diskriminácie.
• Investujte do školenia zamestnancov o etickom používaní AI a identifikácii možných predsudkov v systémoch.
• Zvážte hybridné náborové metódy, ktoré kombinujú efektivitu AI s ľudským posúdením.

Záver

Nesprávne nasadenie AI v náborovom procese môže viesť k diskriminácii, strate talentov a ohrozeniu reputácie firmy, ako aj potenciálnym právnym sporom. Pre slovenské firmy odporúčame začať malým pilotom s jasnou metrikou a vyhodnotením po 4–6 týždňoch.

Často kladené otázky

Pre koho je táto novinka relevantná?

Najmä pre firmy, ktoré pracujú v oblasti biznis a stratégia a hľadajú spôsoby, ako zefektívniť procesy s pomocou AI.

Aký je odporúčaný ďalší krok?

Začnite malým pilotom s jasne definovanou metrikou a vyhodnoťte ROI po 4–6 týždňoch.