Topline
Instrumentele de recrutare a locurilor de muncă care pretind că folosesc inteligența artificială pentru a evita prejudecățile de gen și rasiale ar putea să nu îmbunătățească diversitatea în angajare și, de fapt, ar putea perpetua acele prejudecăți, au susținut duminică cercetătorii de la Universitatea din Cambridge, prezentând programele – care au atras critici în trecut – ca o modalitate de a folosi tehnologia pentru a oferi o soluție rapidă pentru o problemă mai profundă.
Este afișat sistemul de recunoaștere facială alimentat de AI al Google Vision.
Getty Images
Fapte-cheie
Într-o lucrare publicată de Filosofie și tehnologie, cercetătorii au analizat afirmațiile mai multor companii care oferă instrumente de recrutare bazate pe inteligență artificială, dintre care multe pretind că elimină părtinirile și promovează diversitatea prin ascunderea numelor, genurilor și altor identificatori ai candidaților, iar unele dintre ele. rank candidații pe baza scanărilor CV-urilor, evaluărilor online și analizei vorbirii și expresiilor faciale ale solicitanților.
Cercetătorii – doi profesori de la Centrul pentru Studii de Gen al Universității din Cambridge – au susținut că aceste instrumente ar putea promova de fapt uniformitatea în angajare, deoarece reproduc părtiniri culturale ale „candidatului ideal”, care istoric a fost bărbați albi sau europeni.
De asemenea, instrumentele s-ar putea să nu îmbunătățească diversitatea, deoarece se bazează pe date anterioare ale companiei și, prin urmare, pot promova candidații care se aseamănă cel mai mult cu angajații actuali.
Există „puțină responsabilitate pentru modul în care aceste produse sunt construite sau testate”, a declarat Eleanor Drage, coautor al studiului și cercetător la Centrul pentru Studii de Gen de la Universitatea din Cambridge, adăugând că tehnologia ar putea servi drept „periculoasă”. sursă de „dezinformare despre modul în care recrutarea poate fi „depărținată” și făcută mai echitabilă.”
Citat crucial
„Prin susținând că rasismul, sexismul și alte forme de discriminare pot fi eliminate din procesul de angajare folosind inteligența artificială, aceste companii reduc rasa și genul la puncte de date nesemnificative, mai degrabă decât sisteme de putere care modelează modul în care ne mișcăm prin lume. ” a spus Drage într-o declarație.
Tangentă
Amazon a anunțat în 2018 că o va face opri folosind un instrument de recrutare AI pentru a revizui CV-urile candidaților după ce a constatat că sistemul discrimina puternic femeile. Acest lucru se datorează faptului că modelele de computer pe care s-a bazat au fost dezvoltate pe baza CV-urilor transmise companiei în ultimii 10 ani, care proveneau în mare parte de la candidați bărbați.
Fundalul cheie
Organizațiile au apelat din ce în ce mai mult la AI pentru a ajuta la gestionarea proceselor de recrutare a locurilor de muncă. Într-una Sondaj 2020 Din cei peste 300 de lideri de resurse umane citați de autorii lucrării de duminică, firma de consultanță Gartner a constatat că 86% dintre angajatori folosesc tehnologia virtuală în practicile lor de angajare, o tendință care s-a accelerat de când pandemia de Covid-19 i-a forțat pe mulți să își schimbe munca online. În timp ce unele companii au susținut că AI poate oferi un proces de angajare mai eficient din punct de vedere al costurilor și al timpului, unele experți avea găsit sistemele au tendința de a promova – mai degrabă decât de a elimina – angajarea rasială și de gen, prin replicarea prejudecăților existente din lumea reală. Mai mulți parlamentari americani au făcut-o vizează pentru a aborda părtinirile sistemelor de inteligență artificială, deoarece tehnologia continuă să evolueze rapid și există puține legi care să o reglementeze. Casa Albă a lansat săptămâna aceasta un „Plan pentru o Declarație a drepturilor AI”, care susține că algoritmii utilizați în angajare s-au dovedit a „reflecta și reproduce inechitățile existente nedorite” sau încorporează noi „prejudecăți și discriminare”. Planul – care nu este obligatoriu din punct de vedere legal sau o politică oficială a guvernului – solicită companiilor să se asigure că AI nu discriminează sau încalcă confidențialitatea datelor și să informeze utilizatorii când este utilizată tehnologia.
Ce să urmăriți
Într-o listă de recomandări, autorii lui Sunday's Filosofie și tehnologie Lucrarea a sugerat că companiile care dezvoltă tehnologii AI se concentrează pe inegalități mai largi, sistematice, în loc de „instanțe individualizate de părtinire”. De exemplu, ei sugerează dezvoltatorilor de software să examineze categoriile utilizate pentru sortarea, procesarea și clasificarea candidaților și modul în care aceste categorii pot promova discriminarea bazându-se pe anumite presupuneri despre gen și rasă. Cercetătorii susțin, de asemenea, că profesioniștii în HR ar trebui să încerce să înțeleagă cum funcționează instrumentele de recrutare AI și care sunt unele dintre potențialele lor limitări.
Fapt surprinzător
Uniunea Europeană a clasificat software-ul de angajare bazat pe inteligență artificială și instrumentele de evaluare a performanței drept „risc ridicat” în noul său proiect cadrul legal privind IA, ceea ce înseamnă că instrumentele ar fi supuse unui control mai atent și ar trebui să îndeplinească anumite cerințe de conformitate.
Lecturi suplimentare
Sursa: https://www.forbes.com/sites/madelinehalpert/2022/10/09/ai-powered-job-recruitment-tools-may-not-improve-hiring-diversity-experts-argue/