Artificiell intelligens revolutionerar rekryteringsprocessen – från att sammanfatta cv:n till att granska hundratals ansökningar på sekunder. Samtidigt finns det risker. Hur undviker vi att AI-modellerna återskapar existerande fördomar eller förstärker diskriminering?

– Under de senaste åren har jag varit mycket fascinerad av artificiell intelligens. Jag gillar det tekniska och särskilt programmering. Samtidigt drivs jag av att det jag gör ska ha samhällsnytta.

Det säger Frida Hartman, doktorand vid Helsingfors universitet och en av Kulturfondens doktorandstipendiater 2024. Hartman beskriver artificiell intelligens som ett brett begrepp. Det handlar om datorbaserade system eller teknik som klarar av att utföra uppgifter som tidigare endast människor kunnat göra.

– Till exempel att läsa, analysera, göra rekommendationer, ta beslut och kommunicera.

AI kan göra rekryteringsprocesser mer jämlika, eftersom människor som läser ansökningar kan vara mycket partiska

I sin doktorsavhandling kartlägger Frida Hartman AI-modeller för rekrytering, särskilt hur systematiska fel i algoritmer kan leda till snedvridning och diskriminering.

– Jag undersöker hur AI används inom personalrekrytering, och vilka problem modellerna kan ha. Mitt fokus ligger på de nordiska länderna.

Frida Hartman har tidigare skrivit två magisteravhandlingar som kombinerar artificiell intelligens med rättvisa och hållbarhet. Den ena visar lösningar för att ersätta fossila bränslen med förnybara energikällor, och den andra handlar om hur AI-driven schemaläggning kan förbättra arbetsförhållanden inom vården.

– Jag har också studerat genusvetenskap. Jag funderade på hur jag kunde kombinera den tematiken med AI. Så föddes idén till min doktorsavhandling.

Mänskliga fördomar kan bli systematiska fel

Diskriminering inom rekryteringsprocesser kan ta sig olika uttryck. Det kan exempelvis handla om orättvis behandling baserad på kön, språk, etnicitet eller socioekonomisk status. De fördomar som finns i samhället riskerar att speglas eller till och med förstärkas i AI-modeller.

– AI kan göra rekryteringsprocesser mer jämlika, eftersom människor som läser ansökningar kan vara mycket partiska. Men samtidigt finns också risk för att AI-modellerna gör systematiska fel.

Rent konkret hoppas jag att rekryterare och företag kan använda mina resultat som ett ramverk för bästa praxis för AI inom rekrytering

Frida Hartman berättar om en AI-modell på Amazon som var programmerad för att granska jobbsökandes cv:n. Eftersom en majoritet av de anställda på företaget sedan tidigare var män, drog modellen slutsatsen att Amazon helst ville anställa män och sorterade systematiskt bort mycket fler kvinnor än män.

– I min avhandling vill jag gå djupare in på varför AI-modeller drar specifika slutsatser, om det finns några tydliga preferenser eller fokus, till exempel när de används för att sammanfatta cv:n. De flesta företag som använder AI vill förbättra sina modeller, men det krävs större medvetenhet om hur det ska göras.

Ibland skapar AI fler problem än det löser

Två år har gått sedan ChatGPT lanserades och generativ AI tog världen med storm. Frida Hartman påpekar att AI-tekniken är mycket äldre; begreppet användes redan på 1960-talet. Men dagens snabba utveckling har gjort AI populärare än någonsin, med allt fler som använder den för att jobba effektivare.

– Samtidigt lönar det sig att fundera på om artificiell intelligens kan lösa alla problem. Att justera AI-modeller för att motverka diskriminering inom rekrytering är ofta positivt, men ibland är det mest etiska att helt avstå från AI.

Som exempel nämner Frida Hartman AI-modeller som använts inom polisen i USA för att förutsäga var våldsdåd väntas inträffa. Att skicka fler polispatruller i preventivt syfte kan i värsta fall bli en självuppfyllande profetia.

– Ofta handlar det om fattiga, segregerade områden där majoriteten av befolkningen är svart. Sociologiska och historiska faktorer påverkar relationen till polisen, och fler polisstyrkor kan öka känslan av oro. Så frågan är om vi ska använda AI i sådana sammanhang, när det finns risk för att det skapar fler problem.

Mot bättre AI och minskad bias

Tack vare ett doktorandstipendium från Svenska kulturfonden forskar Frida Hartman nu på heltid. Målsättningen är att doktorsavhandlingen ska vara klar 2028.

– Rent konkret hoppas jag att rekryterare och företag kan använda mina resultat som ett ramverk för bästa praxis för AI inom rekrytering i Finland och Norden.

I ett större perspektiv vill Frida Hartman bidra till diskussionen om AI och diskriminering.

– Jag hoppas vi kan hitta systematiska sätt att minska bias, det vill säga att inte låta förutfattande meningar påverka val, bygga bättre AI-modeller och reflektera över var och varför vi ska använda AI.

Kulturfondens doktorandstipendier

• Svenska kulturfonden beviljar varje år doktorandstipendier inom pedagogik, humaniora, samhällsvetenskaper och ekonomi samt inom medicin och andra naturvetenskapliga områden.
• Doktorandstipendierna beviljas för högst ett år, men samma person kan beviljas upp till fyra stipendier om arbetet med avhandlingen framskrider väl.
• År 2024 var storleken på ett ettårigt doktorandstipendium 30 000 euro. År 2025 höjs summan till 32 000 euro.
• År 2024 fick 71 personer ett doktorandstipendium från Svenska kulturfonden. Hälften av mottagarna beviljades ett helårsstipendium och övriga lägre belopp.

Text: Sebastian Dahlström
Bild: Frida Lönnroos