Forskelsbehandling i rekruttering: ansøgersystemer og algoritmer

Når en ansøger mener at være valgt fra af en ulovlig grund, har ansøgeren som regel kun sin egen ansøgning og et kort afslag. Arbejdsgiveren sidder på resten: stillingsopslaget, de andre ansøgninger, vurderingerne og de interne beskeder. I dag foregår det meste af den proces i et ansøgersystem, ofte med automatisk sortering eller scoring. Det efterlader data, som kan belyse, hvordan beslutningen blev truffet. Denne artikel gennemgår, hvilke data der typisk findes, hvordan de kan skaffes, og hvad de kan og ikke kan vise.

Hvorfor data er centrale i disse sager

Sager om forskelsbehandling handler om begrundelsen for en beslutning. Den står sjældent skrevet direkte. Det, der kan dokumenteres, er processen: Hvem så ansøgningen, hvornår, hvilke kriterier blev brugt, og hvordan blev ansøgeren vurderet i forhold til andre?

Reglerne om forskelsbehandling kan have betydning for, hvordan bevisbyrden fordeles, når ansøgeren påviser faktiske omstændigheder, der giver anledning til at formode forskelsbehandling. Fra IT-siden er pointen, at begge parter har interesse i, at processen kan rekonstrueres. → Bevisbyrden og de digitale beviser

Data i et ansøgersystem

Et ansøgersystem er typisk en webtjeneste, som arbejdsgiveren abonnerer på. Det kan indeholde:

Stillingsopslaget i den version, der var offentliggjort, og eventuelle senere ændringer.
Screeningsspørgsmål og ansøgerens svar, fx om alder, erfaring, kørekort eller tilgængelighed.
Automatiske filtre, der sorterer ansøgere fra på baggrund af svar eller nøgleord.
Scorer eller rangeringer beregnet af systemet.
Statushistorik: hvornår ansøgningen blev modtaget, åbnet, flyttet mellem trin og afvist.
Noter og vurderinger fra de personer, der behandlede ansøgningen.
Interne beskeder i systemet og i mail eller chat uden for systemet.
Afslagsbeskeden og om den blev sendt automatisk.

Hvilke af disse oplysninger der gemmes, og hvor længe, afhænger af systemet og af arbejdsgiverens opsætning. Mange systemer sletter ansøgninger efter en fast periode af hensyn til databeskyttelse.

Automatisk sortering og algoritmer

Når et system selv sorterer eller scorer ansøgere, bliver spørgsmålet, hvordan det skete. Der er stor forskel på et simpelt filter, fx “har ikke svaret ja til kørekort”, og en model, der beregner en samlet score ud fra cv’et.

Efter databeskyttelsesforordningen artikel 22, stk. 1, har den registrerede ret til ikke at være genstand for en afgørelse, der alene er baseret på automatisk behandling, og som har retsvirkning eller på tilsvarende vis betydeligt påvirker den pågældende. Retten har undtagelser i stk. 2. Efter artikel 15, stk. 1, litra h, omfatter den registreredes indsigtsret oplysning om forekomsten af sådanne automatiske afgørelser og meningsfulde oplysninger om logikken heri.

EU’s AI-forordning, forordning (EU) 2024/1689, nævner i bilag III, punkt 4, litra a, AI-systemer til rekruttering eller udvælgelse, herunder til at analysere og filtrere jobansøgninger og evaluere kandidater. Sådanne systemer er højrisikosystemer. Efter artikel 12 skal højrisikosystemer teknisk muliggøre automatisk logning, og efter artikel 26, stk. 6, skal den, der bruger systemet, opbevare de automatisk genererede logfiler i mindst seks måneder, i det omfang de er under brugerens kontrol.

For bevisførelsen betyder det, at der kan findes logs over systemets behandling af den enkelte ansøgning.

Tre veje til data

1. Indsigtsanmodning. Ansøgeren kan anmode om indsigt i egne oplysninger. Det er ofte den hurtigste vej til statushistorik, scorer og noter om ansøgeren selv. Svaret viser også, hvad arbejdsgiveren mener at have. → Indsigtsanmodning i en tvist

2. Opfordring og edition. Under en sag kan der opfordres til eller begæres edition af konkrete data, fx statushistorik for alle ansøgere til stillingen, filterregler og systemets logs. Begæringen bør være præcis og knyttet til bestemte felter og en bestemt periode. → Editionsbegæring om digitale beviser

3. Data hos systemleverandøren. Leverandøren er typisk databehandler for arbejdsgiveren. Logs og konfiguration kan ligge hos leverandøren og ikke være direkte tilgængelige for arbejdsgiveren. Det skal afklares tidligt, hvem der faktisk kan trække dataene ud.

Sammenligningsgrundlaget

En enkelt ansøgers data siger sjældent meget alene. Styrken ligger i sammenligningen med andre ansøgere til samme stilling: Hvem gik videre, med hvilke svar og scorer, og hvem blev ansat?

Det rejser to spørgsmål. Det første er databeskyttelse, fordi de andre ansøgeres oplysninger er personoplysninger. Data kan ofte udleveres i pseudonymiseret form, hvor navne er erstattet af numre. Det andet er udvalget. Et udtræk, som arbejdsgiveren selv har lavet, bør kunne forklares: hvilke ansøgere er med, hvilke felter, og er der filtreret? → GDPR og bevisførelse

Hvad data kan og ikke kan vise

Data kan vise:

hvornår ansøgningen blev behandlet, og af hvem
om den blev frasorteret automatisk eller manuelt
hvilke filtre og spørgsmål der var aktive
hvordan ansøgeren blev vurderet i forhold til andre

Data kan ikke vise:

hvad den enkelte beslutningstager tænkte
om et neutralt kriterium i praksis rammer en bestemt gruppe, uden en statistisk analyse af et tilstrækkeligt grundlag
hvordan en model vægtede oplysninger, hvis modellen ikke er dokumenteret

Forsigtighed er nødvendig ved små tal. Få ansøgere til én stilling giver sjældent grundlag for statistiske konklusioner.

Når klienten er arbejdsgiveren

For arbejdsgiveren handler det om at kunne vise en saglig proces. Det kræver, at data ikke slettes, når en tvist er varslet, selv om den normale slettefrist er nået. Automatisk sletning i ansøgersystemet bør standses for den relevante stilling. → Bevarelsespligt og litigation hold

Arbejdsgiveren bør også kunne forklare systemets opsætning på det tidspunkt, ansøgningen blev behandlet. Konfigurationen kan være ændret siden. Det samme gælder noter og beskeder uden for systemet, fx mails mellem leder og HR om kandidaterne. De bør sikres sammen med systemdata, så helheden kan vises.

Spørgsmål til arbejdsgiveren eller systemleverandøren

Når data skal efterspørges, kan konkrete spørgsmål gøre det lettere at få brugbare svar:

Hvilket ansøgersystem blev brugt, og i hvilken version eller opsætning?
Var automatiske filtre, scorer eller rangeringer slået til for stillingen, og hvilke kriterier byggede de på?
Hvem havde adgang til ansøgningerne, og hvilke roller havde de i systemet?
Blev ansøgningerne læst i systemet, eller blev de eksporteret og behandlet andre steder, fx i mails eller regneark?
Hvornår slettes ansøgninger og logs efter systemets opsætning, og er sletningen standset?
Har leverandøren dokumentation for, hvordan en eventuel scoringsmodel virker?

Svarene viser, hvilke data der findes, og hvor de ligger. En IT-sagkyndig kan derefter læse statushistorik og logs og rekonstruere forløbet for den enkelte ansøgning. Den sagkyndige kan beskrive, hvad systemet gjorde, men kan ikke afgøre, om et kriterium var sagligt. Det er en juridisk vurdering.