Een AI-tool testen op bias voordat je hem inzet
Je test een AI-tool voor werving op bias door hem vóór de inzet te laten draaien op een testset waarvan je de uitkomst kunt controleren, de selectieratio per groep te vergelijken en de leverancier te laten uitleggen hoe het model is getraind en getest. Dat kost een paar dagen werk. Vanaf 2 december 2027 is een deel daarvan ook een wettelijke plicht onder de AI Act. In het overzicht van recruitmenttools lees je welke soorten AI-tools er zijn; hier gaat het om de vraag of je ze kunt vertrouwen.
Amazon als waarschuwing
In oktober 2018 meldde Reuters dat Amazon was gestopt met een experimentele AI-tool die cv’s beoordeelde (Dastin, Reuters, 2018). Het model was getraind op cv’s die over een periode van tien jaar bij Amazon waren binnengekomen, en die kwamen vooral van mannen. Het systeem leerde daaruit dat mannelijke kandidaten de voorkeur hadden. Volgens Reuters gaf het lagere scores aan cv’s waarin het woord “women’s” stond, zoals in de naam van een sportclub, en waardeerde het afgestudeerden van twee vrouwenhogescholen lager. Amazon paste het model aan, maar kon niet garanderen dat het geen andere manieren zou vinden om te discrimineren, en stopte het project.
Amazon had een groot team engineers en toegang tot meer data dan bijna elke andere werkgever. Toch zag het de vertekening pas toen het systeem al draaide. De les voor jou: een leverancier die zegt dat zijn tool “objectief” is, heeft dat niet bewezen. Het model leert van historische beslissingen, en als die scheef waren, worden de nieuwe het ook. Dat heet algoritmische bias.
Welke tools je test
Niet elke AI-functie is even risicovol. Een tool die een vacaturetekst herschrijft, beslist niet over mensen. Een tool die cv’s rangschikt, kandidaten een matchscore geeft, sollicitaties automatisch afwijst of gesprekken analyseert, doet dat wel. Die laatste groep valt onder de AI Act in bijlage III punt 4 als hoog risico, en die test je.
Maak eerst een lijst van alle AI-functies in je wervingsproces, ook die in je ATS zijn ingebouwd. Veel recruiters weten niet dat hun systeem kandidaten al sorteert op een matchscore.
Stap 1: bouw een testset
Je wilt weten of de tool kandidaten anders behandelt op kenmerken die niets met de functie te maken hebben, zoals geslacht, leeftijd of migratieachtergrond. Er zijn twee manieren om dat te testen.
Gepaarde fictieve cv’s. Maak per vacature tien tot twintig paren van cv’s die inhoudelijk gelijk zijn en alleen verschillen in één signaal: een mannen- of vrouwennaam, een geboortejaar, een naam die op een migratieachtergrond wijst, een gat in het cv voor zorgverlof. Laat de tool ze beoordelen en vergelijk de scores per paar. Dit is dezelfde opzet als de bekende veldexperimenten naar discriminatie op de arbeidsmarkt, zoals het onderzoek van Bertrand en Mullainathan in de VS en Thijssen e.a. in Nederland. Het voordeel: je verwerkt geen gegevens van echte mensen.
Historische data. Laat de tool een eerdere vacature opnieuw beoordelen, waarvan je weet wie werd aangenomen en hoe die presteerde. Komen de mensen die het goed deden ook bovenaan? En hoe verdeelt de tool de groepen die je wel rechtmatig kunt onderscheiden? Wees hier voorzichtig: gegevens over etniciteit of gezondheid zijn bijzondere persoonsgegevens onder artikel 9 van de AVG en mag je alleen in strikte uitzonderingen verwerken. Leg dit voor aan je privacyfunctionaris voordat je begint.
Stap 2: meet adverse impact per groep
Met de uitkomsten bereken je per groep de selectieratio: het aandeel kandidaten dat de tool doorlaat of bovenaan zet. Deel de ratio van elke groep door die van de groep met de hoogste ratio. Dat is de adverse impact ratio.
Ligt de ratio voor een groep onder 0,8, dan is dat volgens de Amerikaanse vier-vijfde-regel een signaal van mogelijke adverse impact (29 CFR 1607.4). Een voorbeeld met verzonnen cijfers: de tool zet 40 procent van de mannelijke testkandidaten in de top en 28 procent van de vrouwelijke. De ratio is 28 / 40 = 0,7. Dat is reden om door te vragen.
De regel is geen Nederlandse wettelijke norm en geen bewijs van discriminatie. Het is een praktische drempel die je dwingt te kijken. Bij kleine aantallen kan toeval een grote rol spelen; test daarom met genoeg paren en herhaal de test. Hoe je dit stap voor stap doet, lees je in adverse impact meten.
Stap 3: vraag de leverancier om uitleg
Een serieuze leverancier heeft deze vragen al eerder gehad. Vraag schriftelijk:
- Op welke data is het model getraind, en uit welke landen en sectoren komen die?
- Welke kenmerken gebruikt het model, en welke zijn bewust uitgesloten? Hoe voorkom je dat het model via omwegen, zoals postcode of hobby’s, toch op afkomst of geslacht selecteert?
- Welke bias-tests heb je gedaan, op welke groepen, en mag ik de resultaten zien?
- Hoe vaak wordt het model opnieuw getraind, en test je dan opnieuw?
- Kan de recruiter zien waarom een kandidaat een bepaalde score krijgt?
- Hoe bereid je je voor op de eisen voor hoog-risicosystemen onder de AI Act, en welke gebruiksinstructies krijg ik?
Een leverancier die niet kan of wil antwoorden, geeft je daarmee ook een antwoord. De journalist Hilke Schellmann testte voor The Algorithm zelf een reeks AI-wervingstools en liet zien hoe vaak de beloftes niet klopten. Het is een goede voorbereiding op je leveranciersgesprek.
Wat de AI Act vraagt vanaf 2 december 2027
AI-systemen die vacatures gericht verspreiden, sollicitaties filteren of kandidaten beoordelen, zijn onder de AI Act hoog risico. Door de Digital Omnibus on AI, in werking sinds 27 juli 2026, gelden de eisen voor deze systemen vanaf 2 december 2027 in plaats van augustus 2026 (Europese Commissie). Het verbod op emotieherkenning op de werkplek geldt al sinds februari 2025.
Als werkgever ben je gebruiksverantwoordelijke (deployer). Artikel 26 vraagt dan onder meer dat je het systeem gebruikt volgens de instructies van de leverancier, menselijk toezicht toewijst aan mensen met de nodige kennis en bevoegdheid, ervoor zorgt dat de invoerdata relevant en representatief zijn voor zover je die zelf aanlevert, de werking monitort en risico’s meldt, de automatisch gegenereerde logs minstens zes maanden bewaart, en werknemersvertegenwoordigers en betrokken werknemers informeert voordat je het systeem op de werkplek inzet. Mensen over wie het systeem beslist, moeten weten dat het wordt gebruikt.
In Nederland heeft de ondernemingsraad daarnaast instemmingsrecht bij regelingen over sollicitatiebeleid en de verwerking van persoonsgegevens (WOR); zie de ondernemingsraad en je nieuwe recruitmenttool. En onder de AVG heb je bij grootschalige profilering een DPIA nodig. Meer over de AI Act lees je in ons wetprofiel en in de pillar AI in recruitment.
De AI Act schrijft gebruiksverantwoordelijken geen eigen bias-test voor. Toch is zo’n test de manier om de verplichte monitoring serieus in te vullen. En als een kandidaat of de toezichthouder vraagt hoe je weet dat je tool eerlijk is, wil je meer kunnen laten zien dan de brochure van de leverancier.
Andere tools en hun risico’s per categorie vind je in het overzicht van recruitmenttools.
Checklist voordat je een AI-tool inzet
- Inventariseer alle AI-functies in je wervingsproces, ook in je ATS.
- Bepaal welke functies over kandidaten beslissen of ze rangschikken.
- Bouw een testset met gepaarde fictieve cv’s per vacaturetype.
- Bereken de adverse impact ratio per groep en onderzoek alles onder 0,8.
- Stel de leverancier de zes vragen schriftelijk en bewaar de antwoorden.
- Leg vast wie het menselijk toezicht doet en wanneer een recruiter een score mag negeren.
- Betrek de OR en je privacyfunctionaris voordat je live gaat, en doe zo nodig een DPIA.
- Herhaal de test bij elke modelupdate en minstens eens per jaar.
Een AI-tool kan je duizenden cv’s per uur laten sorteren. Wie er uiteindelijk op gesprek komt, blijft een beslissing van een recruiter die weet hoe de tool werkt en durft in te grijpen. Recruitment is en blijft mensenwerk.