Kunstmatige intelligentie is overal. Van de algoritmes die ervoor zorgen dat Google je vooral berichten toont die aansluiten bij jouw interesses, tot zelfrijdende auto’s die leren anticiperen op overstekende kinderen en files. Ook werkgevers en recruiters maken steeds vaker gebruik van technologie die data verzamelt en analyseert. En hoewel dat in de meeste gevallen met de beste bedoelingen gebeurt, bijvoorbeeld om ervoor te zorgen dat de juiste kandidaten doorstromen in het recruitmentproces of om de werkdruk te monitoren en zo de gezondheid van werknemers te bevorderen, mag niet alles wat kan. Neem bijvoorbeeld een recruitmentsysteem dat is opgezet om discriminatievrij te selecteren. Dit kan letterlijk een blinde vlek hebben voor een grote groep kandidaten, of data vastleggen waar een werkgever niets mee te maken heeft.

Sollicitatiecode

In maart 2020 lanceerde de NVP haar nieuwe sollicitatiecode. Kunstmatige intelligentie wordt daarin nadrukkelijk genoemd: “Bij inzet van data recruitment zoals Artificiële Intelligentie of algoritmes dienen deze middelen transparant en gevalideerd te zijn en de mogelijke risico’s en tekortkomingen daarvan dienen duidelijk te zijn; tevens dient de zorgvuldigheid en vertrouwelijkheid te worden gewaarborgd.”

Ook de oprukkende videotechnologie heeft een plek gekregen in de sollicitatiecode: “Bij inzet van sollicitatiebijeenkomsten, maar ook video sollicitaties mag de sollicitant om afwijking van de procedure vragen.”

Schaduwkanten

Werkgevers en recruiters dienen dus open en eerlijk te zijn over het gebruik van technologie in hun processen. En, minstens zo belangrijk, ze moeten weten wat de schaduwkanten van de gekozen systemen zijn.

Het valt niet mee om te bepalen welke systemen goed werken en welke juist minder betrouwbaar zijn, waarschuwt Raisa Ghazi. Zij heeft een recruitmentbureau voor IT-functies en heeft daarnaast een e-learning platform opgezet waar recruiters training kunnen volgen over inclusief recruitment. “Een voorbeeld waar weinig negatiefs over te zeggen valt is Textio. Daar kun je je vacatureteksten invoeren en dan zie je of er sprake is van genderneutraal taalgebruik of niet. Textio analyseert de vacaturetekst op basis van historisch sollicitatiegedrag om te schatten wat de demografie zal zijn van de kandidaten die reageren. Je krijgt heel specifieke aanwijzingen: deze tekst is heel mannelijk, of deze tekst is te kort. Het zijn dingen die je zelf heel moeilijk kunt benoemen als je een tekst leest en misschien instinctief aanvoelt: ‘Er zit iets raars aan.’”

Toch moet je zelfs naar een systeem als dat van Textio altijd kritisch blijven kijken, zegt Ghazi. “Het is heel erg gericht op het verschil tussen mannen en vrouwen. Maar is het dan ook inclusief voor mensen die niet heteroseksueel zijn en misschien anders op teksten reageren?”

Videosollicitaties

Raisa Ghazi

Ghazi plaatst vooral grote kanttekeningen bij software die wordt gebruikt voor het screenen van videosollicitaties. “Je sluit de menselijke bias uit, omdat je in een heel vroeg stadium de computer en niet de recruiter laat kiezen of iemand doorgaat naar een volgende ronde. Het is aangetoond dat de kans dat je diversiteit aantrekt daardoor groter is.”

Toch moet je oppassen met deze techniek, zegt Ghazi. “Het systeem kijkt naar de verbale uitingen, de toon van de stem, maar ook de gezichtsuitdrukkingen. Er zijn voorbeelden waarbij dat flink is mis gegaan. Want donkere vrouwen werden niet goed gezien door de software. Ik heb het zelf ook ervaren op een beurs. Ik werd ingeschat als een 24-jarige. I love it, maar er klopte helemaal niets van. Als het gaat om stemherkenning, dan kan de uitslag worden beïnvloed door het feit dat je een accent hebt. Omdat je anderstalig bent, of omdat je uit een andere regio komt. Dat is super tricky.”

Wetenschap

Ghazi raakt hiermee aan de bezwaren die ook het Rathenau Instituut ziet tegen het oprukkende gebruik van software in recruitment- en HR-processen. Dit kennisinstituut onderzocht eerder dit jaar op verzoek van de commissie Sociale Zaken en Werkgelegenheid (SZW), wat de invloed van digitale monitoringstechnologie is op de kwaliteit van werk. De vraag is, deugt de wetenschap achter de systemen wel?

De onderzoekers van het Rathenau Instituut zijn niet blind voor de voordelen van videotechnologie in het recruitmentproces. “Het is op zich interessant dat de traditionele sollicitatieprocedure waarin discriminatie een probleem is, kan veranderen. Voorheen vond eerst een streng selectieproces plaats voordat een paar mensen op gesprek konden komen. Met deze instrumenten kunnen veel meer of zelfs alle mensen een interview doorlopen, en kunnen meer eigenschappen en kwaliteiten worden beoordeeld om tot een eerste schifting te komen”, schrijven zij in het rapport Werken op waarde geschat.

Validiteit

Maar tegelijkertijd plaatsen de onderzoekers vraagtekens bij de validiteit van de gebruikte technologie. “Deze technieken kennen beperkingen. Wetenschappers zijn kritisch over de validiteit van diverse instrumenten: meet je wat je beoogt te meten? Kun je valide verbanden leggen tussen zaken als gezichtsuitdrukking en persoonlijkheid, om op basis daarvan uitspraken te doen over toekomstig succes? Recente metastudies laten zien dat technieken wel gezichtsuitdrukking kunnen meten, maar dat die niet te koppelen zijn aan een emotie of persoonlijkheid.”

Ghazi benadrukt dat de mens niet in een hokje te stoppen valt. “Deze systemen kijken naar standaardreacties en corrigeren dat voor mannen en vrouwen. Maar transgenders passen bijvoorbeeld niet in dat hokje. En als je autistisch bent of depressief, dan reageer je anders op prikkels. En dat moet kunnen. Het is bewezen dat mensen met autisme of een depressie heel succesvol kunnen zijn op het werk.”

Discriminatie voorkomen

Wie het idee heeft te zijn gediscrimineerd door een werkgever, kan zich wenden tot het College voor de Rechten van de Mens. Het College wil de komende jaren extra aandacht geven aan de vraag hoe je als werkgever digitale middelen inzet zonder te discrimineren. “In het algemeen zijn de risico’s het grootst als bedrijven en overheden beslissingen nemen op basis van automatische en zelflerende besluitvorming, waar geen menselijk oog meer aan te pas komt. Dat kan zelfs riskant zijn als een persoon de beslissing neemt, maar hij of zij volledig vertrouwt op de uitkomsten van het algoritme”, aldus het College.

Dat is ook de mening van Gerrien Anbeek, commissaris en specialist in het begeleiden van de digitale transformatie van HR. Gevraagd naar de kansen en risico’s van kunstmatige intelligentie in werk- en recruitmentprocessen zegt Anbeek: “De resultaten van AI bij recruitment zijn zo succesvol als de kwaliteit van data die wordt gebruikt. Onvolledige Linkedinprofielen of cv-databases kunnen AI-systemen vervuilen en onbetrouwbare informatie opleveren. Het AI-systeem kan volgens ethische standaarden zijn ingericht, maar recruiters en HR-medewerkers die ermee werken moeten deze ook ethisch toepassen.”

Candidate experience

Gerrien Anbeek

Om te weten hoe je dat doet, moet je volgens Anbeek kijken naar de verschillende fases van de candidate experience. “Dan heb je het over de manier waarop de arbeidsmarkt wordt benaderd, de selectie via cv’s, dan een nadere selectie. Vervolgens heb je het gesprek en dan wordt de uiteindelijke beslissing genomen. Al die fases hebben momenten waarop AI wordt gebruikt. De ene keer is dat veel geavanceerder dan de andere keer. De ene keer is dat een snelle analyse van data, de andere keer gaat het over spraak- of gezichtsherkenning. Op al die momenten moet je je bewust zijn van de menselijke bias die kan optreden.”

Anbeek vergelijkt het met de systemen in de bankwereld, waar zij regelmatig digitaliseringsprojecten begeleidt. Na de grote kredietcrisis werden compliance en ethisch handelen meer dan ooit vergrendeld in de systemen. “Maar wanneer ging het nou wel heel goed en wanneer niet? Dat was niet wanneer alles heel goed was afgedekt in de systemen, maar wanneer mensen logisch, met gezond verstand én met hun gevoel met die processen omgingen.”

Datamining

Hoe scherp je moet zijn op de risico’s, ondervond Anbeek toen ze bij een klant een recruitmentsysteem uitrolde. “Het programma vroeg kandidaten ook hun profielen op LinkedIn en Facebook in te vullen. We kwamen er tijdens het proces achter dat er in dat systeem de mogelijkheid was tot datamining. Dat is het verzamelen van informatie die mensen ogenschijnlijk vrijwillig hebben ingeleverd. Ze hebben het zelf op social media gezet en ze hebben je toestemming gegeven om die informatie te gebruiken. Maar waar ze geen toestemming voor hebben gegeven is dat je dat minet op bijvoorbeeld geloofsovertuiging, of dat ze naar het ziekenhuis gaan. En dat kun je allemaal vinden.”

Samen met haar klant heeft ze voor HR en recruiters een protocol ontworpen om hier goed mee om te gaan. Transparantie is daarbij heel belangrijk, zegt Anbeek. “Het is een belangrijke manier om richting kandidaat en de buitenwereld zuiver te blijven opereren.”

Eigenschappen vastleggen

Ook bij interne doorstroom zijn HR processen steeds meer gebaseerd op het verzamelen en analyseren van data. Anbeek herinnert zich een bedrijf dat de tien best presterende werknemers had geselecteerd en hun karaktereigenschappen en competenties had geanalyseerd en vastgelegd. Voortaan was dit de lat waarlangs alle werknemers werden gelegd als het ging om promoties en talentmanagement. Anbeek: “Dan begeef je je echt op het randje. Vroeger beoordeelde je de beste mensen ook wel, maar nu werd dat echt in het systeem gezet en gebruikt om te bekijken: ‘Welke andere mensen hebben die eigenschappen ook?’ Mensen weten dat niet, dus weten ze ook niet in hoeverre ze hun gedrag en prestaties moeten aanpassen om aan de eisen te voldoen.”

Goed werkgeverschap

Bedrijven begeven zich hiermee niet alleen op het randje van wat nog goed werkgeverschap is, maar ze leggen zichzelf ook oogkleppen op waardoor ze mogelijk het tegenovergestelde bereiken van wat ze willen. “Je hebt wel machine learning, wat betekent dat machine steeds slimmer worden. En ze kunnen zelfs misschien wel een beetje extrapoleren wat je in de toekomst nodig hebt. Maar ze kunnen nog niet echt reageren op veranderingen en dan alles aanpassen”, zegt Anbeek. “Neem de coronacrisis. Je hebt nu misschien opeens heel andere eigenschappen nodig dan die tien die je had geselecteerd. De menselijke factor, die echt kan bepalen of de eigenschappen die iemand nu succesvol maken ook in de toekomst nodig zijn, blijft belangrijk.”

Controle

AI en algoritmes kunnen in allerlei vormen ook worden gebruikt voor controle op de werkvloer. Apps op smartphones kunnen de ouderwetse prikklok vervangen en nauwkeurig vastleggen waar en wanneer een werknemer aan het werk was. Computers kunnen de productiviteit van werknemers in kaart brengen en die vergelijken met het gemiddelde in het bedrijf. Sensoren en wearables kunnen controleren of werknemers wel in een omgeving met gezonde luchtkwaliteit werken en meten of zij onverhoopt worden blootgesteld aan gevaarlijke stoffen.

En dan zijn er nog de zogenaamde fitnesswearables die allerlei gezondheidsgegevens over de gebruiker opslaan, zoals lichaamsbeweging en slaappatronen. Voor een werkgever die preventief beleid tegen (beroeps)ziekte voert, zou dit nuttige informatie kunnen zijn.

Monitoring, of dit nu al dan niet digitaal gebeurt, is niet altijd verboden en soms zelfs verplicht. Denk aan de tachograaf van vrachtwagenchauffeurs of drank- en drugscontroles bij piloten, machinisten en schippers. In sommige bedrijven in de zware industrie worden werknemers standaard op blootstelling aan gevaarlijke stoffen gecontroleerd.

Misbruik

Het Rathenau Instituut waarschuwt dat controlesystemen misbruikt kunnen worden of verhoging van de werkdruk veroorzaken. Zo zijn er bedrijven die loondiefstal plegen door gewerkte tijden naar beneden af te ronden of door het systeem automatisch pauzes te laten berekenen, ongeacht of de werknemer heeft gepauzeerd of niet. Amerikaanse platformbedrijven als Lyft en Uber laten hun systemen klantbeoordelingen koppelen aan de inkomsten van de chauffeurs: alleen chauffeurs met hoge beoordelingen mogen op piekmomenten tegen hogere tarieven werken.

Een Engels voorbeeld laat zien hoe controlesystemen voor meer werkdruk en juist minder tevreden cliënten zorgen. Via een app kon de werkgever precies zien wanneer thuiszorgmedewerkers bij een cliënt waren. Ze kregen alleen voor deze contactmomenten betaald. Het gevolg was dat werknemers zich enorm onder druk gezet voelden. Had een cliënt meer zorg nodig, dan kreeg hij dat niet omdat anders andere bezoeken in de knel kwamen.

Ook systemen dien juist zijn bedoeld om werkdruk te verminderen, kunnen worden voorzien van kritische kanttekeningen, als ze al niet ronduit verboden zijn. Digitale instrumenten die zich richten op een gezonde levensstijl, stress, motivatie en werkdruk passen in een verantwoord preventiebeleid, maar zijn volgens de onderzoekers van het Rathenau Instituut niet zonder risico. “De effectiviteit van de instrumenten zijn nog onvoldoende bewezen en ze verwerken privacygevoelige gegevens. Werkgevers mogen bijvoorbeeld niet zomaar gezondheidsdata van werkenden inzien of gebruiken.”

Privacy

Wie met gebruik van algoritmes, AI of machinelearning gegevens over werknemers of sollicitanten wil verzamelen, opslaan en verwerken, moet daarbij zorgvuldig te werk gaan. Zeker wanneer het om systemen gaat waarbij geen mens meer aan de beoordeling te pas komt.

In Nederland waakt de Autoriteit Persoonsgegevens (AP) over de bescherming van de privacy en de handhaving van de AVG. De AP ziet drie risico’s bij het gebruik van algoritmes:

De kans op discriminatie door het gebruik van verkeerde of onvolledige datasets of doordat de gebruiker of de ontwerper opzettelijk bias in het systeem heeft ingebouwd;
Een perverse prikkel om veel te veel en veel te lang data te blijven verzamelen, bewaren en gebruiken;
Het ontstaan van een zogenaamde blackbox: door de complexiteit van algoritmes wordt het steeds moeilijker om de interne logica van deze systemen te begrijpen en uit te leggen.

Ook wanneer werknemers of kandidaten toestemming geven voor datamining of het opslaan en verwerken van persoonsgegevens, kan het zijn dat een werkgever de AP op zijn pad vindt. Volgens de AP kán een werknemer namelijk niet vrij en zelfstandig instemmen met een verzoek van zijn werkgever, omdat hij van hem afhankelijk is voor zijn broodwinning.

Lees ook: Privacy in het personeelsdossier: wat mag en wat niet?

Teugels strak aangetrokken

Charlotte Meindersma

Jurist Charlotte Meindersma, oprichter van het bureau Charlotte’s Law & Fine Prints, vindt dat de AP daarin de teugels wel erg strak heeft aangetrokken houdt. “Je bent als werkgever verplicht om er alles aan te doen om de werknemer gezond te houden. Maar je mag ze niet te veel vragen en ook niets opdringen. En als iemand dingen doet die niet zijn afgesproken en daardoor ongezond wordt, dan ben je als werkgever wel verantwoordelijk.”

Meindersma waarschuwt werkgevers om niet buiten de lijntjes te kleuren wanneer het gaat om persoonsgegevens. Ook niet wanneer de bedoelingen goed zijn. “Er zijn werkgevers die hun medewerkers een fitnesstracker geven om te kijken of mensen of mensen wel regelmatig even opstaan van hun bureau en of ze wel gezond bewegen. Je mag mensen best zo’n smartwatch geven, maar je mag die gegevens vervolgens niet zelf binnenhalen en opslaan.”

Prikklok

Hoe verder een systeem in het privéleven van een werknemer treedt, hoe groter de kans dat je de wet overtreedt. Neem bijvoorbeeld een digitale prikklok. Een werkgever mag van zijn werknemer verwachten dat hij zich houdt aan afspraken over werktijden en dit controleren door bij te houden of iemand inlogt op de bedrijfssystemen. Meindersma: “In de advocatuur is het ook heel normaal dat je dat je voortdurend logt wanneer je werkt. Dat is dan niet uit arbeidsrechtelijke overwegingen, maar om de gewerkte tijd te kunnen factureren aan klanten. Dus op zich is registreren wanneer iemand werkt, geen probleem. Maar je moet het wel kunnen onderbouwen en vooraf afspreken.”

Het gebied wordt al grijzer wanneer de werkgever ook andere conclusies verbindt aan de geregistreerde werktijden. Want wat gebeurt er wanneer een werknemer stelselmatig laat op de avond nog zit te werken? Mag een werkgever dan registreren dat hij er een ongezond slaappatroon op na houdt? Meindersma: “Stel dat je met elkaar hebt afgesproken dat het niet de bedoeling is dat mensen na tien uur ’s avonds nog werken, dan mag je iemand daar best op aanspreken. Maar je mag niet te veel bijhouden en tracken. En je mag daar zeker geen conclusies over gezondheid of slaap aan verbinden.”

Privétijd

En dan maakt het ook nog heel veel uit hoe de software werkt en op wiens computer die registratiesoftware eigenlijk staat, zegt Meindersma. “Is het een computer die door de werkgever is verstrekt, of is het een privécomputer die ook voor werk wordt gebruikt? Als het software is die continu trackt wat je aan het doen bent, dan zou de werkgever ook inzicht krijgen in wat je in privétijd op je computer doet. Dat is natuurlijk uit den boze. Werkgevers mogen ook niet zo maar in jouw e-mail. Je moet altijd het bedrijfsbelang moeten kunnen onderbouwen.”

Ook het al eerder genoemde datamining is vrijwel altijd een no-go voor werkgevers. Wie zich zorgen maakt over uitingen op social media, mag niet systematisch in de gaten houden wat werknemers daar uitspoken. Meindersma: “Je mag wel een social mediabeleid maken, met afspraken dat werknemers zich niet over hun werkgever mogen uitlaten of dat ze duidelijk moeten maken dat uitspraken de persoonlijke mening van de werknemer zijn. Ook als je iets tegenkomt op social media wat niet klopt, dan mag je medewerkers daar best op aanspreken. Maar je mag niet een webbot alles langsgaan om te kijken of er iets door werknemers wordt gezegd.”