Artificial intelligence en daaruit voortvloeiende algoritmes leiden tot een onstuitbare vooruitgang, maar vormen tegelijkertijd een bedreiging voor de toch al trage doorstroom van vrouwen naar de top van het bedrijfsleven. Topvrouwen.nl en Philips organiseerden onder de naam Unconsious Bias meets Artificial Intelligence een event waarin de vraag centraal stond of digitalisering een extra belemmering betekent voor vrouwen die naar de top willen. ‘We moeten dit tackelen.’

Eerst de fotogalerij bekijken?

Op het podium van het futuristische Evoluon – een omgeving die goed past bij de snelle digitale ontwikkelingen die soms nog wat science fiction-achtig aandoen – maakte Topvrouwen.nl-voorzitter Marry de Gaay Fortman glashelder waartoe de ontwikkeling van algoritmes en andere technieken vooral níet moet leiden. “Alle technische mogelijkheden van vandaag de dag horen bij een niet te stuiten vooruitgang. Prachtig, maar deze verworvenheden mogen geen nieuwe belemmeringen meebrengen voor vrouwen die naar de top willen, bijvoorbeeld doordat algoritmes niet vrij zijn van unconsious bias ofwel onbewuste vooroordelen. Als algoritmes mannen bevoordelen boven vrouwen, dan is het woord vooruitgang niet op z’n plek. Dan staan we wederom stil en blijft alles zoals het de afgelopen decennia was: vrouwen stromen dan slechts mondjesmaat door naar topposities en gebalanceerde man/vrouwverhoudingen komen verder onder druk te staan. In zo’n wereld wordt vrouwelijk talent, dat keihard nodig is om aansluiting te blijven vinden op een speelveld dat harder dan ooit verandert, opnieuw gepasseerd.”

Een rondje door de zaal gaf in ieder geval vertrouwen dat vrouwen uit de database van Topvrouwen.nl zich niet de kaas van het brood laten eten in deze digitaliserende wereld. Ze bleken goed vertegenwoordigd binnen techbedrijven: een van de deelnemende vrouwen vertelde verantwoordelijk te zijn voor het stroomlijnen van de customer service en customer experience-processen middels artificial intelligence (AI), een ander liet weten afkomstig te zijn van een bedrijf dat werkt aan de ontwikkeling van connected cars, weer een ander werkt voor een leidende keten aan “explainable, transparant & non-biased AI.” De Gaay Fortman: “Jullie zijn de vrouwen die aan de knoppen zitten.”

Van stoommachine tot algoritme

Dat juist Philips dit event samen met Topvrouwen.nl wilde organiseren, is geen toeval. Hans de Jong, president van het gezondheidstechnologiebedrijf in Nederland, liet geen ruimte voor vragen over de prioritering van het onderwerp diversity op de boardroomagenda van de Eindhovense techkolos. “Diversity en inclusion zijn het fundament van onze strategie. De toekomst van dit concern zal er stukken minder glorieus uitzien dan ik voor ogen heb als wij er niet in slagen diverse teams te realiseren – hoe kunnen wij immers aansluiting vinden bij onze klantenkring als we geen afspiegeling van dat klantenbestand zijn? Wij hebben onszelf voor het jaar 2020 een harde target opgelegd: wij willen dat 25 procent van de senior rollen in dat jaar door vrouwen vervuld wordt. Dat lukt alleen als we een sfeer creëren waarbinnen psychological safety voorop staat en waarin bias zoveel mogelijk bestreden wordt. Artificial intelligence bestond al toen ik in de jaren ’70 en ’80 studeerde, maar neemt inmiddels zo’n hoge vlucht dat de ongekende mogelijkheden ervan ons allemaal zullen raken. Wat er gebeurt, is net zo revolutionair als de uitvinding van de stoommachine, maar het mag niet ten koste gaan van de inclusiviteit die ons juist op een hoger plan tilt – dat is waarom we bias moeten tackelen.”

Makkelijk zal dat niet worden, benadrukte De Jong: “Ieder van ons maakt dagelijks zo’n 100.000 beslissingen per dag, waarvan zo’n 95 procent niet bewust beargumenteerd en afgewogen wordt.” Onze onderbuik heeft het dus voor het zeggen en dat heeft grote gevolgen. “Vraag je mannen en vrouwen of beiden seksen even competente leiders zijn, dan zegt ruim 94 procent van de ondervraagden, vrouw én man, dat dat inderdaad zo is. Vraag je naar specifieke karaktertrekken die een succesvol leider zou moeten hebben, dan noemt 67 procent eigenschappen die vaak als vrouwelijk worden gelabeld. So far, so good.” Maar dan komt de échte test: kiezen we uiteindelijk een man of een vrouw? “80 procent geeft uiteindelijk toch de voorkeur aan een man. Dat geldt voor mannen en vrouwen. Bizar! Het grootste probleem is dus niet dat we biased zijn, maar dat we denken dat we het niet zijn. Dat moeten we echt onder ogen zien om een bewuste keuze te kunnen maken, met ons brein en niet met de onderbuik.” De Jong kreeg bijval van moderator Geertje Zeegers, partner van het internationaal opererende data-analysebedrijf MI Company, dat zich bezighoudt met artificial intelligence en de ontwikkeling van algoritmes. Zeegers bracht ook meteen nuance: “Modellen en algoritmes maken dingen feitelijker. Ze kunnen dus bias voorkomen, maar alleen als we het ontwikkelen van nul af aan goed aanpakken, bijvoorbeeld door te letten op een gebalanceerde samenstelling van ontwikkelteams.”

Digital soul searching

Ghislaine Prins, global digital marketing director van Randstad, was de eerste keynote speaker die op het podium genodigd werd. Prins maakte duidelijk hoeveel er momenteel al mogelijk is. “In de zeer nabije toekomst wordt bij een sollicitatie je cv niet bekeken door een mens, maar door een bot. Het contact loopt volledig geautomatiseerd.” Val je bij de bot ‘in de smaak’, dan volgt een uitnodiging voor een video-interview. Je performance wordt uitgebreid geanalyseerd. “Behalve de inhoud van je boodschap geeft ook de non-verbale communicatie veel informatie. Hoe reageer je op een vraag? Ben je erg nerveus? Pas als je hier goed doorheen komt, komt er een mens kijken bij je sollicitatie.” De techniek is hier al klaar voor, aldus Prins, maar het vervelende is dat er niet zelden een bug in intelligente systemen zit. “Denk maar aan Amazon, dat een experimenteel recruitmentsysteem lanceerde om toptalent te selecteren. Dat systeem leerde zichzelf aan dat vrouwen niet op gesprek hoefden te komen.”

Het gevaar om als vrouw puur op gender uitgeselecteerd te worden, loert binnen alle corporate takken van sport. “De mens is natuurlijk geen haar beter dan een algoritme. Het is bekend dat vrouwelijke docenten negatiever beoordeeld worden dan mannelijke. Dat geldt althans als je mannelijke en vrouwelijke docenten laat beoordelen op een 10-puntsschaal. Zet je een 6-puntsschaal in, dan zijn de beoordelingen veel gelijkwaardiger. Het zit blijkbaar in ons systeem dat vrouwen nooit een 10 scoren. Als advocatenkantoren prestaties analyseren en bekijken wie er ‘partnermateriaal’ is, krijgen mannen betere beoordelingen dan vrouwen. Het is de mens die een algoritme voedt, dus de gevolgen laten zich raden.”

Ook systemen voor gezichtsherkenning, die behalve op luchthavens ook ingezet worden in recruiting, kennen een groot error-gehalte, zoals Prins aantoonde met een aangrijpend filmpje met als titel AI, ain’t I a woman? AI blijkt getinte vrouwen vaak als mannen aan te duiden – het moment dat tennisster Serena Williams een vinkje krijgt in het vakje ‘male’ is méér dan een pijnlijke data driven mistake. Als een systeem getraind raakt om blanke, mannelijke kandidaten te beoordelen als ‘de betere kandidaat’, worden vrouwen en mensen met een donkere huidskleur uitgeselecteerd. Zo kan artificial intelligence uitsluiting en bias versterken, zelfs als het ingezet wordt vanuit goede intenties. De oplossing schuilt vooralsnog in de menselijke factor, aldus Prins: “Er zijn tegenwoordig algoritmes die algoritmes controleren, maar mensen mee laten kijken kan leed voorkomen. Die menselijke factor is echter pas van toegevoegde waarde als we verschillen omarmen. Mannen en vrouwen gebruiken andere woorden, stellen hun cv anders op – dat zou geen verschil moeten maken.” De tijd voor diepgaande digital soul searching is gekomen: “Net zoals we worstelen met de vraag hoeveel fouten een zelfrijdende auto mag maken, moeten we ook voor AI in beoordelingssystemen bepalen wat toelaatbaar is en wat niet.”

Schoon schip maken

Ook Philips zelf vaardigde twee uitermate boeiende keynote speakers af: Alberto Prado, head of Philips HealthWorks, en Arlette van Wissen, research scientist artificial intelligence en daarmee een van de vrouwen die de digitale transformatie vormgeeft. Prado, die in het kader van #JamaisSansElle alleen het podium op wilde met een net zo kundige en succesvolle vrouwelijke evenknie aan zijn zijde, had een zowel ontluisterende als optimistische boodschap: “Een derde van dit publiek zal helaas op enig moment te maken krijgen met kanker. Velen van u zullen diabetes of longziekten ontwikkelen of hartklachten krijgen. Door onze lifestyle choices nemen chronische ziekten toe.” Om dit stuwmeer van mensen met aandoeningen beter te behandelen, staat de gezondheidszorg een grote transformatie te wachten: de zorg moet veel meer op het individu toegesneden worden om maximale resultaten te behalen. “We zijn tenslotte allemaal anders. Ieder mens heeft een metabolisme dat op een unieke manier functioneert, waardoor we ook anders op medicatie reageren.” ‘Eenheidsworst’ in behandelingen en – daaraan voorafgaand – slechte diagnoses kunnen fataal uitpakken. “Artificial intelligence helpt ons met die transformatie. Door op een goede manier gebruik te maken van data, kunnen we veel beter inzetten op preventie en gepersonaliseerde zorg die bovendien veel preciezer is. Dat is prettig voor de patiënt, maar zeker ook voor de arts. Sterker: AI can bring back joy to staff in healthcare. Het is geen science fiction meer, veel state-of-the-art-technieken worden vandaag de dag al ingezet in grote ziekenhuizen. Onze image guided therapy is er om de chirurg te ondersteunen – zo versterken mens en machine elkaar.”

Arlette van Wissen schetste hoe het niet moet: “Het is fantastisch dat AI ons kan helpen bij het transformeren van de zorg, maar het gaat fout als de verkeerde informatie in een algoritme sluipt. “Een Canadese startup ontwikkelde een algoritme dat op basis van spraak kon voorspellen wie kans liep op neurologische ziekten. Het werkte fantastisch: van de voorspellingen van het systeem bleek 81 procent accuraat! Maar dat gold helaas alleen voor Canadese native speakers uit een bepaalde regio. Hoe accuraat een algoritme ook is – als het bepaalde groepen op achterstand zet, voldoet het niet.” In de gezondheidszorg zijn de gevolgen van een algoritme dat nieuwe barrières opwerpt voor kwetsbare groepen verstrekkend. Dat geldt wellicht nog eens extra voor vrouwen, die in de zorg traditioneel toch al gelden als ‘kwetsbare groep’, ook al zijn zij bepaald geen minderheid. “Research in de gezondheidszorg is gebaseerd op blanke mannen. Dat stelt ons voor problemen: zo hebben vrouwen bij hartziekten minder kans op een goede behandeling.”

AI zou dus bij uitstek ingezet moeten worden om schoon schip te maken en deze ongelijkheid vlot te trekken. Prado: “Er is natuurlijk geen silver bullet, maar het begint bij gender balance in research & development. Bij Philips geloven we in de noodzaak hiervan en willen we onze verantwoordelijkheid nemen – die houding is ook bij andere concerns van belang.”

Maak van AI geen tovenaarsleerling

Als afsluiter van het boeiende plenaire gedeelte zaten behalve Ghislaine Prins en Arlette van Wissen ook Marieke Dekker, executive director external affairs van Vodafone Ziggo, en Evert Haasdijk, Lead AI Centre of Expertise van Deloitte, klaar om als panel prikkelende vragen te beantwoorden. Uit een peiling onder het publiek, dat kon stemmen via de mobiele telefoon, bleek dat 85 procent van de aanwezigen artificial intelligence ziet als kans. Dekker sloot zich daarbij aan: “Bij Vodafone Ziggo zijn data essentieel. De ene klant vindt het geweldig als wij op basis van die data een aanbod doen voor een nieuwe telefoon, de ander blijkt het eng te vinden als wij weten dat hij of zij zich op een nieuw toestel aan het oriënteren was. Dus vanuit reputatieperspectief zitten er zeker haken en ogen aan.” Haasdijk: “Het is dan ook jammer dat je niet kunt kiezen voor ‘zowel kans als risico’. Als we niet de juiste kennis loslaten aan de voorkant van het AI-proces, dan zijn we als de bekende tovenaarsleerling die een bezemsteel betovert om het zware werk voor hem te doen.” In het betreffende sprookje kan de leerling de bezem niet laten stoppen, omdat hij de toverspreuk niet kent. De bezem gaat dus geheel op eigen initiatief aan de slag en creëert een gevaarlijke situatie. “We moeten dus zeer zorgvuldig met data omgaan, en trouwens ook met het selectieproces van de mensen die werken aan algoritmes. IJverige, domme mensen creëren ijverige, domme algoritmes die alles heel efficiënt fout doen. Dat is een schrikbeeld.” Van Wissen vult aan: “Ontwikkel dus met een critical mind. Je moet domeinen waarop AI toegevoegde waarde heeft specificeren en de juiste vragen stellen.” Ook over de vraag wie de wedstrijd uiteindelijk gaat winnen – algoritme of mens – werd lichtjes verschillend gedacht. Dekker: “De mens, want die biedt weerstand.” Haasdijk: “Mens en algoritme samen. De kracht zit in de combinatie. Maar alléén als de mens op de juiste manier het algoritme voedt.” Waarvan akte.

Na het plenaire gedeelte volgde een rondetafelspeeddate-sessie, waarbij bestuurders en toezichthouders in meerdere rondes onder het genot van een hapje en een drankje kennis konden maken met een geselecteerde groep vrouwen uit de database van Topvrouwen.nl met diepgaande kennis van AI – vrouwen die van niet te overschatten belang zijn bij het vormgeven van een toekomst die grote mogelijkheden én grote verantwoordelijkheden met zich meebrengt.

Tekst Nicole Gommers

Bekijk de fotogalerij