Vraagt u zich af wat algoritmische vooringenomenheid in AI inhoudt? Sluit u aan bij INVIAI en ontdek meer over AI en algoritmische vooringenomenheid in dit artikel!

Kunstmatige intelligentie (AI) is steeds meer verweven in ons dagelijks leven – van wervingsbeslissingen tot gezondheidszorg en politietoezicht – maar het gebruik ervan roept zorgen op over algoritmische vooringenomenheid. Algoritmische vooringenomenheid verwijst naar systematische en oneerlijke vooroordelen in de uitkomsten van AI-systemen, die vaak maatschappelijke stereotypen en ongelijkheden weerspiegelen.

In wezen kan een AI-algoritme onbedoeld menselijke vooroordelen reproduceren die aanwezig zijn in de trainingsdata of het ontwerp, wat leidt tot discriminerende resultaten.

Dit probleem is een van de meest besproken uitdagingen binnen de ethiek van technologie geworden en trekt wereldwijd de aandacht van onderzoekers, beleidsmakers en bedrijfsleiders. Door de snelle adoptie van AI is het cruciaal om vooringenomenheid nu aan te pakken: zonder ethische kaders loopt AI het risico bestaande vooroordelen en discriminatie te versterken, wat sociale verdeeldheid aanwakkert en zelfs fundamentele mensenrechten bedreigt.

Hieronder bespreken we wat algoritmische vooringenomenheid veroorzaakt, voorbeelden uit de praktijk en hoe de wereld werkt aan eerlijkere AI.

Begrip van algoritmische vooringenomenheid en de oorzaken ervan

Algoritmische vooringenomenheid ontstaat meestal niet omdat AI ‘wil’ discrimineren, maar door menselijke factoren. AI-systemen leren van data en volgen regels die door mensen zijn opgesteld – en mensen hebben (vaak onbewuste) vooroordelen.
Als de trainingsdata scheef is of historische vooroordelen weerspiegelt, zal de AI die patronen waarschijnlijk overnemen.

Een voorbeeld: een AI die cv’s screent en getraind is op tien jaar aan wervingsdata uit de technologiesector (waarbij de meeste aangenomen kandidaten mannen waren), kan concluderen dat mannelijke kandidaten de voorkeur hebben, waardoor vrouwen worden benadeeld. Andere veelvoorkomende oorzaken zijn onvolledige of niet-representatieve datasets, bevooroordeelde datalabeling of algoritmen die geoptimaliseerd zijn voor algemene nauwkeurigheid maar niet voor eerlijkheid richting minderheidsgroepen.

Kortom, AI-algoritmen erven de vooroordelen van hun makers en data tenzij er bewust stappen worden genomen om deze te herkennen en te corrigeren.

Het is belangrijk te benadrukken dat algoritmische vooringenomenheid meestal onbedoeld is. Organisaties gebruiken AI vaak om beslissingen objectiever te maken, maar als ze het systeem ‘voeden’ met bevooroordeelde informatie of geen rekening houden met gelijkheid in het ontwerp, kan het resultaat alsnog oneerlijk zijn. AI-vooringenomenheid kan kansen ongelijk verdelen en onnauwkeurige uitkomsten opleveren, wat het welzijn van mensen schaadt en het vertrouwen in AI ondermijnt.

Begrijpen waarom vooringenomenheid ontstaat is de eerste stap naar oplossingen – en die stap wordt nu serieus genomen door de wetenschap, industrie en overheden wereldwijd.

Voorbeelden uit de praktijk van AI-vooringenomenheid

Vooringenomenheid in AI is geen hypothetisch probleem; talrijke praktijkvoorbeelden tonen aan hoe algoritmische vooringenomenheid kan leiden tot discriminatie. Opvallende gevallen van AI-vooringenomenheid in verschillende sectoren zijn onder andere:

• Strafrecht: In de Verenigde Staten bleek een populair algoritme dat recidive (de kans op herhaling van een misdrijf) voorspelt, bevooroordeeld tegen zwarte verdachten. Het classificeerde zwarte verdachten vaker als hoog risico en witte verdachten als laag risico, wat raciale ongelijkheden in straffen versterkte.
  Dit voorbeeld laat zien hoe AI historische vooroordelen in politie en rechtspraak kan versterken.

• Werving en selectie: Amazon stopte beroemdelijk met een AI-wervingsinstrument nadat bleek dat het vrouwen discrimineerde. Het machine learning-model had zichzelf aangeleerd dat mannelijke kandidaten de voorkeur hadden, omdat het was getraind op cv’s van voornamelijk mannen.
  
  Als gevolg daarvan werden cv’s met het woord ‘women’s’ (bijv. ‘women’s chess club captain’) of van uitsluitend vrouwelijke opleidingen lager beoordeeld door het systeem. Dit bevooroordeelde algoritme zou gekwalificeerde vrouwen oneerlijk hebben uitgesloten voor technische functies.

• Gezondheidszorg: Een algoritme dat in ziekenhuizen in de VS wordt gebruikt om patiënten te identificeren die extra zorg nodig hebben, bleek de zorgbehoefte van zwarte patiënten te onderschatten in vergelijking met witte patiënten. Het systeem baseerde prioriteit op zorguitgaven: omdat historisch minder geld werd besteed aan zwarte patiënten met dezelfde ziekte, concludeerde het algoritme ten onrechte dat zwarte patiënten ‘gezond(er)’ waren en gaf hen lagere risicoscores.
  
  In de praktijk betekende deze vooringenomenheid dat veel zwarte patiënten die meer zorg nodig hadden, over het hoofd werden gezien – de studie toonde aan dat zwarte patiënten jaarlijks ongeveer $1.800 minder aan medische kosten hadden dan even zieke witte patiënten, wat leidde tot onderbehandeling.

• Gezichtsherkenning: Gezichtsherkenningstechnologie vertoont aanzienlijke vooringenomenheid in nauwkeurigheid tussen demografische groepen. Een uitgebreide studie uit 2019 door het Amerikaanse National Institute of Standards and Technology (NIST) toonde aan dat de meeste gezichtsherkenningsalgoritmen veel hogere foutpercentages hadden voor mensen van kleur en vrouwen dan voor blanke mannen.
  
  Bij één-op-één vergelijkingen (verifiëren of twee foto’s van dezelfde persoon zijn) waren valse positieve identificaties voor Aziatische en Afro-Amerikaanse gezichten 10 tot 100 keer waarschijnlijker dan voor blanke gezichten bij sommige algoritmen. Bij één-op-veel zoekopdrachten (identificeren van een persoon uit een database, gebruikt door politie) waren de hoogste foutpercentages voor zwarte vrouwen – een gevaarlijke vooringenomenheid die al heeft geleid tot onterechte arrestaties.
  
  Deze verschillen laten zien hoe bevooroordeelde AI onevenredig schadelijk kan zijn voor gemarginaliseerde groepen.

• Generatieve AI en online content: Zelfs de nieuwste AI-systemen zijn niet immuun. Een UNESCO-studie uit 2024 toonde aan dat grote taalmodellen (de AI achter chatbots en contentgenerators) vaak terugkerende gender- en raciale stereotypen produceren.
  
  Zo werden vrouwen vier keer vaker in huiselijke rollen beschreven dan mannen door een populair model, waarbij vrouwelijke namen vaak werden gekoppeld aan woorden als ‘thuis’ en ‘kinderen’, terwijl mannelijke namen werden geassocieerd met ‘leidinggevend’, ‘salaris’ en ‘carrière’. De studie vond ook homofobe vooringenomenheid en culturele stereotypen in de output van deze AI-modellen.
  
  Aangezien miljoenen mensen nu dagelijks generatieve AI gebruiken, kunnen zelfs subtiele vooroordelen in content ongelijkheden in de echte wereld versterken en stereotypen op grote schaal bestendigen.

Deze voorbeelden benadrukken dat algoritmische vooringenomenheid geen ver-van-mijn-bed-show is, maar vandaag de dag in veel domeinen voorkomt. Van werkgelegenheid tot rechtspraak, gezondheidszorg tot online informatie, bevooroordeelde AI-systemen kunnen bestaande discriminatie repliceren en zelfs versterken.

De schade wordt vaak gedragen door historisch benadeelde groepen, wat ernstige ethische en mensenrechtenkwesties oproept. Zoals UNESCO waarschuwt, stapelen de risico’s van AI zich op bovenop bestaande ongelijkheden, wat leidt tot extra schade voor al gemarginaliseerde groepen.

Waarom is AI-vooringenomenheid belangrijk?

De inzet om AI-vooringenomenheid aan te pakken is groot. Ongecontroleerde bevooroordeelde algoritmen kunnen systematische discriminatie bestendigen achter een façade van technologische neutraliteit. Beslissingen die door AI worden genomen (of ondersteund) – wie wordt aangenomen, wie een lening of voorwaardelijke vrijlating krijgt, hoe politie toezicht houdt – hebben echte gevolgen voor mensenlevens.

Als die beslissingen oneerlijk zijn ten nadele van bepaalde geslachten, rassen of gemeenschappen, nemen sociale ongelijkheden toe. Dit kan leiden tot gemiste kansen, economische achterstanden of zelfs bedreigingen voor persoonlijke vrijheid en veiligheid van getroffen groepen.

In bredere zin ondermijnt algoritmische vooringenomenheid mensenrechten en sociale rechtvaardigheid, wat in strijd is met de principes van gelijkheid en non-discriminatie die democratische samenlevingen hooghouden.

Vooringenomenheid in AI ondermijnt ook het vertrouwen van het publiek in technologie. Mensen zijn minder geneigd AI-systemen te vertrouwen of te gebruiken die als oneerlijk of ondoorzichtig worden ervaren.

Voor bedrijven en overheden is dit vertrouwen een serieus aandachtspunt – succesvolle innovatie vereist publieke steun. Zoals een expert opmerkte: eerlijke en onbevooroordeelde AI-beslissingen zijn niet alleen ethisch verantwoord, maar ook goed voor bedrijven en samenleving omdat duurzame innovatie afhankelijk is van vertrouwen.

Omgekeerd kunnen breed uitgemeten mislukkingen van AI door vooringenomenheid (zoals de hierboven genoemde gevallen) de reputatie en legitimiteit van een organisatie schaden.

Bovendien kan algoritmische vooringenomenheid de potentiële voordelen van AI verminderen. AI belooft efficiëntie en betere besluitvorming, maar als de uitkomsten discriminerend of onnauwkeurig zijn voor bepaalde bevolkingsgroepen, kan het zijn positieve impact niet volledig waarmaken.

Een AI-gezondheidstool die goed werkt voor de ene demografische groep maar slecht voor anderen, is bijvoorbeeld niet echt effectief of acceptabel. Zoals de OESO opmerkte, beperkt vooringenomenheid in AI oneerlijk kansen en kan het bedrijven hun reputatie en het vertrouwen van gebruikers kosten.

Kortom, het aanpakken van vooringenomenheid is niet alleen een morele verplichting, maar ook essentieel om de voordelen van AI op een eerlijke manier voor iedereen te benutten.

Strategieën om AI-vooringenomenheid te verminderen

Omdat algoritmische vooringenomenheid nu breed wordt erkend, zijn er diverse strategieën en best practices ontwikkeld om dit te beperken. Het waarborgen dat AI-systemen eerlijk en inclusief zijn, vereist actie in meerdere fasen van ontwikkeling en implementatie:

• Betere datapraktijken: Omdat bevooroordeelde data een kernoorzaak is, is het verbeteren van datakwaliteit essentieel. Dit betekent het gebruik van diverse, representatieve trainingsdatasets die minderheidsgroepen omvatten, en het grondig controleren op scheefheid of hiaten.
  
  Het omvat ook het auditen van data op historische vooroordelen (bijv. verschillende uitkomsten op basis van ras/geslacht) en het corrigeren of balanceren daarvan vóór het trainen van het model. In gevallen waarin bepaalde groepen ondervertegenwoordigd zijn, kunnen technieken zoals data-augmentatie of synthetische data helpen.
  
  Onderzoek van NIST suggereerde dat meer diverse trainingsdata kunnen leiden tot eerlijkere uitkomsten bij gezichtsherkenning, bijvoorbeeld. Doorlopend monitoren van AI-uitkomsten kan ook vooringenomenheid vroegtijdig signaleren – wat gemeten wordt, kan worden beheerd. Als een organisatie harde data verzamelt over hoe de beslissingen van hun algoritme per demografische groep verschillen, kunnen ze oneerlijke patronen identificeren en aanpakken.

• Eerlijk algoritmeontwerp: Ontwikkelaars moeten bewust eerlijkheidsbeperkingen en technieken voor het verminderen van vooringenomenheid integreren in het trainen van modellen. Dit kan het gebruik van algoritmen omvatten die kunnen worden afgestemd op eerlijkheid (niet alleen nauwkeurigheid), of technieken toepassen om foutpercentages tussen groepen gelijk te trekken.
  
  Er zijn nu tools en frameworks (veelal open source) beschikbaar om modellen op vooringenomenheid te testen en aan te passen – bijvoorbeeld door data te herwegen, beslissingsdrempels te wijzigen of gevoelige kenmerken op een doordachte manier te verwijderen.
  
  Belangrijk is dat er meerdere wiskundige definities van eerlijkheid bestaan (bijv. gelijke voorspellingspariteit, gelijke foutpositieve percentages, enz.), die soms conflicteren. De juiste aanpak voor eerlijkheid kiezen vereist ethisch oordeel en context, niet alleen een datatweak.
  
  Daarom wordt AI-teams aangeraden samen te werken met domeinexperts en betrokken gemeenschappen bij het definiëren van eerlijkheidscriteria voor een specifieke toepassing.

• Menselijke controle en verantwoordelijkheid: Geen enkel AI-systeem mag zonder menselijke verantwoordelijkheid functioneren. Menselijke controle is cruciaal om vooringenomenheid die een machine kan leren te detecteren en corrigeren.
  
  Dit betekent dat mensen betrokken moeten zijn bij belangrijke beslissingen – bijvoorbeeld een recruiter die AI-gescreende kandidaten beoordeelt, of een rechter die een AI-risicoscore met voorzichtigheid bekijkt.
  
  Het betekent ook duidelijke toewijzing van verantwoordelijkheid: organisaties moeten zich realiseren dat zij verantwoordelijk zijn voor beslissingen van hun algoritmen, net zoals voor beslissingen van medewerkers. Regelmatige audits van AI-beslissingen, impactbeoordelingen van vooringenomenheid en de mogelijkheid om AI-redeneringen uit te leggen (uitlegbaarheid) helpen de verantwoordelijkheid te waarborgen.
  
  Transparantie is hier een andere pijler: openheid over hoe een AI-systeem werkt en de bekende beperkingen kan vertrouwen opbouwen en onafhankelijke controle mogelijk maken.
  
  Sommige jurisdicties bewegen zelfs richting verplichte transparantie voor algoritmische beslissingen met grote impact (bijvoorbeeld door publieke instanties te verplichten te onthullen hoe algoritmen worden ingezet bij beslissingen die burgers raken). Het doel is dat AI menselijke besluitvorming ondersteunt zonder ethisch oordeel of juridische verantwoordelijkheid te vervangen.

• Diversiteit in teams en inclusief ontwikkelen: Een groeiend aantal experts benadrukt het belang van diversiteit onder AI-ontwikkelaars en belanghebbenden. AI-producten weerspiegelen de perspectieven en blinde vlekken van hun makers.
  
  Als een homogeen groepje mensen (bijvoorbeeld één geslacht, één etniciteit of één culturele achtergrond) een AI-systeem ontwerpt, kunnen ze over het hoofd zien hoe het anderen oneerlijk kan beïnvloeden.
  
  Het betrekken van diverse stemmen – waaronder vrouwen, raciale minderheden en experts uit sociale wetenschappen of ethiek – in het ontwerp- en testproces leidt tot cultureel bewustere AI.
  
  UNESCO wijst erop dat vrouwen momenteel sterk ondervertegenwoordigd zijn in AI-functies (slechts ~20% van de technische AI-medewerkers en 12% van de AI-onderzoekers is vrouw). Meer representatie is niet alleen een kwestie van werkplekgelijkheid, maar ook van betere AI-uitkomsten: als AI-systemen niet door diverse teams worden ontwikkeld, zullen ze minder goed aansluiten bij de behoeften van diverse gebruikers en minder goed ieders rechten beschermen.
  
  Initiatieven zoals UNESCO’s Women4Ethical AI-platform streven ernaar diversiteit te vergroten en best practices voor niet-discriminerend AI-ontwerp te delen.

• Regulering en ethische richtlijnen: Overheden en internationale organisaties grijpen nu actief in om AI-vooringenomenheid aan te pakken. In 2021 namen de lidstaten van UNESCO unaniem de Aanbeveling over de ethiek van kunstmatige intelligentie aan – het eerste wereldwijde kader voor AI-ethiek.
  
  Deze bevat principes van transparantie, eerlijkheid en non-discriminatie en benadrukt het belang van menselijke controle over AI-systemen. Deze principes dienen als leidraad voor landen bij het opstellen van beleid en wetgeving rond AI.
  
  Evenzo maakt de nieuwe AI-verordening van de Europese Unie (die in 2024 volledig van kracht wordt) expliciet het voorkomen van vooringenomenheid tot prioriteit. Een van de belangrijkste doelen van de AI-verordening is het beperken van discriminatie en vooringenomenheid in AI-systemen met een hoog risico.
  
  De verordening vereist dat systemen die in gevoelige domeinen worden gebruikt (zoals werving, kredietverlening, rechtshandhaving, enz.) strenge evaluaties ondergaan op eerlijkheid en geen onevenredige schade toebrengen aan beschermde groepen.
  
  Overtredingen kunnen leiden tot forse boetes, wat bedrijven sterk motiveert om vooringenomenheid te beheersen.
  
  Naast brede regelgeving hebben sommige lokale overheden gerichte maatregelen genomen – bijvoorbeeld meer dan een dozijn grote steden (waaronder San Francisco, Boston en Minneapolis) hebben het gebruik van gezichtsherkenning door de politie verboden vanwege de aangetoonde raciale vooringenomenheid en risico’s voor burgerrechten.
  
  In de industrie publiceren normeringsorganisaties en technologiebedrijven richtlijnen en ontwikkelen ze tools (zoals fairness-toolkits en auditkaders) om ethiek in AI-ontwikkeling te integreren.
  
  De beweging richting ‘Vertrouwde AI’ omvat een combinatie van deze inspanningen, die ervoor zorgen dat AI-systemen wettelijk, ethisch en robuust zijn in de praktijk.

>>> Wilt u weten:

De impact van AI op banen

AI en algoritmische vooringenomenheid vormen een wereldwijde uitdaging die we nog maar net effectief beginnen aan te pakken. De voorbeelden en inspanningen hierboven maken duidelijk dat AI-vooringenomenheid geen nicheprobleem is – het raakt economische kansen, rechtspraak, gezondheid en sociale samenhang wereldwijd.

Het goede nieuws is dat het bewustzijn sterk is toegenomen en dat er een consensus ontstaat dat AI mensgericht en eerlijk moet zijn.

Dit bereiken vereist voortdurende waakzaamheid: AI-systemen blijven testen op vooringenomenheid, data en algoritmen verbeteren, diverse belanghebbenden betrekken en regelgeving aanpassen naarmate technologie evolueert.

In de kern gaat het bestrijden van algoritmische vooringenomenheid over het afstemmen van AI op onze waarden van gelijkheid en rechtvaardigheid. Zoals UNESCO’s directeur-generaal Audrey Azoulay opmerkte, kunnen zelfs kleine vooroordelen in AI-content ongelijkheden in de echte wereld aanzienlijk versterken.

Daarom is het nastreven van onbevooroordeelde AI cruciaal om ervoor te zorgen dat technologie alle lagen van de samenleving versterkt in plaats van oude vooroordelen te bestendigen.

Door ethische principes in AI-ontwerp prioriteit te geven – en deze te ondersteunen met concrete acties en beleid – kunnen we de innovatieve kracht van AI benutten en tegelijkertijd de menselijke waardigheid beschermen.

De weg vooruit voor AI is er een waarbij intelligente machines leren van de beste waarden van de mensheid, niet van onze slechtste vooroordelen, zodat technologie werkelijk iedereen ten goede komt.