Uitleg
Algoritmische discriminatie treedt op wanneer algoritmes unfair vooroordelen produceren tegen bepaalde groepen. Dit kan onbedoeld gebeuren door bevooroordeelde trainingsdata, of opzettelijk door vooringenomenheid in systeemdoelstellingen.
Voorbeelden zijn veelvoudig: wervingsalgoritmes die vrouwen buitensluiten, kredietalgoritmes die bepaalde etnische groepen beperkten, en rechtshulpsystemen met rasvooroordelen.
⚡ Voorbeelden
- •Kredietscores die mensen uit arme wijken lager scoren
- •Werknemersbeoordelingssystemen die vrouwen lager waarderen
- •Politiesystemen die bepaalde buurten overmatig als riskant markeren
Trefwoorden
discriminatieoneerlijkimpactgevolgenaudit