Waarom is dit belangrijk?
Het herkennen van vooringenomenheid in AI maakt het mogelijk om ongelijke uitkomsten vroeg te zien en systemen gericht bij te sturen. In de zorg ondersteunen zulke systemen medische beslissingen, maar gegevens die vooral van één groep komen, kunnen anderen minder goed bedienen. Patiënten lopen dan het risico op een minder passend advies, en zorgverleners zien die ongelijkheid niet altijd direct.
Zo werkt het in de praktijk
De politie wees met het Criminaliteits Anticipatie Systeem plekken aan met kans op inbraak. De Algemene Rekenkamer signaleerde daar ontbrekende controle op vooringenomenheid en een risico op scheve data door eerdere controles. De AI-verordening noemt systemen voor kredietwaardigheid hoog risico, want zij beïnvloeden toegang tot geld of huisvesting.
Het Amerikaanse NIST onderzoekt of gezichtsherkenning groepen even goed herkent. Bij een test met algoritmen van bedrijven liepen de fouten meestal uiteen, ook bij pasfoto’s. Het instituut deelt die uitkomsten met beleidsmakers en ontwikkelaars.
De AI-verordening koppelt vooringenomenheid aan datagovernance, een werkwijze om trainingsgegevens te controleren. Datasets voor training en tests moeten relevant en voldoende representatief zijn. Zo moet een systeem met een hoog risico geen bron van verboden discriminatie worden.




