Waarom is dit belangrijk?
Gerichte controles op ongelijke uitkomsten beperken dat systemen mensen met dezelfde omstandigheden anders beoordelen omdat ze leren van oude gegevens. In de zorg helpt eerlijkheid om te zien of een model voor diagnose of behandeling voor elke patiëntgroep even betrouwbaar is. Patiënten merken dit bij adviezen over onderzoek of een behandeling, maar één toets haalt nog niet elke scheve uitkomst weg.
Zo werkt het in de praktijk
Scholen en leveranciers toetsen met het kader van SIVON of AI in het funderend onderwijs eerlijk werkt, zonder vooringenomenheid tegen leerlingen. Overheidsorganisaties gebruiken algoritmen om uitkeringen toe te kennen of fraude in te schatten, en teams kijken of die uitkomsten eerlijk zijn.
Onderzoekers van de Vrije Universiteit Amsterdam bekeken hoe betrokkenen in die sector over eerlijkheid beslissen. Burgers blijven daarbij vrijwel buiten beeld. De toets op eerlijkheid mist dan hun inbreng.
De AI-verordening, de Europese wet voor AI, eist bij systemen met een hoog risico databeheer. Makers onderzoeken daarin vooringenomenheid en beperken die. ISO/IEC TR 24027 beschrijft meetmethoden voor eerlijkheid, zoals gelijke kansen voor groepen, tijdens ontwerp, test en gebruik.




