Waarom is dit belangrijk?
Met uitlegbaarheid kunnen mensen een automatisch advies bevragen en een fout of oneerlijke uitkomst eerder herkennen. In de zorg gebruiken artsen en patiënten die toelichting om samen over een behandeling te beslissen. Op school en op het werk maakt dat het navragen van een oordeel makkelijker, maar een korte uitleg blijft onvolledig en kan vooroordelen of risico's voor de privacy verhullen.
Zo werkt het in de praktijk
De Algemene Rekenkamer controleert algoritmes van de rijksoverheid met een eigen toetsingskader. Ministeries, het UWV en de Sociale Verzekeringsbank leverden daarvoor algoritmes aan. De toets bekijkt sturing, het model, de data en of een mens kan ingrijpen.
In het rapport Aandacht voor algoritmes onderzoekt de Rekenkamer of die systemen controleerbaar blijven. De controle gaat over verantwoording, technische kwaliteit en menselijke tussenkomst. Het kader is bedoeld om zwakke plekken bij het gebruik op te sporen.
Het Algoritmekader van het ministerie van Binnenlandse Zaken vraagt menselijk toezicht op algoritmes. Bij een hoger risico horen daar regelmatige controles bij. De norm ISO/IEC 42001, een afspraak over beheer van AI, vraagt interne audits en metingen.




