Waarom is dit belangrijk?
Als een geautomatiseerd besluit iemand benadeelt, maakt een vast spoor het mogelijk om de oorzaak later stap voor stap terug te vinden. Bij toelating in het onderwijs en bij uitkeringen of zorg valt auditbare AI onder hoog risico, en moet zij gebeurtenissen automatisch vastleggen. Die plicht geldt alleen voor systemen met een hoog risico, dus bij andere toepassingen kan zo'n spoor helemaal ontbreken.
Zo werkt het in de praktijk
Auditbare AI komt voor in de financiële dienstverlening en bij de overheid. Unique AG liet zijn AI-beheer certificeren volgens ISO/IEC 42001, een norm voor het beheer van AI, en toont tests via een impactbeoordeling. Overheden leggen in het Algoritmekader vast wie code of gegevens bekeek of wijzigde.
Onderzoekers van Brown University bouwen een vast spoor voor grote taalmodellen. Het koppelt data, training en ingebruikname aan goedkeuringen. Een open Python-programma schrijft die gebeurtenissen weg in het werkproces.
Het Algoritmekader koppelt die logs aan de Baseline Informatiebeveiliging Overheid en het Onderzoekskader Algoritmes van de Auditdienst Rijk. Het onderzoek van Brown koppelt het spoor aan artikel 12 van de AI-verordening en aan het NIST-kader voor risico's van AI.




