Naar inhoud
BetaAI Begrippen

AI-begrippen in gewone taal. Zoek een begrip, blader op letter of filter op onderwerp.

Auditable AI

Engels: Auditable AI · Ook wel: auditable artificial intelligence

In het kort

Auditbare AI is een AI-systeem dat is ingericht zodat mensen of andere systemen het later kunnen controleren. Anders dan software die alleen een eindresultaat toont, houdt het logboeken bij en levert het uitgebreide documentatie over processen, besluiten en uitkomsten. Een auditor kan daardoor achteraf nagaan en toetsen hoe het systeem tot een besluit kwam, bijvoorbeeld bij de afwijzing van een leningaanvraag.

Waarom is dit belangrijk?

Als een geautomatiseerd besluit iemand benadeelt, maakt een vast spoor het mogelijk om de oorzaak later stap voor stap terug te vinden. Bij toelating in het onderwijs en bij uitkeringen of zorg valt auditbare AI onder hoog risico, en moet zij gebeurtenissen automatisch vastleggen. Die plicht geldt alleen voor systemen met een hoog risico, dus bij andere toepassingen kan zo'n spoor helemaal ontbreken.

Zo werkt het in de praktijk

Auditbare AI komt voor in de financiële dienstverlening en bij de overheid. Unique AG liet zijn AI-beheer certificeren volgens ISO/IEC 42001, een norm voor het beheer van AI, en toont tests via een impactbeoordeling. Overheden leggen in het Algoritmekader vast wie code of gegevens bekeek of wijzigde.

Onderzoekers van Brown University bouwen een vast spoor voor grote taalmodellen. Het koppelt data, training en ingebruikname aan goedkeuringen. Een open Python-programma schrijft die gebeurtenissen weg in het werkproces.

Het Algoritmekader koppelt die logs aan de Baseline Informatiebeveiliging Overheid en het Onderzoekskader Algoritmes van de Auditdienst Rijk. Het onderzoek van Brown koppelt het spoor aan artikel 12 van de AI-verordening en aan het NIST-kader voor risico's van AI.

Gecontroleerd op 23 oktober 2026