Naar inhoud
BetaAI Begrippen

AI-begrippen in gewone taal. Zoek een begrip, blader op letter of filter op onderwerp.

Interpreteerbaarheid

Engels: Interpretability · Ook wel: interpretability, model interpretability

In het kort

Interpreteerbaarheid is de mate waarin mensen begrijpen hoe een AI-systeem tot een besluit of voorspelling komt. Bij gewone software staan de stappen in vaste regels, terwijl een interpreteerbaar model laat zien welke kenmerken het gebruikt en hoe die de uitkomst vormen. Een arts kan zo nagaan welke meetwaarden meetellen in een risico-inschatting voor een patiënt en of die waarden bij de uitkomst passen.

Waarom is dit belangrijk?

Wie een model kan nalopen, ziet sneller of een uitkomst klopt of dat vooroordelen die uitkomst sturen. Overheidsdiensten zetten modellen in bij besluiten over burgers en moeten letten op privacy, beperkte uitleg en het risico van ongelijke behandeling. Medewerkers en betrokkenen kunnen een uitkomst dan beter controleren, maar een toelichting is niet bij elk systeem volledig of makkelijk te volgen.

Zo werkt het in de praktijk

In de financiële sector komt interpreteerbaarheid terug bij kredietbeoordeling en fraudeopsporing. Een overzicht van vakartikelen zet methoden naast elkaar die de redenering achter een beslissing tonen. In de energiesector laat een studie zien hoe een virtuele energiecentrale prognoses en ingrepen van operators vastlegt.

Onderzoekers van de University of Southern Denmark vragen waar uitleg van het model stopt. Software-agenten passen plannen aan en verdelen taken. Zij beschrijven daarom een keten van bewijs, van doel tot uitgevoerde actie.

Die keten sluit aan op de AI-verordening, de Europese wet voor AI. De wet vraagt transparantie, bewaarde gegevens en toezicht door mensen. Het onderzoekskader maakt daar controlepunten van in de levensloop van het systeem.

Gecontroleerd op 23 oktober 2026