Waarom is dit belangrijk?
Wie een model kan nalopen, ziet sneller of een uitkomst klopt of dat vooroordelen die uitkomst sturen. Overheidsdiensten zetten modellen in bij besluiten over burgers en moeten letten op privacy, beperkte uitleg en het risico van ongelijke behandeling. Medewerkers en betrokkenen kunnen een uitkomst dan beter controleren, maar een toelichting is niet bij elk systeem volledig of makkelijk te volgen.
Zo werkt het in de praktijk
In de financiële sector komt interpreteerbaarheid terug bij kredietbeoordeling en fraudeopsporing. Een overzicht van vakartikelen zet methoden naast elkaar die de redenering achter een beslissing tonen. In de energiesector laat een studie zien hoe een virtuele energiecentrale prognoses en ingrepen van operators vastlegt.
Onderzoekers van de University of Southern Denmark vragen waar uitleg van het model stopt. Software-agenten passen plannen aan en verdelen taken. Zij beschrijven daarom een keten van bewijs, van doel tot uitgevoerde actie.
Die keten sluit aan op de AI-verordening, de Europese wet voor AI. De wet vraagt transparantie, bewaarde gegevens en toezicht door mensen. Het onderzoekskader maakt daar controlepunten van in de levensloop van het systeem.




