Waarom is dit belangrijk?
Zonder inzicht in de reden achter een uitkomst is het lastig om een foute of eenzijdige AI-beslissing op tijd te herkennen en bij te sturen. In de zorg gebruiken artsen uitlegbare AI om te controleren waarom een systeem op een scan een diagnose stelt. Voor patiënten en zorgverleners maakt dat zorgvuldige keuzes mogelijk, al blijft het zonder voldoende inzicht lastig om een advies goed te controleren.
Zo werkt het in de praktijk
In de financiële sector komt uitlegbare AI voor bij fraudeopsporing en marktvoorspellingen. Studies gebruiken daar vooral SHAP en LIME, methoden die tonen welke invoer de uitkomst stuurt. Het programma XAI van de Amerikaanse organisatie DARPA wil doorzichtige modellen maken die een mens kan volgen.
Onderzoekers testen waar een taalmodel een feit bewaart, door delen van het model te verstoren. Eén studie wijst de middelste lagen aan. Later werk ziet die kennis verspreid over het model.
De norm ISO/IEC TR 29119-11 legt uitlegbaarheid uit als begrip van een uitkomst. Die norm geeft richtlijnen voor het testen van AI-systemen. De Europese privacywet AVG geeft mensen een recht op uitleg bij een geautomatiseerde beslissing.




