Waarom is dit belangrijk?
Dankzij uitlegbaarheid kunnen mensen nagaan waarom een computer tot een besluit komt en dat besluit later zo nodig aanvechten. Overheden passen dit toe bij algoritmes die aanvragen beoordelen, zodat ambtenaren en burgers de redenen in een besluit kunnen nalezen. Voor inwoners en werknemers geeft dat meer grip op automatische keuzes, al kan een toelichting nog steeds onvolledig zijn of verkeerd worden gelezen.
Zo werkt het in de praktijk
In bankieren en verzekeren helpt uitlegbaarheid bij kredietscores, fraudeopsporing en de keuze van polishouders. Een overzicht van studies beschrijft dat SHAP en LIME tonen welke gegevens een score veranderen. Het programma DARPA XAI werkt aan modellen die een mens tijdens het gebruik kan volgen.
Onderzoek naar uitlegbaarheid vraagt hoe een neuraal netwerk tot een uitkomst komt. Mechanistische interpretatie probeert de interne onderdelen te herleiden, zoals bij een machine. Voor taalmodellen zoeken onderzoekers welke patronen in het netwerk bij een begrip horen.
De AI-verordening vraagt bij hoog-risicosystemen een gebruiksaanwijzing. Die tekst helpt om de uitkomsten te duiden, zodat de gebruiker het systeem juist inzet. Een ISO-richtlijn voor softwaretesten noemt uitlegbaarheid de mate waarin iemand begrijpt hoe het systeem tot een resultaat kwam.




