Naar inhoud
BetaAI Begrippen

AI-begrippen in gewone taal. Zoek een begrip, blader op letter of filter op onderwerp.

Uitlegbaarheid

Engels: Explainability · Ook wel: explainability

In het kort

Uitlegbaarheid is de mate waarin een AI-systeem mensen helder en juist vertelt waarom een resultaat ontstond. Bij veel AI-systemen blijven de rekenstappen verborgen, terwijl gewone software vaste regels volgt die een programmeur kan nalopen. Een toelichting die het systeem zelf maakt, hoeft het echte rekenproces niet weer te geven, zoals wanneer een AI in een ziekenhuis een diagnose geeft en redenen noemt die niet bij die berekening horen.

Waarom is dit belangrijk?

Dankzij uitlegbaarheid kunnen mensen nagaan waarom een computer tot een besluit komt en dat besluit later zo nodig aanvechten. Overheden passen dit toe bij algoritmes die aanvragen beoordelen, zodat ambtenaren en burgers de redenen in een besluit kunnen nalezen. Voor inwoners en werknemers geeft dat meer grip op automatische keuzes, al kan een toelichting nog steeds onvolledig zijn of verkeerd worden gelezen.

Zo werkt het in de praktijk

In bankieren en verzekeren helpt uitlegbaarheid bij kredietscores, fraudeopsporing en de keuze van polishouders. Een overzicht van studies beschrijft dat SHAP en LIME tonen welke gegevens een score veranderen. Het programma DARPA XAI werkt aan modellen die een mens tijdens het gebruik kan volgen.

Onderzoek naar uitlegbaarheid vraagt hoe een neuraal netwerk tot een uitkomst komt. Mechanistische interpretatie probeert de interne onderdelen te herleiden, zoals bij een machine. Voor taalmodellen zoeken onderzoekers welke patronen in het netwerk bij een begrip horen.

De AI-verordening vraagt bij hoog-risicosystemen een gebruiksaanwijzing. Die tekst helpt om de uitkomsten te duiden, zodat de gebruiker het systeem juist inzet. Een ISO-richtlijn voor softwaretesten noemt uitlegbaarheid de mate waarin iemand begrijpt hoe het systeem tot een resultaat kwam.

Gecontroleerd op 23 oktober 2026