Waarom is dit belangrijk?
Kennis van de beperkingen van AI laat zien wanneer een mens een onzekere uitkomst moet controleren. Overheden en bedrijven gebruiken AI bij besluiten over mensen, en Europese regels vragen daarbij om menselijk toezicht, goede data en openheid. Op school en op het werk helpt dat om een tekst of een advies te wegen, al blijft een fout of vooroordeel mogelijk.
Zo werkt het in de praktijk
In de radiologie meten ziekenhuizen de nauwkeurigheid op de eigen patiëntengroep, vóór gebruik bij het opsporen van afwijkingen. De vakverenigingen ACR, CAR, ESR, RANZCR en RSNA vragen om die nauwkeurigheid daarna te blijven volgen.
Het Rathenau Instituut onderzoekt hoe AI de aard van wetenschappelijke kennis verandert. Het bekijkt welke controle op kwaliteit dan nodig is, en welke vaardigheden onderzoekers moeten hebben. AI-samenvattingen zijn soms onvolledig of fout, en een antwoord kan op geen bron steunen.
De radiologieverenigingen vragen om heldere informatie over het doel, de grenzen en de verwachte nauwkeurigheid. De norm ISO/IEC 23894 beschrijft hoe organisaties risico’s van AI in kaart brengen en beheersen. Die aanwijzing sluit aan op ISO 31000, een algemeen kader voor het omgaan met risico’s.




