Waarom is dit belangrijk?
Heldere eisen aan ontwerp en controle helpen voorkomen dat AI-systemen mensen ongelijk behandelen of persoonsgegevens te ruim gebruiken. In het onderwijs passen leersystemen opdrachten aan, maar ze schatten leerlingen die de stof minder beheersen vaak slechter in en leggen gegevens van hen vast. Docenten en leerlingen krijgen zo hulp bij oefenen, terwijl een leraar moet blijven meebeslissen omdat het systeem de thuissituatie van een kind niet kent.
Zo werkt het in de praktijk
ISO/PAS 8800 richt zich op ongewenst rijgedrag door gebrekkige uitvoer van AI in serieauto's. Bij de Europese Commissie werkt TNO in een consortium aan risicomodellen en toetsmethoden voor algemene AI-modellen.
TNO onderzoekt een onafhankelijke beoordeling van AI-veiligheid, omdat een gedeelde methode nog ontbreekt. Bij taalmodel GPT-NL zoekt TNO kwetsbaarheden met experimenten en praktijkcases. Red teaming bootst aanvallen na en toont hoe een model reageert op manipulatie en misbruik.
Organisaties gebruiken het AI Risk Management Framework van NIST. Dit vrijwillige kader helpt risico's bij ontwerp, gebruik en evaluatie te sturen, in kaart te brengen, te meten en te beheersen. ISO/PAS 8800 beschrijft eigenschappen van AI in auto's om te onderbouwen dat er geen onredelijk risico is.




