Naar inhoud
BetaAI Begrippen

AI-begrippen in gewone taal. Zoek een begrip, blader op letter of filter op onderwerp.

AI-veiligheid

Engels: AI Safety · Ook wel: AI safety, artificial intelligence safety

In het kort

AI-veiligheid is het vakgebied dat ervoor zorgt dat AI-systemen betrouwbaar werken en geen schade veroorzaken. Anders dan software met vaste regels kan een krachtig AI-systeem onverwacht reageren bij brede inzet of in een onverwachte situatie. Onderzoekers zoeken die risico's vooraf op, zodat een systeem ook dan binnen veilige grenzen blijft, zoals een hulpmiddel dat artsen ook bij een zeldzame klacht een veilig advies geeft.

Waarom is dit belangrijk?

Heldere eisen aan ontwerp en controle helpen voorkomen dat AI-systemen mensen ongelijk behandelen of persoonsgegevens te ruim gebruiken. In het onderwijs passen leersystemen opdrachten aan, maar ze schatten leerlingen die de stof minder beheersen vaak slechter in en leggen gegevens van hen vast. Docenten en leerlingen krijgen zo hulp bij oefenen, terwijl een leraar moet blijven meebeslissen omdat het systeem de thuissituatie van een kind niet kent.

Zo werkt het in de praktijk

ISO/PAS 8800 richt zich op ongewenst rijgedrag door gebrekkige uitvoer van AI in serieauto's. Bij de Europese Commissie werkt TNO in een consortium aan risicomodellen en toetsmethoden voor algemene AI-modellen.

TNO onderzoekt een onafhankelijke beoordeling van AI-veiligheid, omdat een gedeelde methode nog ontbreekt. Bij taalmodel GPT-NL zoekt TNO kwetsbaarheden met experimenten en praktijkcases. Red teaming bootst aanvallen na en toont hoe een model reageert op manipulatie en misbruik.

Organisaties gebruiken het AI Risk Management Framework van NIST. Dit vrijwillige kader helpt risico's bij ontwerp, gebruik en evaluatie te sturen, in kaart te brengen, te meten en te beheersen. ISO/PAS 8800 beschrijft eigenschappen van AI in auto's om te onderbouwen dat er geen onredelijk risico is.

Gecontroleerd op 23 oktober 2026