Waarom is dit belangrijk?
Digitale aanvallen worden sneller en goedkoper, waardoor organisaties ze niet meer alleen met mensen kunnen bijhouden. In de zorg en bij de overheid houdt AI-beveiliging belangrijke diensten beschikbaar, omdat een storing in de ene sector snel kan doorwerken naar een andere. Werknemers en burgers houden zo langer toegang tot zorg en publieke diensten, terwijl aanvallers dezelfde techniek inzetten en een gat in de verdediging mogelijk blijft.
Zo werkt het in de praktijk
In Prometheus zoeken TNO en de Nederlandse Spoorwegen met AI automatisch naar zwakke plekken in software. TNO leidt een proef naar modellen die veilig genoeg zijn om in te zetten. De proef bekijkt ook hoe AI kwetsbaarheden vindt vóór een aanvaller.
Onderzoekers bij TNO vragen hoe veilig een taalmodel is voordat het in gebruik gaat. Bij GPT-NL analyseren zij het modelgedrag en misbruikscenario’s. Met ProViLE, een open methode van TNO, testen organisaties eigen toepassingen in vier stappen.
AI-beveiliging sluit aan op de Europese AI-verordening, de EU-wet voor AI. TNO helpt het AI Office van de Europese Commissie met risicomodellen en manieren om grote AI-modellen te toetsen. Secure-by-design betekent dat beveiliging al in het ontwerp van het AI-systeem zit.




