Waarom is dit belangrijk?
Met red teaming kunnen aanbieders van grote AI-modellen risico's opsporen die veel mensen tegelijk raken, en het model daarna aanpassen. De Europese AI-verordening vraagt aanbieders van zulke krachtige modellen om die tests en de gevolgde aanpassingen te beschrijven. Op het werk en op school merken gebruikers die controle in hun hulpmiddelen, maar een testprogramma blijft onvolledig als later nieuw misbruik opduikt.
Zo werkt het in de praktijk
Teams doen red teaming in een gecontroleerde omgeving, samen met de bouwers. NIST beschrijft dit als een oefening om onnauwkeurige, schadelijke of discriminerende uitvoer te vinden. De test kan plaatsvinden voordat een model openbaar wordt, of daarna.
NIST koppelt red teaming aan het AI Risk Management Framework, een vrijwillig kader voor AI-risico's. In het Generative AI Profile is de test een praktijk in ontwikkeling. Organisaties leggen vast waar de oefening het meeste oplevert en welke kennis het team nodig heeft.
OWASP beschrijft red teaming in het GenAI Red Teaming Manual als een werkwijze van acht fasen. Die lopen van planning en verkenning tot rapportage en herstel. Het handboek geldt voor modellen, toepassingen, meerdere soorten invoer en AI-agenten.




