Naar inhoud
BetaAI Begrippen

AI-begrippen in gewone taal. Zoek een begrip, blader op letter of filter op onderwerp.

Red teaming

Engels: Red teaming · Ook wel: red-teaming

In het kort

Red teaming is een testmethode waarbij een team een AI-systeem gericht aanvalt om zwakke plekken te vinden. Testers bootsen misbruik na met prompts die veiligheidsregels omzeilen of met een verborgen opdracht in tekst die het systeem leest, anders dan gewone tests die alleen nagaan of functies kloppen. Zo komen zwakke plekken aan het licht voordat gewone gebruikers of aanvallers die in het echte gebruik tegenkomen.

Waarom is dit belangrijk?

Met red teaming kunnen aanbieders van grote AI-modellen risico's opsporen die veel mensen tegelijk raken, en het model daarna aanpassen. De Europese AI-verordening vraagt aanbieders van zulke krachtige modellen om die tests en de gevolgde aanpassingen te beschrijven. Op het werk en op school merken gebruikers die controle in hun hulpmiddelen, maar een testprogramma blijft onvolledig als later nieuw misbruik opduikt.

Zo werkt het in de praktijk

Teams doen red teaming in een gecontroleerde omgeving, samen met de bouwers. NIST beschrijft dit als een oefening om onnauwkeurige, schadelijke of discriminerende uitvoer te vinden. De test kan plaatsvinden voordat een model openbaar wordt, of daarna.

NIST koppelt red teaming aan het AI Risk Management Framework, een vrijwillig kader voor AI-risico's. In het Generative AI Profile is de test een praktijk in ontwikkeling. Organisaties leggen vast waar de oefening het meeste oplevert en welke kennis het team nodig heeft.

OWASP beschrijft red teaming in het GenAI Red Teaming Manual als een werkwijze van acht fasen. Die lopen van planning en verkenning tot rapportage en herstel. Het handboek geldt voor modellen, toepassingen, meerdere soorten invoer en AI-agenten.

Bron: aanloopai.nl

Gecontroleerd op 5 november 2026