Begrippen die beginnen met R (3)
Alle AI-termen die beginnen met de letter R, in gewone taal.
Ethiek en regelgeving
Red teaming
Red teaming
Red teaming is een testmethode waarbij een team een AI-systeem gericht aanvalt om zwakke plekken te vinden. Testers bootsen misbruik na met prompts die veiligheidsregels omzeilen of met een verborgen opdracht in tekst die het systeem leest, anders dan gewone tests die alleen nagaan of functies kloppen. Zo komen zwakke plekken aan het licht voordat gewone gebruikers of aanvallers die in het echte gebruik tegenkomen.
Ethiek en regelgeving
Redelijkerwijs te voorzien misbruik
Redelijkerwijs te voorzien misbruik
Redelijkerwijs te voorzien misbruik is gebruik van een AI-systeem dat niet past bij het beoogde doel. Het kan ontstaan door gedrag van mensen dat redelijkerwijs vooraf te verwachten is, of door contact met andere systemen, waaronder andere AI-systemen. Een concreet voorbeeld is een chatbot die alleen algemene vragen mag beantwoorden, terwijl gebruikers hem toch om een persoonlijk medisch advies vragen.
Ethiek en regelgeving
Risico
Risico
In de AI-verordening is risico de combinatie van de kans op schade en de ernst van die schade. Die definitie weegt twee factoren tegen elkaar: de kans dat schade ontstaat en de ernst voor de gezondheid, de veiligheid of de grondrechten van mensen. Een zeldzame fout met schade aan de gezondheid van een persoon kan daardoor zwaarder wegen dan een veelvoorkomende fout met kleine gevolgen.




