Naar inhoud
BetaAI Begrippen

AI-begrippen in gewone taal. Zoek een begrip, blader op letter of filter op onderwerp.

Systeemrisico

Engels: Systeemrisico · Ook wel: systemic risk

In het kort

Een systeemrisico is een risico dat hoort bij AI-modellen voor algemene doeleinden met grote impact. Anders dan een risico in één systeem kan dit risico zich op grote schaal door de hele waardeketen verspreiden. Het kan de markt van de Unie raken door dat bereik, of nu of later de gezondheid, de veiligheid, de openbare veiligheid, de grondrechten of de samenleving als geheel schaden.

Waarom is dit belangrijk?

Extra plichten voor de krachtigste modellen maken het mogelijk om ernstige incidenten te melden en daarna gericht te herstellen. Overheden nemen die plichten mee in inkoop en contracten wanneer zij zulke modellen inzetten voor publieke taken. Werknemers en burgers merken dat vooral als een fout in één model doorwerkt in veel diensten tegelijk, terwijl meldplicht de controle vergroot maar vertraging of onvolledige informatie niet uitsluit.

Zo werkt het in de praktijk

Aanbieders van geavanceerde modellen volgen een praktijkcode van het Europese AI-bureau. De code noemt modellen van OpenAI, Anthropic en Google als voorbeelden op de Europese markt. Aanbieders brengen systeemrisico’s in kaart en schrijven per risico een scenario.

Onderzoekers van het Gemeenschappelijk Centrum voor Onderzoek meten het aantal directe gebruikers. Die maat kan meetellen bij de indeling van een model met systeemrisico. Zij tellen schermgebruik en koppelingen met programma’s, en stellen meldcijfers voor.

De AI-verordening koppelt de indeling met systeemrisico aan technische tests en benchmarks. De praktijkcode voegt een kader voor veiligheid en beveiliging toe. Aanbieders analyseren elk systeemrisico en beslissen daarna of zij met het model doorgaan.

Gecontroleerd op 5 november 2026