Waarom is dit belangrijk?
Dankzij het beoogd doel kunnen organisaties zien welk risico een AI-systeem meebrengt en welke regels dan gelden. In het onderwijs en bij werving bepaalt het beoogd doel of een systeem voor examens of cv-selectie als hoog risico geldt. Voor leerlingen en sollicitanten kan zo’n systeem de toegang tot een opleiding of baan sturen, met risico’s voor latere carrièrekansen en het levensonderhoud.
Zo werkt het in de praktijk
De Europese Commissie bepaalt aan de hand van het beoogd doel of een AI-systeem hoog risico is. Dat geldt voor systemen die de veiligheid van wegverkeer of van water, gas, warmte en elektriciteit bewaken. Ook AI in een medisch hulpmiddel hoort daarbij als het een veiligheidsfunctie heeft.
De Commissie schrijft richtsnoeren voor die indeling en herziet de lijst elk jaar. De normorganisaties CEN en CENELEC maken die normen in opdracht van de Commissie. Die normen zijn nog niet af.
Voor de markttoelating toetst de aanbieder of het systeem aan de eisen voldoet. Die conformiteitsbeoordeling herhaalt hij als het beoogd doel wezenlijk wijzigt. Met zo’n norm mag hij aannemen dat het systeem voldoet, en hij houdt een kwaliteitsbeheersysteem bij.




