Waarom is dit belangrijk?
Pas als duidelijk is of een systeem de afgesproken taak goed genoeg uitvoert, kunnen scholen fouten tijdig zien en het gebruik bijsturen. In het onderwijs worden zulke systemen gebruikt om leerresultaten te beoordelen en een passend niveau te adviseren. Voor leerlingen hangt daarvan af of een cijfer of een plaatsing klopt, maar een vertekend of fout resultaat kan die uitkomst onterecht veranderen.
Zo werkt het in de praktijk
Overheidsorganisaties meten de prestaties van een AI-systeem terwijl het in gebruik is. Het Algoritmekader beschrijft daarvoor een fase van monitoring en beheer. Teams controleren of het systeem nog doet waarvoor het is ontworpen, ook wanneer data of werkprocessen veranderen.
Artikel 15 van de AI-verordening richt zich op het meten van prestaties. De Europese Commissie stimuleert daarvoor methoden, samen met instanties voor metingen en vergelijkingstests. Die methoden gaan over nauwkeurigheid, robuustheid en andere prestatiematen.
Het Algoritmekader, een hulpmiddel voor overheidsorganisaties, koppelt deze prestaties aan de AI-verordening. Die verordening eist dat hoog-risicosystemen nauwkeurig, robuust en cyberveilig blijven. Organisaties evalueren daarom de nauwkeurigheid en de betrouwbaarheid en volgen de werking tijdens het gebruik.




