Waarom is dit belangrijk?
Leerlingen en sollicitanten lopen zo minder risico dat software hun schoolplek of baan bepaalt, zonder dat iemand de werking vooraf heeft nagekeken. In het onderwijs geldt een conformiteitsbeoordeling voor software die examens nakijkt of beslist over toegang tot een opleiding. Dat biedt leerlingen en werknemers meer bescherming bij grote keuzes, al neemt een controle vooraf latere fouten of ongelijke behandeling niet helemaal weg.
Zo werkt het in de praktijk
Een derde partij beoordeelt systemen die biometrie gebruiken, en AI die een veiligheidsonderdeel is van een al gereguleerd product. Het Algoritmekader neemt die eis mee in inkoop en contracten. Na een ingrijpende wijziging volgt een nieuwe conformiteitsbeoordeling.
CEN en CENELEC stelden norm EN 18286 op voor het kwaliteitsbeheer van aanbieders. De norm volgt de levenscyclus van het AI-systeem. De Europese Commissie publiceerde de verwijzing in het Publicatieblad.
Wie EN 18286 toepast, krijgt een vermoeden van conformiteit: het kwaliteitsbeheer geldt dan als passend voor de eisen die de norm dekt. De norm ligt boven op ISO/IEC 42001, een norm voor het besturen van AI. De aanbieder maakt daarna een EU-conformiteitsverklaring.




