Waarom is dit belangrijk?
Toezichthouders kunnen een AI-systeem dat de Europese regels schendt laten stilleggen, zodat verdere schade aan rechten of veiligheid van mensen stopt. In het onderwijs geldt dat voor systemen die toelating regelen of leerresultaten van leerlingen beoordelen. Voor leerlingen en docenten kan een fout systeem dan verdwijnen, maar een lopend toetsproces of plaatsingsproces valt ook stil en besluiten moeten opnieuw worden bekeken.
Zo werkt het in de praktijk
De Rijksinspectie Digitale Infrastructuur en de Autoriteit Persoonsgegevens coördineren het toezicht op AI in Nederland. Bij machines, liften of speelgoed met AI blijft de controle bij de toezichthouder van dat product. Een markttoezichtautoriteit kan terugroepen eisen als het systeem niet aan de AI-verordening voldoet.
De Europese Commissie toetst de maatregel als een lidstaat bezwaar maakt of als zij strijd met de Europese regels ziet. Zij overlegt met de toezichthouder en de betrokken partijen. Binnen zes maanden beslist zij of de maatregel gerechtvaardigd is.
De AI-verordening beschrijft hoe een markttoezichtautoriteit een risicovol AI-systeem beoordeelt. Zij let extra op kwetsbare groepen. De aanbieder krijgt hoogstens vijftien werkdagen om het systeem aan te passen of terug te roepen.




