Waarom is dit belangrijk?
Door een AI-systeem uit de handel te nemen, kunnen toezichthouders verboden systemen tegenhouden voordat organisaties ze nieuw invoeren. Bij de overheid gebeurt dat als een systeem de regels van de AI-verordening niet haalt, bijvoorbeeld door een onaanvaardbaar risico voor burgers. Werknemers merken dat zo’n systeem dan niet meer beschikbaar komt, terwijl organisaties die het al gebruiken het soms ook moeten stoppen om boetes te voorkomen.
Zo werkt het in de praktijk
Acht de Europese Commissie een maatregel van een lidstaat gerechtvaardigd, dan nemen alle lidstaten het AI-systeem zonder onnodige vertraging uit de handel. De betrokken partij doet dat ook voor elk systeem dat zij op de markt van de Unie heeft aangeboden.
De markttoezichtautoriteit onderzoekt of het AI-systeem aan de eisen voldoet. Zij let extra op risico’s voor kwetsbare groepen. Voldoet het systeem niet, dan volgt een termijn van hooguit vijftien werkdagen voor herstel, uit de handel nemen of terugroepen.
De procedure staat in artikel 79 van de AI-verordening. Die koppelt het systeem aan de Europese regels voor markttoezicht op producten. Een AI-systeem met een risico telt daarbij als een product dat een risico vormt.




