Naar inhoud
BetaAI Begrippen

AI-begrippen in gewone taal. Zoek een begrip, blader op letter of filter op onderwerp.

Terugroepen van een AI-systeem

Engels: Terugroepen van een AI-systeem · Ook wel: recall van een AI-systeem, AI system recall, recall of an AI system

In het kort

Terugroepen van een AI-systeem is een maatregel die een al beschikbaar systeem terugstuurt naar de aanbieder, stopt of onbruikbaar maakt. Dit verschilt van het uit de handel nemen, dat nieuwe levering in de keten tegenhoudt voordat een systeem op de markt komt. Bij terugroepen gaat het om systemen die organisaties al gebruiken, zoals een ziekenhuis dat een diagnosesysteem uitzet of terugstuurt.

Waarom is dit belangrijk?

Toezichthouders kunnen een AI-systeem dat de Europese regels schendt laten stilleggen, zodat verdere schade aan rechten of veiligheid van mensen stopt. In het onderwijs geldt dat voor systemen die toelating regelen of leerresultaten van leerlingen beoordelen. Voor leerlingen en docenten kan een fout systeem dan verdwijnen, maar een lopend toetsproces of plaatsingsproces valt ook stil en besluiten moeten opnieuw worden bekeken.

Zo werkt het in de praktijk

De Rijksinspectie Digitale Infrastructuur en de Autoriteit Persoonsgegevens coördineren het toezicht op AI in Nederland. Bij machines, liften of speelgoed met AI blijft de controle bij de toezichthouder van dat product. Een markttoezichtautoriteit kan terugroepen eisen als het systeem niet aan de AI-verordening voldoet.

De Europese Commissie toetst de maatregel als een lidstaat bezwaar maakt of als zij strijd met de Europese regels ziet. Zij overlegt met de toezichthouder en de betrokken partijen. Binnen zes maanden beslist zij of de maatregel gerechtvaardigd is.

De AI-verordening beschrijft hoe een markttoezichtautoriteit een risicovol AI-systeem beoordeelt. Zij let extra op kwetsbare groepen. De aanbieder krijgt hoogstens vijftien werkdagen om het systeem aan te passen of terug te roepen.

Gecontroleerd op 5 november 2026