Waarom is dit belangrijk?
Door het gebruik van een AI-systeem lang na de start te volgen, komen geleidelijke dalingen in de prestaties eerder aan het licht. Bij de overheid geldt dit voor AI-systemen met een hoog risico, tijdens de hele periode dat zij in gebruik zijn. Burgers en werknemers zijn erbij gebaat dat zulke afwijkingen eerder zichtbaar worden, maar een verminderde prestatie kan toch onopgemerkt blijven.
Zo werkt het in de praktijk
Aanbieders van AI-systemen met een hoog risico documenteren een systeem voor monitoring na het in de handel brengen. Financiële instellingen mogen de onderdelen opnemen in bestaande plannen voor intern bestuur. Bij producten met een bestaand plan onder andere Europese productregels mag de aanbieder de onderdelen daarin zetten.
De Europese Commissie maakt een toelichting en een sjabloon voor het plan. Die zijn uiterlijk 2 september 2027 voorzien. Het plan maakt deel uit van de technische documentatie.
De aanbieder verzamelt en analyseert gegevens over de werking, in verhouding tot de techniek en de risico’s. Die gegevens komen van de organisatie die het systeem inzet, of uit andere bronnen. Waar nodig bekijkt de aanbieder ook de samenwerking met andere AI-systemen.




