Waarom is dit belangrijk?
De plichten voor een AI-systeem met hoog risico schuiven mee naar de partij die later een substantiële wijziging doorvoert. In de zorg geldt dit voor AI die een medisch hulpmiddel is, omdat aparte regels daar bepalen welke aanpassing meetelt. Inkopers en teams op het werk die zo'n systeem daarna zelf aanpassen, kunnen daardoor onverwacht aanbieder worden en de bijbehorende documentatie moeten bijhouden.
Zo werkt het in de praktijk
In het Algoritmekader leggen juristen en projectleiders de substantiële wijziging vast bij de inkoop. Zij zetten die controle in de eisenlijst en in het contract. Zij vragen ook bewijs en een audit.
Een scriptie aan de Universiteit van Helsinki onderzoekt welke aanpassing later meetelt. Een kleiner doel dan bij de eerste toets telt niet. Een ruimer doel, of zelfleren op een eerst vast systeem, telt bijna altijd wel.
De AI-verordening koppelt dit aan de conformiteitsbeoordeling, een toets vóór gebruik. Meestal toetst de aanbieder het systeem zelf, via bijlage VI. Bij biometrie toetst een externe partij het kwaliteitsbeheer en de documentatie, via bijlage VII.




