Waarom is dit belangrijk?
Alleen een aparte validatie laat zien of een AI-model in de dagelijkse praktijk echt klopt of alleen sterk lijkt. In de zorg controleren ziekenhuizen daarom of een model voor röntgenfoto's ook in een ander ziekenhuis betrouwbaar blijft. Voor patiënten en artsen geeft dit meer houvast bij een medische diagnose, maar in een ander ziekenhuis kan de uitkomst alsnog duidelijk tegenvallen.
Zo werkt het in de praktijk
Gemeente Amsterdam traint een model voor lantaarnpalen op beelden uit Amsterdam-Oost en test daarna onder andere in Weesp. Gemeente Ede controleert een model voor de WOZ-waarde op aparte data. Zo blijkt of onbekende woningen goed worden gewaardeerd.
TNO onderzoekt hoe organisaties meten of een taalmodel doet wat het moet doen. Een test kan te makkelijk zijn als het model de antwoorden al tijdens de training zag. TNO bouwt daarom een toolkit met testen die teams later kunnen herhalen.
Het Algoritmekader vraagt om een aparte validatieset bij machinelearning. Ontwikkelaars vergelijken modelvarianten op data die niet voor training zijn gebruikt. K-fold cross-validation, een toets op steeds andere delen, sluit aan op de AI-verordening voor nauwkeurige en robuuste hoog-risicosystemen.




