Waarom is dit belangrijk?
Software kan dankzij het leerproces taken uitvoeren die per geval anders lopen, zodat organisaties niet voor elke uitzondering aparte instructies hoeven te bedenken. In het onderwijs zetten scholen dit in via leersystemen die de stof aanpassen en via analyses van de voortgang van leerlingen. Leerlingen en docenten hebben er op school dagelijks mee te maken, maar fouten of vertekening in dat leerproces kunnen de kansen ongelijk maken.
Zo werkt het in de praktijk
Op medische scans herkent een model ziektebeelden, terwijl spamfilters ongewenste e-mail van gewone berichten scheiden. IBM zette dit leerproces in bij het schaakprogramma Deep Blue, waarin het model zetten met punten scoorde.
Een risico bij het trainen is modelinstorting. De kwaliteit daalt dan, omdat het model leert van gegevens die een eerder model zelf maakte. Mensen markeren daarom welke gegevens kloppen met de werkelijkheid.
In het Algoritmekader van de Rijksoverheid traint een team het model met voorbereide gegevens. Gegevens voor trainen, testen en controleren blijven apart, zodat het model niet te strak of te los leert. De AI-verordening eist dat AI-systemen met een hoog risico getest zijn.




