Waarom is dit belangrijk?
Organisaties kunnen taken laten meebewegen met de situatie, zoals oefeningen die worden afgestemd op het gedrag van een leerling. Bij de digitalisering van onderwijs, zorg en de arbeidsmarkt komen deze AI-systemen terecht in scholen, ziekenhuizen en op de werkvloer. Leerlingen, patiënten en werknemers krijgen daardoor passende ondersteuning bij hun dagelijkse taken, maar zonder goede toetsing kunnen vooroordelen tot ongelijke behandeling leiden.
Zo werkt het in de praktijk
Overheidsorganisaties publiceren AI-systemen in het Algoritmeregister van de Nederlandse overheid. Het register laat zien hoe impactvolle algoritmes werken, ook AI-systemen met een hoog risico. De gemeente Amsterdam en de Douane lopen daarbij voorop.
De Autoriteit Persoonsgegevens beschrijft in de Rapportage AI & Algoritmes Nederland hoe overheden algoritmes en AI-systemen registreren. De meeste overheidsorganisaties ontbreken nog in het register.
Het Algoritmekader bundelt de belangrijkste regels voor verantwoord gebruik van overheidsalgoritmes. Bij hoog risico vraagt de AI-verordening een test, documentatie en controle tijdens het gebruik. ISO/IEC 42001 is een norm voor een managementsysteem waarmee een organisatie een AI-systeem beheert, bewaakt en verbetert.




