Waarom is dit belangrijk?
Dankzij gebruiksinstructies weet een organisatie hoe een AI-systeem presteert en wanneer de uitkomst onbetrouwbaar kan zijn, zodat zij het niet blind inzet. Bij werving en selectie helpt die informatie personeelsdiensten om automatische cv-selectie te controleren voordat iemand wordt afgewezen. Voor sollicitanten betekent dit dat een afwijzing niet alleen op een automatisch oordeel mag rusten, maar een gemiste instructie laat vooroordelen in de selectie toch door.
Zo werkt het in de praktijk
Het Algoritmekader van de overheid koppelt gebruiksinstructies aan de inkoop van een AI-systeem met een hoog risico. Organisaties bespreken de eisen met de aanbieder en zetten ze in het programma van eisen en in het contract. Projectleiders maken een werkinstructie voor medewerkers die het systeem dagelijks bedienen.
De AI-verordening vraagt in artikel 13 dat een systeem met een hoog risico vergezeld gaat van gebruiksinstructies. Daarin staan het onderhoud, de updates, de benodigde apparatuur en de manier om logbestanden te lezen. Het Algoritmekader gebruikt die informatie om te bepalen welke taken een medewerker controleert.




