Waarom is dit belangrijk?
Verantwoordelijkheid voor toezicht en gebruik blijft bij de organisatie die een AI-systeem toepast, ook wanneer een leverancier het systeem heeft gemaakt. In het onderwijs geldt dit voor scholen die AI-software gebruiken om toelating, leerresultaten of gedrag tijdens toetsen te beoordelen. Leerlingen en docenten kunnen zo vragen wie de controle houdt, maar menselijk toezicht sluit fouten of een ongelijke behandeling niet altijd uit.
Zo werkt het in de praktijk
Organisaties zijn gebruiksverantwoordelijke bij AI voor werving, selectie of het volgen van werkprestaties. Overheden doen dat bij zorg of een uitkering, anderen bij krediet of een verzekeringsrisico. De werkgever meldt dit vooraf aan werknemers en hun vertegenwoordigers.
Elk jaar toetst de Europese Commissie of de lijst met hoogrisicotoepassingen moet veranderen. Die lijst bepaalt wanneer de plichten van de gebruiksverantwoordelijke gelden. Een wetenschappelijk panel adviseert het Europese AI-bureau over de toepassing van de regels.
De AI-verordening legt de werkwijze vast. De gebruiksverantwoordelijke volgt de gebruiksaanwijzing, wijst bekwaam personeel aan voor toezicht en controleert de invoer bij eigen beheer. Bij publieke diensten volgt een beoordeling van gevolgen voor grondrechten, plus registratie in de EU-databank.




