Waarom is dit belangrijk?
Door de rol van exploitant vast te leggen, wordt duidelijk wie welke plicht heeft als een AI-systeem een beslissing beïnvloedt. In het onderwijs moeten scholen die een systeem inzetten voor toelating of het beoordelen van leerresultaten leerlingen en ouders informeren en incidenten melden. Leerlingen, docenten en ouders krijgen zo meer zicht op wie verantwoordelijk is, maar een fout of een onduidelijke rol kan een beslissing over de schoolloopbaan lastig herstellen.
Zo werkt het in de praktijk
Overheden die een hoogrisicosysteem zelf inzetten, doen dat als gebruiksverantwoordelijke binnen de rol van exploitant. Zij controleren of de aanbieder het systeem in de Europese databank heeft staan. Ontbreekt die registratie, dan stopt het gebruik en volgt een melding aan de aanbieder of de distributeur.
In Nederland is het Nederlandse Normalisatie-Instituut NEN verantwoordelijk voor geharmoniseerde Europese normen bij de AI-verordening. Die normen zijn nog in ontwikkeling. Aanbieders kunnen ermee laten zien dat een hoogrisicosysteem veilig en betrouwbaar is.
Het Algoritmekader koppelt de gebruiksverantwoordelijke aan inkoop en contracten. Overheden zetten de eisen in de aanbesteding en in het contract, inclusief een audit. De AI-verordening vraagt van de aanbieder daarnaast een systeem voor risicomanagement en kwaliteitsbeheer.




