Waarom is dit belangrijk?
Organisaties kunnen AI-systemen in groepen plaatsen, zodat strenge regels alleen gelden waar die nodig zijn en lichtere systemen bruikbaar blijven. In onderwijs en werk gaat het dan om systemen met een hoog risico, zoals het beoordelen van examens of het selecteren van cv's. Voor leerlingen en sollicitanten horen daarbij menselijk toezicht en extra controles, maar een verkeerde indeling van het risico blijft mogelijk.
Zo werkt het in de praktijk
De AI-verordening zet bepaalde AI-toepassingen op een lijst met een hoog risico. Een onderdeel dat de veiligheid bewaakt bij wegverkeer of bij de stroomvoorziening staat erop. Dat geldt ook voor een kredietscore en voor het indelen van noodoproepen.
Het Rathenau Instituut onderzocht de risico's van generatieve AI. Dat gebeurde op verzoek van het ministerie van Binnenlandse Zaken. Het acht het mogelijk dat de AI-verordening risico's van systemen zoals ChatGPT en DALL-E niet genoeg tegengaat.
De norm ISO/IEC 23894 (een leidraad voor risicobeheer bij AI) beschrijft hoe organisaties die risico's aanpakken. Zij geldt voor partijen die AI maken, inzetten of gebruiken. De norm beschrijft ook processen om dat beheer in het werk met AI in te bouwen.




