Waarom is dit belangrijk?
Zonder afspraken over veiligheid kunnen tests met echte mensen schade veroorzaken aan gezondheid of gelijke behandeling. Bij zorg en publieke dienstverlening, zoals het toekennen van uitkeringen, geldt dit extra omdat beslissingen direct ingrijpen in het leven van burgers. Voor patiënten en aanvragers van een uitkering telt dat fouten en vooroordelen eerder zichtbaar worden, terwijl hun persoonsgegevens tijdens de test nog steeds risico lopen.
Zo werkt het in de praktijk
Aanbieders testen een AI-systeem met hoog risico soms samen met de latere gebruiker, vóór de marktintroductie. Daarvoor gebruiken zij het plan voor testen onder reële omstandigheden. In een AI-testomgeving van een lidstaat neemt het plan van die omgeving dit plan op.
De Europese Commissie stelt nadere regels op over de details van het plan. Lidstaten die testen van AI-producten toestaan, stellen daarvoor een eigen of gezamenlijk kader vast. Zij melden dat kader bij de Commissie voordat zij ermee werken.
De AI-verordening (de Europese wet voor AI) koppelt de test aan registratie in een Europese databank. Een ethische toets uit andere wetten blijft naast het plan gelden. Aanbieder en gebruiker leggen hun taken vast in een overeenkomst.




