Waarom is dit belangrijk?
Mensen kunnen zelf bepalen of zij meedoen aan een proef met een AI-systeem dat nog niet klaar is voor breed gebruik. In de zorg is toestemming met kennis van zaken nodig bij het tijdelijk beproeven van een medisch hulpmiddel met AI. Patiënten mogen zonder nadeel stoppen, maar deelname kan toch ongemak geven en tijdens de proef kan een ernstig incident optreden.
Zo werkt het in de praktijk
Aanbieders testen AI-systemen met een hoog risico buiten een AI-testomgeving voor regelgeving. Zij gebruiken een plan voor de methode, het gebied, de duur en de controle. Dit geldt voor systemen op de Europese lijst van hoog risico en voor sommige producten onder productwetgeving.
De Europese Commissie maakt nadere regels voor de onderdelen van dat plan. Zo staat vast hoe aanbieders de test vooraf beschrijven. De Commissie stelt die regels vast via een vaste Europese procedure.
Toestemming met kennis van zaken hoort bij artikel 61 van de AI-verordening. De aanbieder dateert de toestemming, legt haar vast en geeft een kopie. Daarin staan de duur, het unieke nummer van de test en de weg om een voorspelling of besluit te laten negeren.




