Waarom is dit belangrijk?
Dankzij geïnformeerde toestemming kunnen makers nagaan hoe een nieuw AI-systeem buiten het laboratorium werkt, terwijl deelnemers zelf kiezen of zij meedoen. In de zorg geldt deze eis bij het testen van systemen die artsen helpen een diagnose te stellen, omdat een fout daar de gezondheid raakt. Patiënten kunnen een proef weigeren, maar bij opsporing mag die vraag soms achterwege blijven als die de test onmogelijk maakt.
Zo werkt het in de praktijk
Aanbieders mogen hoog-risico-AI-systemen uit bijlage III buiten een AI-testomgeving testen. Het Algoritmekader van de Nederlandse overheid noemt geïnformeerde toestemming als voorwaarde. De aanbieder dient eerst een testplan in bij de markttoezichthouder.
Onderzoekers van de Vrije Universiteit Brussel en de Université Libre de Bruxelles bekijken dit verschil. Een AI-testomgeving geeft vooral uitleg van de toezichthouder. Testen onder reële omstandigheden moet de toegang tot de markt vergemakkelijken.
Artikel 61 van de AI-verordening beschrijft de vastlegging van de toestemming. De toestemming krijgt een datum en de proefpersoon ontvangt een kopie. Dat artikel noemt ook het Uniebrede testnummer en het terugdraaien van een beslissing.




