Waarom is dit belangrijk?
Een Europees aanspreekpunt, de gemachtigde, maakt toch controle mogelijk als de maker van een AI-systeem niet in Europa zit. In de zorg geldt dit voor medische software die diagnoses ondersteunt en aan eisen voor risico, gegevens en menselijk toezicht moet voldoen. Voor patiënten en zorgmedewerkers geeft dat enig houvast in het ziekenhuis, maar bij schade moet de fout nog steeds worden aangetoond.
Zo werkt het in de praktijk
Aanbieders buiten de Unie wijzen een gemachtigde aan voordat een hoogrisico-AI-systeem op de markt komt. De gemachtigde controleert de EU-conformiteitsverklaring, de technische documentatie en de conformiteitsbeoordeling. Die bewaart de stukken tien jaar voor de markttoezichtautoriteiten en kan het systeem registreren.
De Europese Commissie legt in richtsnoeren uit wie een gemachtigde aanwijst voor modellen voor algemene doeleinden. De tekst toont wie het model op de markt brengt en wanneer een vrijstelling geldt. Aanbieders van modellen met een vrije openbronlicentie kunnen vrijstelling krijgen, behalve bij systeemrisico.
Voor hoogrisicosystemen sluit die controle aan op de conformiteitsbeoordeling en de EU-conformiteitsverklaring. Voor modellen voor algemene doeleinden geldt de aanwijzing naast de praktijkcode, een vrijwillige leidraad waarmee aanbieders naleving tonen.




