Waarom is dit belangrijk?
Goede gegevens maken het mogelijk dat een AI-systeem meebeweegt met een opdracht die elke keer anders is. Bij organisaties en de overheid hangen keuzes en besluiten daardoor af van welke gegevens over een persoon beschikbaar zijn. Ontbreken die gegevens of kloppen ze niet, dan volgen foute of onverwachte uitkomsten, met soms ongewenste gevolgen voor de mensen om wie het gaat.
Zo werkt het in de praktijk
In een pilot van het Radboudumc kreeg een taalmodel tekst uit medische dossiers. Het model leidde daaruit mogelijke diagnoses af, met uitleg. Het team laat systemen ook röntgenfoto’s en weefselbeelden beoordelen.
Op een symposium van de CCMO bespraken onderzoekers de grenzen van nieuwe gegevens. Een model voor röntgenfoto’s uit het ene ziekenhuis werkt niet zonder toets in een ander ziekenhuis. Het systeem zou zelf moeten zien dat de aangeboden data afwijken van de trainingsdata.
De AI-verordening legt plichten vast voor gebruikers van risicovolle AI-systemen. Hebben zij controle over de inputdata, dan moeten die passen bij het doel van het systeem. De gegevens moeten de situaties dekken waarvoor het systeem bedoeld is.




