Waarom is dit belangrijk?
Wie de gevolgen van een systeem draagt, kan via gebruikerscontrole van AI helpen vaststellen of de uitkomst eerlijk en betrouwbaar is. In de zorg onderzoeken wetenschappers deze aanpak bij voorspellingen, zoals de kans dat een patiënt opnieuw wordt opgenomen. Patiënten en zorgverleners krijgen daarmee zicht op keuzes die een behandeling raken, maar zonder hulp bij het meten van effecten blijven signalen vaak te vaag voor een aanpassing.
Zo werkt het in de praktijk
Scholieren voerden gebruikerscontrole van AI uit in een workshop van de University of Pennsylvania. Zij kozen een vraag en testten het model achter Effect House van TikTok, dat filters voor video’s maakt. Daarna schreven zij een rapport.
Onderzoekers van die universiteit en van Teachers College, Columbia University, onderzochten of zo’n workshop tot onderbouwde conclusies leidt. Zij controleerden dezelfde beelden nog eens. Hun conclusies leken op die van de scholieren.
De University of Glasgow ontwikkelde PHAWM, een stappenplan en online hulpmiddel voor deze controle. Gebruikers leren het systeem kennen, kiezen meetpunten, bekijken uitkomsten en geven een advies. Het kader staat in de OECD-catalogus voor betrouwbare AI en ondersteunt bestuur en risicobeheer.




