Naar inhoud
BetaAI Begrippen

AI-begrippen in gewone taal. Zoek een begrip, blader op letter of filter op onderwerp.

Participatory AI auditing

Engels: Participatory AI auditing · Ook wel: participatory algorithm auditing, participatory AI audit

In het kort

Gebruikerscontrole van AI is een methode waarbij mensen een systeem op fouten en bias controleren. Gebruikers met verschillende achtergronden testen het systeem zelf in echte situaties en melden fouten of een vaste vertekening die een standaardtest van de bouwer mist. Zo komt eerder aan het licht dat een chatbot dezelfde vraag voor de ene groep anders beantwoordt dan voor de andere.

Waarom is dit belangrijk?

Wie de gevolgen van een systeem draagt, kan via gebruikerscontrole van AI helpen vaststellen of de uitkomst eerlijk en betrouwbaar is. In de zorg onderzoeken wetenschappers deze aanpak bij voorspellingen, zoals de kans dat een patiënt opnieuw wordt opgenomen. Patiënten en zorgverleners krijgen daarmee zicht op keuzes die een behandeling raken, maar zonder hulp bij het meten van effecten blijven signalen vaak te vaag voor een aanpassing.

Zo werkt het in de praktijk

Scholieren voerden gebruikerscontrole van AI uit in een workshop van de University of Pennsylvania. Zij kozen een vraag en testten het model achter Effect House van TikTok, dat filters voor video’s maakt. Daarna schreven zij een rapport.

Onderzoekers van die universiteit en van Teachers College, Columbia University, onderzochten of zo’n workshop tot onderbouwde conclusies leidt. Zij controleerden dezelfde beelden nog eens. Hun conclusies leken op die van de scholieren.

De University of Glasgow ontwikkelde PHAWM, een stappenplan en online hulpmiddel voor deze controle. Gebruikers leren het systeem kennen, kiezen meetpunten, bekijken uitkomsten en geven een advies. Het kader staat in de OECD-catalogus voor betrouwbare AI en ondersteunt bestuur en risicobeheer.

Bron: dewereldvanai.nl

Gecontroleerd op 5 november 2026