Waarom is dit belangrijk?
Na ingebruikname kan een AI-systeem via een feedbacklus blijven leren van nieuwe uitkomsten, zodat het systeem zich aanpast aan nieuwe situaties. In de zorg beïnvloeden voorspellingen het handelen van artsen, en de nieuwe patiëntgegevens worden daarna gebruikt om het model bij te werken. Patiënten en zorgverleners krijgen adviezen die aansluiten op de actuele praktijk, maar bij volledige opvolging van foute voorspellingen kan het aandeel onjuiste conclusies stijgen.
Zo werkt het in de praktijk
OpenAI zette een feedbacklus in bij de training van InstructGPT en ChatGPT. DeepMind gebruikte dezelfde aanpak voor de gespreksassistent Sparrow. De lus zit ook in tekst-naar-beeldmodellen en in bots voor computerspellen.
Onderzoek van OpenAI en DeepMind uit 2017 testte een feedbacklus buiten tekst. Agenten leerden Atari-spellen en nagebootste robotbewegingen. Mensen kozen welk gedrag er beter uitzag, zonder de puntenscore van het spel.
MLOps is een werkwijze om modellen na oplevering te bewaken en bij te werken. In het AWS Well-Architected Framework hoort de feedbacklus bij elke fase van die cyclus. Teams meten dalende prestaties, trainen opnieuw en laten mensen twijfelgevallen nakijken met Amazon A2I.




