Waarom is dit belangrijk?
Met een tweede denkronde kunnen taalmodellen een voorlopig oordeel bij lastige taken bijstellen voordat iemand ermee verder werkt. In de zorg wordt deze aanpak onderzocht bij medische vraagstukken, waarbij een model een eerste inschatting kan verfijnen zonder nieuwe externe bronnen. Werknemers en studenten krijgen zo soms een zorgvuldiger antwoord, maar die extra stap verbetert het resultaat niet altijd en hangt af van de precieze vraagstelling.
Zo werkt het in de praktijk
Onderzoekers van Northeastern University, het MIT en Princeton University testen zelfreflectie in het project Reflexion. Een taalagent schrijft na een mislukte poging een korte tekst over de fout. Die tekst stuurt de volgende poging bij programmacode of bij acties in een omgeving.
De onderzoeksvraag is of de agent leert van eerdere missers zonder de modelgewichten te wijzigen. Het model zet een signaal uit de omgeving om in gewone taal en bewaart die als geheugen voor latere pogingen.
Zelfreflectie hoort bij reinforcement learning, een werkwijze waarin een systeem leert via terugkoppeling in tekst. Bij programmeertaken schrijft het model eigen tests en legt daarna een les vast.




