Waarom is dit belangrijk?
Zo kunnen scholen een taalmodel vragen om één duidelijke uitleg of om meerdere verschillende voorstellen voor dezelfde opdracht. In het onderwijs zetten docenten dit in bij het maken van lesmateriaal en oefeningen, maar een lossere keuze laat teksten minder goed samenhangen. Docenten en leerlingen moeten elke uitkomst daarom zelf controleren, want een vloeiend antwoord kan nog steeds feitelijk onjuist zijn.
Zo werkt het in de praktijk
Onderzoekers in de radiotherapie testen de temperatuur bij samenvattingen van CT-simulatieopdrachten. Een lage temperatuur gaf bij het taalmodel LLaMa de hoogste nauwkeurigheid. In software legt de OpenAI-API vast dat een hogere waarde de tekst losser maakt en een lagere waarde hem gerichter.
Onderzoekers van Google Research bekijken de spanning tussen variatie en trouw aan een bron. Een hogere temperatuur vergroot de variatie en de kans op verzinsels. Hun methode past de temperatuur per stap aan en vergelijkt die met top-k en top-p.
Temperatuur hoort bij sampling, de keuze van het volgende woordstuk. De documentatie van OpenAI raadt aan om alleen de temperatuur of alleen top-p te wijzigen. Top-p houdt alleen de woordstukken met de grootste gezamenlijke kans over.




