Waarom is dit belangrijk?
Door parameters bij te stellen vindt een model patronen in grote hoeveelheden gegevens, ook bij taken die ervaren mensen veel tijd kosten. In de zorg gebeurt dat bij de analyse van medische scans en bij het stellen van diagnoses. Patiënten en zorgverleners krijgen daardoor extra hulp, maar een getraind model kan vooroordelen uit de gegevens overnemen en is daarna lastig te corrigeren.
Zo werkt het in de praktijk
EnergyGPT past in de energiesector het taalmodel GPT-2 aan voor verwachtingen van energieverbruik. Extra onderdelen stellen een deel van de parameters bij en laten de bestaande waarden staan. TNO, SURF en het NFI trainen GPT-NL voor Nederland, delen de parameters als modelgewichten via een licentie en stemmen de omvang af op het energieverbruik.
Onderzoek naar weermodellen vergelijkt aantallen parameters, onder meer bij GraphCast en AIFS. De studie onderzoekt wat meer helpt: extra trainingsdata of meer parameters. Bij vaste rekenkracht levert extra data betere uitkomsten op dan een groter model, en meer eenheden naast elkaar werken beter dan extra lagen.




