Waarom is dit belangrijk?
Tijdens het trainen worden gewichten bijgesteld aan de hand van voorbeelden, tot het model vaker de passende uitkomst geeft bij nieuwe gevallen. In de zorg ondersteunen zulke modellen artsen bij medische diagnoses, onder meer bij huidkanker. Patiënten en zorgverleners krijgen zo een extra aanwijzing bij een oordeel, maar leervoorbeelden van vooral lichte huiden maken de uitkomst onbetrouwbaar bij een donkere huid.
Zo werkt het in de praktijk
Modellen in de financiële sector gebruiken gewichten om beurskoersen te schatten. Banken pasten het netwerk LeNet toe om cijfers op cheques te lezen. Hetzelfde netwerk herkende handgeschreven postcodes op poststukken.
Onderzoekers onderzochten het verdwijnende gradiëntprobleem, waarbij foutsignalen de gewichten in diepe lagen te weinig wijzigen. Hochreiter beschreef dit in zijn afstudeerscriptie. Samen met Schmidhuber introduceerde hij het netwerk LSTM.
Backpropagation berekent hoe sterk een fout de gewichten raakt. Stochastic gradient descent, een leerregel met kleine stappen, voert daarna de aanpassing uit. Bij begeleid leren horen invoer en gewenste uitvoer bij elkaar, zoals bij spraakherkenning.




