Waarom is dit belangrijk?
Onderzoekers kunnen zo concurrerende verklaringen vergelijken voordat nieuwe metingen binnen zijn, en daarna een betrouwbare voorspelling kiezen. In de wetenschap geldt dit als ijkpunt wanneer een leersysteem zelf moet kiezen tussen vele mogelijke verklaringen van onbekende meetgegevens. Studenten en onderzoekers in data-analyse lopen ertegenaan dat de exacte waarde onberekenbaar is, zodat alleen benaderingen bestaan en die de uitkomst kunnen verschuiven.
Zo werkt het in de praktijk
Onderzoekers bij Google DeepMind in Londen trainen transformers en LSTM-netwerken op data van universele Turingmachines. Die data bevatten veel rekenpatronen, en de netwerken leren daarmee een brede voorspelstrategie. Onderzoekers aan het Karolinska Institutet classificeren beelden met algoritmische waarschijnlijkheid en schatten vergelijkingsparameters in data met ruis.
Het onderzoek bij DeepMind vraagt of een netwerk Solomonoff-inductie kan nabootsen door op veel taken te oefenen. Transformers nemen geleerde patronen mee naar andere taken, en de datageneratoren staan openbaar op GitHub. Grote LSTM's en transformers behalen op reeksen met wisselend geheugen de optimale prestatie.




