Waarom is dit belangrijk?
Pas bij inferentie geeft een model meteen een antwoord op het moment dat een professional een concrete keuze moet maken. In de zorg schat het vooraf het risico op een latere aandoening in, zodat voorzorg op tijd kan starten. Patiënten en artsen krijgen daardoor sneller een extra signaal, maar de gebruikte gezondheidsgegevens zijn gevoelig en een fout signaal blijft mogelijk.
Zo werkt het in de praktijk
Bij het Argonne National Laboratory voorspelt de ALCF Inference Service in fusieonderzoek of plasma ontregelt. In de natuurkunde zoekt die dienst zeldzame gebeurtenissen in gegevens van deeltjesversnellers. Wikipedia beschrijft inferentie ook bij beeldherkenning, taalverwerking en zelfrijdende voertuigen.
Onderzoekers van Argonne onderzoeken hoe een gedeelde dienst inferentie op supercomputers veilig en schaalbaar maakt. Dat kader staat in een vakartikel over deze dienst. Het project ChemGraph gebruikt de dienst om molecuulsimulaties in kleine stappen te sturen.
Een studie over AI in de maakindustrie koppelt inferentie aan MLOps. Dat is een werkwijze om modellen te publiceren, te volgen en opnieuw te trainen. Snelle berekeningen gebeuren op de werkvloer met lichte modellen, passend bij ISO/IEC 42001 en de AI-verordening.




