Waarom is dit belangrijk?
Onderzoeksprojecten kunnen zo omvangrijke gegevens toch binnen hun looptijd laten doorrekenen, ook wanneer de opgave later nog groter wordt. In de wetenschap staan AI-accelerators in gespecialiseerde datacenters, waar onderzoeksteams er grote rekenopdrachten voor langlopend wetenschappelijk onderzoek laten uitvoeren. Medewerkers en studenten krijgen daardoor eerder uitslagen van hun analyses, maar die datacenters verbruiken veel meer stroom en koelwater dan andere serverruimtes.
Zo werkt het in de praktijk
In de cloud biedt Google de Tensor Processing Unit aan via Google Cloud. Amazon gebruikt de chips Trainium en Inferentia bij Amazon Web Services. In telefoons draaien chips van Apple, Qualcomm en Samsung kleine modellen op het toestel.
Onderzoekers ontwerpen de indeling van AI-accelerators. Bij de vijfde Tensor Processing Unit hielp een leertechniek mee aan de indeling van de chip. Die techniek, deep reinforcement learning, verbetert keuzes stap voor stap met een beloning.
Teams meten AI-accelerators met MLPerf Inference van MLCommons. De benchmark meet de snelheid op servers en op kleine apparaten. De Khronos Group maakt open afspraken, zoals OpenCL en NNEF, zodat programma's op meer chips werken.




