Waarom is dit belangrijk?
Modellen leveren pas betrouwbare hulp als teams via AI-engineering blijven toetsen aan situaties die bij de bouw nog niet bestonden. In de zorg controleren ziekenhuizen na de start of een systeem veilig blijft en of uitkomsten eerlijk zijn voor verschillende patiënten. Zorgmedewerkers en patiënten krijgen zo hulp bij besluiten, maar fouten of ongelijke resultaten blijven mogelijk als gegevens of routines verschuiven.
Zo werkt het in de praktijk
In de softwaresector werkt GitLab met AI-engineering in het product GitLab Duo. Ontwikkelaars krijgen codesuggesties, uitleg bij beveiligingslekken en automatisch gemaakte tests. IBM levert de taalmodellen Granite aan bedrijven, overheden en organisaties in de financiële sector.
Onderzoekers in software-engineering bekijken de hele levensloop van een groot taalmodel. Een studie op arXiv volgt fasen van eisen en data tot testen, ingebruikname en onderhoud. De studie zoekt per fase naar open problemen.
AI-engineering sluit aan op ISO/IEC 42001, een norm voor beleid en controle rond AI. De norm beschrijft hoe een organisatie AI bouwt, invoert en bijhoudt, met een toets door een externe partij. GitLab koppelt die norm aan GitLab Duo en aan de Europese AI-verordening.




