Waarom is dit belangrijk?
Met een AI-agent kan terugkerend werk tussen verschillende systemen bij software komen te liggen, zodat medewerkers tijd houden voor een eigen afweging. Voor overheden geldt het overheidsbrede standpunt over generatieve AI ook voor een AI-agent, inclusief een toets vooraf op mensenrechten. Voor ambtenaren en burgers blijft altijd een mens nodig bij het eindoordeel, omdat een foute beslissing de rechten van een burger kan raken.
Zo werkt het in de praktijk
In de softwaresector gebruiken bedrijven een AI-agent zoals Cursor om programmacode te schrijven en aan te passen. In de publieke sector kondigde de Amerikaanse FDA een AI-agent aan voor dossiercontrole en administratie bij de eigen medewerkers.
Onderzoekers testen een AI-agent in het spel Minecraft en in een nagebouwde bedrijfswebsite. Het Britse AI Security Institute beschrijft een AI-agent als een model plus de software eromheen. Die extra software koppelt het model aan bestanden, browsers en andere programma's.
Het Model Context Protocol is een vaste afspraak waarmee een AI-agent externe systemen aanroept. Volgens het Duitse federale bureau voor informatiebeveiliging hoort een AI-agent voor programmacode onder toezicht van ervaren ontwikkelaars. Extra controles, zoals automatische tests en een menselijke beoordeling, horen bij die werkwijze.




