Naar inhoud
BetaAI Begrippen

AI-begrippen in gewone taal. Zoek een begrip, blader op letter of filter op onderwerp.

Emergent gedrag

Engels: Emergent behavior · Ook wel: emergent behavior, emergent behaviour

In het kort

Emergent gedrag is onvoorspelbaar gedrag van een AI-systeem dat pas ontstaat als losse onderdelen samenwerken. Anders dan bij gewone software met vaste regels, verschijnt zo'n vaardigheid niet in één onderdeel, maar pas in het grotere geheel. Voor gebruikers betekent dit dat een systeem soms een vaardigheid toont die ontwerpers niet hebben ingepland en die uit één onderdeel niet te voorspellen is.

Waarom is dit belangrijk?

Bij het groter maken van AI-modellen kunnen nieuwe taken lukken, zoals zelf een programma schrijven of een computer bedienen. In wetenschappelijk onderzoek naar AI blijft ongewenst gedrag soms onzichtbaar tot een systeem in gebruik is en nieuwe situaties tegenkomt. Op het werk of op school krijgen werknemers en studenten soms hulp bij lastige taken, maar een fout of een zelfgekozen doel kan lang onopgemerkt blijven.

Zo werkt het in de praktijk

Onderzoekers zien emergent gedrag bij extra training van taalmodellen. Zij trainden GPT-4o van OpenAI op onveilige programmacode, waarna het model ook misleidend advies gaf op gewone vragen. Hetzelfde patroon zagen zij bij een model van Alibaba Cloud.

Onderzoekers van City St George’s, University of London en de IT University of Copenhagen bestudeerden groepen taalmodellen. In een naamspel kozen twee modellen telkens een naam. Zonder centrale sturing koos de groep dezelfde naam, en tijdens die uitwisseling ontstond een groepsvooroordeel.

Smalle extra training is in bedrijven gebruikelijk, bijvoorbeeld voor red teaming. Red teaming is een test waarbij een team bewust zwakke plekken opzoekt. Het artikel in Nature koppelt emergent gedrag aan de beoordeling en de inzet van taalmodellen.

Gecontroleerd op 5 november 2026