Naar inhoud
BetaAI Begrippen

AI-begrippen in gewone taal. Zoek een begrip, blader op letter of filter op onderwerp.

AI alignment

Engels: AI Alignment · Ook wel: AI-alignment, value alignment, AI value alignment

In het kort

AI-alignment is een methode om doelen en gedrag van een AI-systeem te laten aansluiten bij menselijke waarden en regels. Gewone software volgt alleen vaste instructies van een programmeur, terwijl alignment een model met feedback leert welk gedrag bij menselijke bedoelingen past. Zo helpt een chatbot gebruikers bij een lastige huiswerkvraag en weigert diezelfde chatbot een verzoek om iemand te schaden.

Waarom is dit belangrijk?

Met AI-alignment kunnen organisaties automatische keuzes vooraf toetsen aan rechten en veiligheid, voordat die keuzes mensen raken. Bij de werving van nieuw personeel en bij publieke diensten zoals uitkeringen gelden daarom strengere regels, zodat de behandeling eerlijk blijft. Werknemers en burgers krijgen zo meer grip op die besluiten, maar vooroordelen in de gegevens kunnen nog steeds tot ongelijke uitkomsten leiden.

Zo werkt het in de praktijk

In de technologiesector trainde OpenAI InstructGPT en ChatGPT met voorkeursleren, waarbij mensen aangaven welk antwoord beter was. In de publieke sector leidt het Britse AI Security Institute het Alignment Project. Het project krijgt steun van het Canadese AI Safety Institute, Anthropic en Amazon Web Services.

Het Alignment Project bekostigt onderzoek naar manieren waarop AI-systemen doelen blijven volgen als zij meer kunnen. Het zoekt technieken die systemen transparant houden en laten reageren op menselijk toezicht. Adviseurs zoals Yoshua Bengio van de Université de Montréal helpen de richting bepalen.

Een gekoppelde werkwijze is reinforcement learning from human feedback (RLHF). Dat is een trainingsmethode waarbij mensen gewenst gedrag aanwijzen. Een hulpsysteem beloont het model voor gedrag dat bij die voorkeur past.

Gecontroleerd op 23 oktober 2026