Waarom is dit belangrijk?
Systemen die over mensen beslissen, kunnen via alignment vooraf worden getoetst op gezondheid, veiligheid en het respect voor grondrechten. In de samenleving komen deze systemen voor bij toelating tot onderwijs, beoordeling op het werk en het toekennen van uitkeringen. Voor leerlingen, sollicitanten en ontvangers van een uitkering telt die uitkomst direct, maar een fout kan de opleiding, het werk of het inkomen raken.
Zo werkt het in de praktijk
Sociale media sturen aanbevelingen vaak op doorklikken. Stanford-onderzoekers noemen dat misalignment, omdat welzijn van gebruikers dan minder meetelt. Makers van GPT-NL, een taalmodel van TNO, SURF en het NFI, gebruiken alignment zodat antwoorden passen bij publieke waarden.
Waag Futurelab onderzoekt voor TNO welke participatieve methoden voor alignment passen bij taalmodellen. Het lab test met maatschappelijke organisaties een methode om waarden in GPT-NL vast te leggen. De vraag is hoe het publiek meebepaalt welke waarden zo’n model volgt.
In AI-veiligheid hoort alignment bij preference learning, waarbij een systeem leert van menselijke voorkeuren. Het hoort ook bij formele verificatie, een controle op vastgelegde eisen, en bij safety-critical engineering voor systemen met groot schaderisico.




