Waarom is dit belangrijk?
Met AI-alignment kunnen organisaties automatische keuzes vooraf toetsen aan rechten en veiligheid, voordat die keuzes mensen raken. Bij de werving van nieuw personeel en bij publieke diensten zoals uitkeringen gelden daarom strengere regels, zodat de behandeling eerlijk blijft. Werknemers en burgers krijgen zo meer grip op die besluiten, maar vooroordelen in de gegevens kunnen nog steeds tot ongelijke uitkomsten leiden.
Zo werkt het in de praktijk
In de technologiesector trainde OpenAI InstructGPT en ChatGPT met voorkeursleren, waarbij mensen aangaven welk antwoord beter was. In de publieke sector leidt het Britse AI Security Institute het Alignment Project. Het project krijgt steun van het Canadese AI Safety Institute, Anthropic en Amazon Web Services.
Het Alignment Project bekostigt onderzoek naar manieren waarop AI-systemen doelen blijven volgen als zij meer kunnen. Het zoekt technieken die systemen transparant houden en laten reageren op menselijk toezicht. Adviseurs zoals Yoshua Bengio van de Université de Montréal helpen de richting bepalen.
Een gekoppelde werkwijze is reinforcement learning from human feedback (RLHF). Dat is een trainingsmethode waarbij mensen gewenst gedrag aanwijzen. Een hulpsysteem beloont het model voor gedrag dat bij die voorkeur past.




