Naar inhoud
BetaAI Begrippen

AI-begrippen in gewone taal. Zoek een begrip, blader op letter of filter op onderwerp.

Constitutional AI

Engels: Constitutional AI · Ook wel: CAI

In het kort

Constitutional AI is een trainingsmethode van het bedrijf Anthropic voor een taalmodel, de techniek achter een chatbot. Het model geeft kritiek op zijn eigen antwoorden aan de hand van een geschreven lijst met principes, de constitutie, en herschrijft die antwoorden daarna. Een tweede model kiest welk antwoord beter bij die principes past, zodat het taalmodel die voorkeur leert zonder dat mensen elk antwoord apart beoordelen.

Waarom is dit belangrijk?

Taalmodellen kunnen zo behulpzaam blijven en toch minder schadelijke of oneerlijke antwoorden geven, terwijl de gekozen waarden vooraf controleerbaar zijn. Op het werk gebruiken organisaties algemene taalassistenten die met Constitutional AI zijn getraind voor uiteenlopende taken van medewerkers. Medewerkers krijgen zo hulp die minder schadelijk is, maar het bedrijf kiest de waarden zelf en de aanpak voorkomt niet elk lastig of schadelijk antwoord.

Zo werkt het in de praktijk

Anthropic traint de chatbot Claude met Constitutional AI. Gebruikers zetten Claude in voor gesprekken en voor hulp bij software. Constitutional Classifiers controleren die gesprekken met regels in gewone taal, zoals scheikundehuiswerk wel en verboden stoffen niet.

Anthropic en het Collective Intelligence Project vroegen of het publiek de principes kan meebepalen. Ongeveer duizend volwassenen in de Verenigde Staten stemden via het platform Polis. De onderzoekers trainden daarmee een kleiner model en vergeleken de uitkomsten.

Claude-modellen worden bijgestuurd met RLHF (een werkwijze waarbij mensen antwoorden rangschikken) en met Constitutional AI. De constitutie neemt begrippen over uit de Universele Verklaring van de Rechten van de Mens. Op Polis, een open platform voor online overleg, groeperen algoritmen de stemmen tot breed gedeelde regels.

Bron: aanloopai.nl

Gecontroleerd op 5 november 2026