Waarom is dit belangrijk?
Taalmodellen kunnen zo behulpzaam blijven en toch minder schadelijke of oneerlijke antwoorden geven, terwijl de gekozen waarden vooraf controleerbaar zijn. Op het werk gebruiken organisaties algemene taalassistenten die met Constitutional AI zijn getraind voor uiteenlopende taken van medewerkers. Medewerkers krijgen zo hulp die minder schadelijk is, maar het bedrijf kiest de waarden zelf en de aanpak voorkomt niet elk lastig of schadelijk antwoord.
Zo werkt het in de praktijk
Anthropic traint de chatbot Claude met Constitutional AI. Gebruikers zetten Claude in voor gesprekken en voor hulp bij software. Constitutional Classifiers controleren die gesprekken met regels in gewone taal, zoals scheikundehuiswerk wel en verboden stoffen niet.
Anthropic en het Collective Intelligence Project vroegen of het publiek de principes kan meebepalen. Ongeveer duizend volwassenen in de Verenigde Staten stemden via het platform Polis. De onderzoekers trainden daarmee een kleiner model en vergeleken de uitkomsten.
Claude-modellen worden bijgestuurd met RLHF (een werkwijze waarbij mensen antwoorden rangschikken) en met Constitutional AI. De constitutie neemt begrippen over uit de Universele Verklaring van de Rechten van de Mens. Op Polis, een open platform voor online overleg, groeperen algoritmen de stemmen tot breed gedeelde regels.




