Naar inhoud
BetaAI Begrippen

AI-begrippen in gewone taal. Zoek een begrip, blader op letter of filter op onderwerp.

Value-alignment complete

Engels: Value-alignment complete

In het kort

Een waardeafstemmingscompleet (value-alignment complete) probleem is een taak waarvoor het AI-besturingsprobleem volledig opgelost moet zijn. Het lijkt op een AI-compleet probleem, een taak die niet met een eenvoudig algoritme voor één beperkte situatie is op te lossen, omdat de volledige besturing nodig is. Daarom telt een aanpak die alleen een deel van het besturingsprobleem dekt niet als oplossing van de taak zelf.

Waarom is dit belangrijk?

Onderzoekers kunnen met het begrip waardeafstemmingscompleet lastige taken aanwijzen die pas slagen als een systeem naar menselijke waarden handelt. In wetenschappelijk onderzoek naar AI- en robotsystemen blijkt dat afstemming op menselijke waarden mislukt zonder betekenisvolle menselijke controle. Voor werknemers en studenten blijft het risico dat een systeem correct lijkt volgens een procedure, terwijl het toch nog tegen menselijke voorkeuren handelt.

Zo werkt het in de praktijk

Een voorbeeld van een waardeafstemmingscompleet vraagstuk komt van het Machine Intelligence Research Institute. Het instituut vraagt of een zeer sterk systeem één aardbei veilig op een bord kan leggen. Eliezer Yudkowsky legde die vraag in 2016 voor bij een lezing aan Stanford University.

Onderzoekers van het instituut werken die vraag uit in aparte studies. Nate Soares beschreef hoe een systeem menselijke voorkeuren kan leren. Jessica Taylor stelde op een workshop van AAAI, een vereniging voor kunstmatige intelligentie, quantilizers voor. Dat zijn rekenmethoden die een beperkte uitkomst zoeken, in plaats van een maximum.

Luke Muehlhauser legt daarbij een link met computerbeveiliging. Hij noemt die houding een security mindset: ontwerpers zoeken naar manieren waarop een systeem kan falen.

Bron: en.wikipedia.org

Gecontroleerd op 5 november 2026