Waarom is dit belangrijk?
Onderzoekers kunnen met het begrip waardeafstemmingscompleet lastige taken aanwijzen die pas slagen als een systeem naar menselijke waarden handelt. In wetenschappelijk onderzoek naar AI- en robotsystemen blijkt dat afstemming op menselijke waarden mislukt zonder betekenisvolle menselijke controle. Voor werknemers en studenten blijft het risico dat een systeem correct lijkt volgens een procedure, terwijl het toch nog tegen menselijke voorkeuren handelt.
Zo werkt het in de praktijk
Een voorbeeld van een waardeafstemmingscompleet vraagstuk komt van het Machine Intelligence Research Institute. Het instituut vraagt of een zeer sterk systeem één aardbei veilig op een bord kan leggen. Eliezer Yudkowsky legde die vraag in 2016 voor bij een lezing aan Stanford University.
Onderzoekers van het instituut werken die vraag uit in aparte studies. Nate Soares beschreef hoe een systeem menselijke voorkeuren kan leren. Jessica Taylor stelde op een workshop van AAAI, een vereniging voor kunstmatige intelligentie, quantilizers voor. Dat zijn rekenmethoden die een beperkte uitkomst zoeken, in plaats van een maximum.
Luke Muehlhauser legt daarbij een link met computerbeveiliging. Hij noemt die houding een security mindset: ontwerpers zoeken naar manieren waarop een systeem kan falen.




