Waarom is dit belangrijk?
Onderzoek naar vriendelijke kunstmatige intelligentie wil voorkomen dat een zeer sterk systeem middelen verzamelt of zichzelf in stand houdt. In de wetenschap hoort dit bij het onderzoek naar risico's van geavanceerde kunstmatige intelligentie, en het staat in een toonaangevend leerboek. Studenten en werknemers krijgen een manier om beloften over veilige systemen te beoordelen, al bestaat zo'n systeem nog niet en kunnen verkeerde doelen ongewenst gedrag geven.
Zo werkt het in de praktijk
Het Machine Intelligence Research Institute in Berkeley gebruikt vriendelijke kunstmatige intelligentie als aanpak bij systeemontwerp. Het instituut financierde het project AI Impacts, dat de rekenkracht van mensen en computers vergelijkt. Sinds 2023 legt het instituut de nadruk op beleid en uitleg aan het publiek.
Seth Baum onderzoekt of veilige, nuttige systemen afhangen van de groepscultuur van onderzoekers. Externe regels en innerlijke drijfveren kunnen die ontwikkeling sturen. Boodschappen over nuttige systemen sluiten volgens hem niet altijd aan bij ontwikkelaars.
Yudkowsky werkt met coherente geëxtrapoleerde wil, een model voor het afleiden van menselijke wensen. Een eenvoudig startsysteem bestudeert eerst de mens en bouwt daarna het gewenste systeem. Omohundro stelt een steiger-aanpak voor, waarin een aantoonbaar veilig systeem de volgende generatie helpt bouwen.




