Waarom is dit belangrijk?
Het bespreken van superintelligentie maakt het mogelijk om voordelen en risico's te wegen nog voordat zo'n uitkomst er is. In de wetenschap willen onderzoekers de gevolgen voor de samenleving eerder bekijken, ook al verwachten experts dit niet snel. Voor werknemers en overheden telt die afweging al mee bij keuzes over onderzoek en beleid, terwijl het onzeker blijft of en wanneer menselijke intelligentie wordt overtroffen.
Zo werkt het in de praktijk
Safe Superintelligence bouwt aan een systeem dat van begin af veilig is ontworpen. Oprichter Ilya Sutskever startte dit bedrijf na zijn vertrek bij OpenAI. Meta opende in 2025 de afdeling Meta Superintelligence Labs.
Het Machine Intelligence Research Institute onderzoekt hoe een systeem kan leren welke doelen mensen bedoelen. Zij noemen dat het probleem van waardeleren. De machine doet wat de code voorschrijft, maar die code sluit niet vanzelf aan bij menselijke bedoelingen.
In 2023 stelden leiders van OpenAI een toezichthouder voor, naar het model van het atoomagentschap IAEA. Die instantie zou systemen boven een rekenkrachtdrempel controleren en veiligheidseisen toetsen. Bedrijven kunnen vrijwillig al delen van dit model gebruiken.




