Waarom is dit belangrijk?
Eén gedeeld beslissingsmodel maakt het mogelijk om vergelijkbare gevallen op dezelfde manier te beoordelen, zodat uitkomsten tussen organisaties beter te vergelijken zijn. In de zorg en bij de rechtspraak kunnen keuzes over behandeling of een straf op hetzelfde model steunen. Voor patiënten en verdachten levert dat voorspelbare beslissingen op, maar dezelfde fout kan dan bij veel organisaties tegelijk terugkomen, ook als het model op zich klopt.
Zo werkt het in de praktijk
In het hoger onderwijs gebruiken veel instellingen gelijkende inschrijvingsalgoritmen van een kleine groep leveranciers, beschrijven onderzoekers van Stanford University. In de kapitaalmarkt spreekt de Amerikaanse beurswaakhond SEC over gedeelde basismodellen. Die vormen een geconcentreerd risico als veel partijen hetzelfde model gebruiken.
Onderzoekers van Stanford University toetsen of gedeelde modellen dezelfde personen vaker een negatieve uitkomst geven. Bij CLIP en RoBERTa gaf linear probing, een eenvoudige extra laag, homogenere uitkomsten dan het verder trainen van het model.
Zij koppelen algoritmische monocultuur aan de component-sharing-hypothese: gedeelde data of modellen maken uitkomsten meer gelijk. Onderzoekers van het MIT testen een ensemble. Dat is een bundel algoritmen die soms even goed of beter werkt dan losse algoritmen per organisatie.




