Waarom is dit belangrijk?
Kennis van automatiseringsbias helpt organisaties de eindverantwoordelijkheid bij mensen te houden wanneer software een advies geeft in een dossier. In de zorg gebeurt dat bij programma's die artsen een diagnose voorstellen. Op school en op het werk kan een overtuigend voorstel van een rekenhulp of schrijfhulp een fout verbergen en zo een verkeerde keuze sturen bij een toets of een rapport.
Zo werkt het in de praktijk
Piloten in moderne cockpits gebruiken beslishulpen voor navigatie en voor het vinden van storingen. Een studie liet zien dat piloten die zich verantwoordelijk voelden, automatische meldingen vaker controleerden. Operators in kerncentrales bewaken de installatie met computerschermen en beslishulpen, waar automatiseringsbias eveneens voorkomt.
Onderzoekers bestuderen wanneer mensen een fout van een automaat missen. Verkeersleiders in een simulatie zagen een conflict minder vaak toen een hulpmiddel aan het eind uitviel. Training over automatiseringsbias verminderde zulke missers bij leerling-piloten.
De AI-verordening, de Europese wet voor kunstmatige intelligentie, noemt automatiseringsbias bij menselijk toezicht. Dat geldt voor AI-systemen met een hoog risico die een advies geven. De aangewezen personen moeten dat advies kunnen negeren, corrigeren of terugdraaien.




