Waarom is dit belangrijk?
Het bijhouden van elk foutpositief maakt zichtbaar wanneer een model gevoeliger is afgesteld en daardoor vaker een loos alarm geeft. In de zorg kan zo'n test soms een ziekte aangeven bij iemand die in werkelijkheid gezond is. Patiënten en zorgverleners houden er ook rekening mee dat een positieve uitslag niet altijd klopt, omdat een gevoeligere test meer loos alarm geeft.
Zo werkt het in de praktijk
Banken laten een model controleren of een creditcardbetaling fraude is. Een gewone betaling die het model blokkeert, is een foutpositief. Onderzoekers van het Massachusetts Institute of Technology testten dit op data van een grote bank, samen met Banco Bilbao Vizcaya Argentaria.
Het onderzoek vraagt hoe zo'n model minder gewone betalingen als fraude ziet. Onderzoekers van het Laboratory for Information and Decision Systems halen automatisch kenmerken uit eerdere betalingen, zoals bedrag en tijd. Het model kijkt daarna of het gedrag van één kaarthouder afwijkt.
In het Algoritmekader, een werkwijze van de overheid om algoritmes te toetsen, tellen teams foutpositieven. Zij gebruiken daarvoor precisie, recall en de F1-score. Die stap hoort bij ontwikkelen, testen en later beheer.




