Waarom is dit belangrijk?
Dankzij een veiligheidscomponent kan een AI-systeem een machine of installatie op tijd stoppen of bijsturen en zo de kans op letsel of schade verkleinen. Ziekenhuizen gebruiken zulke software in medische apparatuur, en vervoerders passen haar toe in systemen voor het verkeer. Voor patiënten en reizigers geeft dit bescherming tijdens een behandeling of onderweg, maar een programmeerfout of een verkeerde inschatting kan toch letsel veroorzaken.
Zo werkt het in de praktijk
Een camerasysteem met kunstmatige intelligentie herkent mensen in een robotcel en laat de robot langzamer werken. Een ander systeem meet gas bij explosiegevaarlijke apparatuur en zet de installatie uit. De Europese Commissie noemt zulke systemen een veiligheidscomponent van een product.
ISO en IEC onderzochten hoe AI een veiligheidsfunctie kan uitvoeren. Hun rapport beschrijft dat een leermodel moeilijk uit te leggen is. Teams delen AI in klassen in en toetsen zo normen voor functionele veiligheid bij een fout.
Makers volgen de AI-verordening als een veiligheidscomponent hoort bij een product onder Europese productwetgeving. Het systeem valt in de klasse hoog risico wanneer een onafhankelijke keuring verplicht is. Die keuring controleert of het product aan de eisen voldoet.




