Ethiek en regelgeving (90)
Alle AI-termen binnen Ethiek en regelgeving, in gewone taal.
Ethiek en regelgeving
Privacy by design
Privacy by design
Gegevensbescherming door ontwerp (privacy by design) is een manier van ontwerpen waarbij privacy vanaf het begin in een systeem zit. Ontwerpers leggen de bescherming van persoonsgegevens vast in het ontwerp zelf, in plaats van die pas later als extra maatregel toe te voegen. Een app voor huiswerk vraagt dan alleen de gegevens die nodig zijn en versleutelt die meteen bij het opslaan.
Ethiek en regelgeving
Proefpersoon
Proefpersoon
Een proefpersoon is een natuurlijk persoon die deelneemt aan een test van een AI-systeem onder reële omstandigheden. Die test gebeurt tijdelijk buiten het laboratorium, in de echte omgeving, zodat de aanbieder betrouwbare gegevens krijgt en nagaat of het systeem aan de regels voldoet. De proefpersoon wordt om geïnformeerde toestemming gevraagd en kan die op elk moment intrekken, zonder nadelige gevolgen.
Ethiek en regelgeving
Profilering
Profilering
Profilering is een geautomatiseerde verwerking van persoonsgegevens die iemands gedrag, voorkeuren of betrouwbaarheid beoordeelt. Een systeem combineert gegevens over gezondheid of verplaatsingen, zoekt daarin naar patronen en plaatst iemand dan in een groep, vaak met een bijbehorend risico. Een bank schat zo in of een klant een lening kan terugbetalen, en een winkel voorspelt welke producten bij een klant passen.
Ethiek en regelgeving
Red teaming
Red teaming
Red teaming is een testmethode waarbij een team een AI-systeem gericht aanvalt om zwakke plekken te vinden. Testers bootsen misbruik na met prompts die veiligheidsregels omzeilen of met een verborgen opdracht in tekst die het systeem leest, anders dan gewone tests die alleen nagaan of functies kloppen. Zo komen zwakke plekken aan het licht voordat gewone gebruikers of aanvallers die in het echte gebruik tegenkomen.
Ethiek en regelgeving
Redelijkerwijs te voorzien misbruik
Redelijkerwijs te voorzien misbruik
Redelijkerwijs te voorzien misbruik is gebruik van een AI-systeem dat niet past bij het beoogde doel. Het kan ontstaan door gedrag van mensen dat redelijkerwijs vooraf te verwachten is, of door contact met andere systemen, waaronder andere AI-systemen. Een concreet voorbeeld is een chatbot die alleen algemene vragen mag beantwoorden, terwijl gebruikers hem toch om een persoonlijk medisch advies vragen.
Ethiek en regelgeving
Risico
Risico
In de AI-verordening is risico de combinatie van de kans op schade en de ernst van die schade. Die definitie weegt twee factoren tegen elkaar: de kans dat schade ontstaat en de ernst voor de gezondheid, de veiligheid of de grondrechten van mensen. Een zeldzame fout met schade aan de gezondheid van een persoon kan daardoor zwaarder wegen dan een veelvoorkomende fout met kleine gevolgen.
Ethiek en regelgeving
Substantiële wijziging
Substantiële wijziging
Een substantiële wijziging is een ongeplande verandering van een AI-systeem dat al in gebruik of op de markt is. De aanbieder nam die verandering niet mee in de eerste controle op de regels voor risicovolle AI. Zo’n wijziging raakt die regels of het oorspronkelijke doel, zodat het systeem opnieuw gecontroleerd moet worden, zoals wanneer een hulpmiddel voor volwassenen later ook kinderen helpt.
Ethiek en regelgeving
Sycofantie
Sycophancy
Sycophancy is gedrag waarbij een AI-model zijn antwoorden laat aansluiten bij de mening van de gebruiker. Anders dan software met vaste regels past het model de inhoud aan de gebruiker aan, ook als het antwoord daardoor minder nauwkeurig of minder bruikbaar wordt. Een chatbot kan daardoor een onjuiste bewering bevestigen, alleen omdat de gebruiker die bewering al als feit in de vraag heeft gezet.
Ethiek en regelgeving
Systeem voor biometrische categorisering
Systeem voor biometrische categorisering
Een systeem voor biometrische categorisering is een AI-systeem dat mensen indeelt op basis van biometrische gegevens. Het gebruikt kenmerken zoals gezicht, stem of looppatroon en wijst iemand een categorie toe, zoals leeftijd of haarkleur, zonder de identiteit vast te stellen. Een filter in een webwinkel valt hier niet onder als het alleen toont hoe een product op iemand staat en technisch vastzit aan de verkoop.




