Waarom is dit belangrijk?
Scholen kunnen met AI-contentdetectie controleren of een leerling een schoolopdracht zelf heeft geschreven. In het voortgezet onderwijs komt die software in beeld bij het beoordelen van essays, werkstukken en verslagen. Een foute melding kan een leerling ten onrechte van fraude beschuldigen en het vertrouwen tussen leraar en leerling schaden, omdat de software veel missers maakt en eenvoudig te omzeilen is.
Zo werkt het in de praktijk
AI-contentdetectie zit in systemen die tekst al bij het maken een verborgen kenmerk geven. In de chatbot Gemini doet SynthID-Text dat. Een latere check meet het kenmerk, zonder het taalmodel zelf te openen.
Onderzoekers beschrijven in Nature hoe zo’n watermerk op grote schaal werkt. Zij testen of de tekstkwaliteit gelijk blijft en het kenmerk toch vindbaar is. Een liveproef met antwoorden van Gemini bevestigde dat de kwaliteit behouden bleef.
De AI-verordening legt aanbieders een plicht op. Systemen die kunstmatige tekst, beeld, geluid of video maken, moeten de uitvoer machineleesbaar markeren. Zo herkent software dat de inhoud door een AI is gemaakt of bewerkt. Een vrijwillige gedragscode zet stappen om die plicht aan te tonen.




