Waarom is dit belangrijk?
Het herkennen van een hallucinatie helpt mensen een AI-antwoord eerst te controleren voordat zij ernaar handelen. In de rechtspraak blijft de inzet bij dossiers beperkt, omdat een model geloofwaardige tekst kan geven die niet bij de feiten past. Op school en op het werk blijft zelf controleren nodig, want een fout antwoord kan leiden tot een verkeerde beslissing of een onterecht gevolg.
Zo werkt het in de praktijk
Ziekenhuizen laten AI-schrijfhulpen het gesprek met de patiënt noteren. Onderzoekers van de University of Michigan Medical School zien dat een hallucinatie dan in het dossier belandt. ChatGPT van OpenAI verzon een boek van Harold Coward, en AI Overviews van Google noemde twee voetballers ten onrechte broers.
Het Rathenau Instituut onderzoekt hoe AI de wetenschap verandert. Het kijkt welke eisen dit stelt aan de controle op onderzoekskwaliteit. Chatbotantwoorden bevatten soms hallucinaties: teksten die op geen bron steunen en als speculatie gelden.
Veel chatbots koppelen het antwoord aan retrieval-augmented generation. Bij deze werkwijze zoekt het model eerst externe bronnen op en gebruikt die tekst daarna. Zo krijgt een hallucinatie minder ruimte in het eindantwoord.




