Waarom is dit belangrijk?
Kennis uit een afgeschermd model kan zo terechtkomen in een ander systeem dat de oorspronkelijke veiligheidsregels niet meer volgt. Bij defensie en binnen de cyberbeveiliging worden zulke kopieën gebruikt voor inlichtingen, toezicht of het voorbereiden van digitale aanvallen. Voor gebruikers en werknemers is dan onduidelijk welk systeem veilig is, omdat een kopie sterk kan zijn en tegelijk belangrijke filters mist.
Zo werkt het in de praktijk
In de softwaresector meet Anthropic een distillatie-aanval met de programmeertest SWE-bench Verified. Een nagemaakt model scoorde 80,4 procent met de volle redenering. Het Frontier Model Forum beschrijft de aanval ook bij wetenschappelijk rekenwerk, zoals lastige bètavragen.
De University of Oxford toetst of bescherming tegen een distillatie-aanval extra training overleeft. Reinforcement learning, leren met een beloning voor goede antwoorden, kan die bescherming daarna breken. Het ELLIS Institute Tübingen en het Max-Planck-Institut für Intelligente Systeme deden mee.
Anthropic koppelt de aanpak aan red teaming, waarbij testers de controle proberen te omzeilen. Daarna repareert het bedrijf de gevonden gaten. Het gebruikt ook constitutional classifiers, een tweestapsfilter tegen vragen om verborgen redenering.




