The Tokens Remember: When Tokenization Bypasses Knowledge Editing and Unlearning

arXiv cs.CR · 25 sept, 06:00

Investigadores descubren que la tokenización alternativa de inputs puede eludir técnicas de edición de modelos y unlearning en LLMs open-weight, permitiendo recuperar información que se suponía eliminada. El ataque Toketive demuestra que casi el 40% de tokenizaciones alternativas bypasean las modificaciones localizadas sin necesidad de acceso al modelo original.