The Fragility of Trigger-Tag Mechanisms for Misuse Detection in Open-Weight LLMs

arXiv cs.CR · 5 oct, 06:00

Una investigación demuestra que los mecanismos de «trigger-tag» diseñados para detectar mal uso en modelos de lenguaje abiertos (como la generación de phishing) pueden ser completamente eludidos mediante ataques adversarios. Los investigadores formalizan estos mecanismos y presentan Untag, un marco unificado de ataque que los compromete.