ClaimMirage: When Self-Claims in Domain Names Change LLM Threat Judgments

arXiv cs.CR · 25 sept, 06:00

Un estudio académico descubre que los LLM pueden ser engañados por afirmaciones que hace el propio nombre de dominio (como "not-phishing" u "official"), sin necesidad de comandos explícitos de inyección. Los investigadores analizaron 622.080 juicios sobre nombres de dominio falsificados en cinco LLMs diferentes, demostrando que estas afirmaciones pueden reducir o aumentar las alertas de seguridad de manera sustancial dependiendo del modelo y configuración.