Forgeable Confirmation in Automated Computer Security Testing: Deterministic Rules versus AI Judges

arXiv cs.CR · 22 sept, 06:00

Un estudio muestra que nueve de quince mecanismos de confirmación en pipelines automatizadas de testing de seguridad asistidas por IA son forgeables por atacantes. Los deterministic rules fallan en el 2% del contenido controlado por atacantes, mientras que ocho LLM judges de peso abierto fallan en una mediana del 50%. Mover la evidencia decisiva a canales que el atacante no puede escribir reduce el éxito del ataque del 97% al 0%, lo que importa para agentes de seguridad de IA y benchmarks que puntúan por string matching.