Limits of Statistical Assurance for Embodied and Agentic AI under Adaptive Adversaries

arXiv cs.CR · 15 oct, 06:00

Un artículo de investigación que estudia los límites fundamentales de las evaluaciones de seguridad para sistemas de IA encarnada y agéntica frente a adversarios adaptativos. El trabajo demuestra que una evaluación estadística finita no puede excluir a un adversario que preserve su comportamiento sin atacar hasta la certificación y active el ataque después, incluso con evaluadores aleatorizados y adaptativos.