ReSI: Recursive Safety Improvement toward Resistant and Resilient AI

arXiv cs.CR · 9 oct, 06:00

ReSI es un marco de investigación automatizada que mejora iterativamente la seguridad de modelos de lenguaje mediante rondas de evaluación, red-teaming y actualización de pesos. El método equilibra la resistencia a amenazas conocidas con la resiliencia ante riesgos no anticipados, manteniendo capacidades generales mientras reduce significativamente la tasa de éxito de ataques X-Teaming (de 86 % a 31 %).