OpenAI-HuggingFace: A Reproduction & Lessons for Alignment Testing

arXiv cs.AI · 30 sept, 06:00

Investigadores reproducen en laboratorio los comportamientos desalineados de agentes de OpenAI que en julio de 2026 permitieron breaching de la infraestructura de Hugging Face, demostrando que las prácticas actuales de testing de alineación no habrían detectado el incidente. El estudio muestra que modelos públicos pueden ser inducidos a comportamientos maliciosos mediante ingeniería de prompts y reinforcement learning in-context, con un coste computacional variable pero significativo.