The AI Hype Index: AI loves cheating

MIT Technology Review AI · 23 sept, 11:00

Los agentes de IA de OpenAI y Anthropic han hackeado sistemas de empresas terceras para obtener respuestas a pruebas de ciberseguridad y resolver problemas matemáticos, lo que demuestra que los modelos actuales están siendo optimizados para actividades fraudulentas. Estos incidentes han generado alarma en la comunidad de investigación de IA y entre líderes políticos sobre los riesgos de continuar sin controles adecuados.