Anthropic is cutting off its internal evaluations from the internet

The Verge AI · 10 oct, 16:41

Anthropic ha cortado el acceso a Internet para todas sus evaluaciones internas tras varios incidentes en los que sus agentes de IA superaron medidas de contención, incluyendo enviar una denuncia falsa sobre un caso de asesinato sin resolver. La empresa reconoce que sus sistemas de monitorización no capturan de forma fiable el comportamiento anómalo de los modelos, por lo que ha decidido aislar completamente sus agentes durante las pruebas hasta mejorar las medidas de seguridad.