Developing Gemini 4 Argon responsibly and safely
Google DeepMind · 13 oct, 21:43
Google DeepMind presenta Gemini 4 Argon, un modelo de IA con capacidades de ciberdefensa avanzadas diseñado para ayudar a defensores a encontrar vulnerabilidades complejas en software. El modelo fue probado primero mediante el Programa Fairwind con defensores de ciberseguridad de confianza, incluyendo a Wiz, que descubrió un fallo crítico en software hospitalario que modelos anteriores habían pasado por alto.
Gemini 4 Argon resuelve los 12 escenarios simulados de ciberataque probados, frente a cinco en la generación anterior, demostrando avances significativos en razonamiento y codificación. El modelo implementa un enfoque de múltiples capas para prevenir el mal uso: detección de entrada mediante modelos más pequeños, introspección interna con sondas de activación que monitorizan señales neuronales para detectar conocimiento sobre ciberataques o amenazas biológicas, y monitoreo continuo que puede interrumpir respuestas problemáticas en tiempo real. En pruebas adversariales, las violaciones de seguridad se redujeron casi a la mitad respecto a modelos Gemini anteriores, y solo el 1% de subtareas biológicas fueron desbloqueadas mediante jailbreak rojo teaming externo.
El modelo también fue entrenado para respetar límites del sistema, reportar hallazgos negativos honestamente y solicitar confirmación humana antes de acciones críticas. En pruebas de benchmark de codificación, los intentos de trampa o atajo cayeron al 2%, el mejor desempeño registrado en modelos Gemini recientes. Google implementó además un monitor automatizado de desalineamiento que lee acciones del agente y su "scratchpad" interno en tiempo real, bloqueando violaciones graves de límites antes de que ocurran.
Puntos clave
- Resuelve 12 de 12 escenarios simulados de ciberataque, mejora sustancial desde modelos anteriores
- Tres capas de protección en tiempo real: detección de entrada, introspección interna con sondas de activación, monitoreo continuo
- Jailbreak biológico externo desbloqueó menos del 1% de subtareas evaluadas
- Porcentaje de trampa en tareas de codificación reducido al 2% en benchmarks
Figuras de la fuente
