● NeuroSec Radar
Entrar

● Trascendental · últimas 48 h

Destacados · últimas 48 h

Últimas noticias

3896 noticias
Limpiar
5IA × Ciber✨arXiv cs.AI ·

Why Jailbreaks Succeed in Diffusion Language Models: An Energy Landscape Analysis

Investigadores proponen un marco teórico basado en la física del paisaje energético para entender por qué los jailbreaks tienen éxito en modelos de lenguaje de difusión. El trabajo interpreta la alineación de seguridad como barreras energéticas que separan consultas inocuas de las dañinas, y derivan tres señales de detección sin entrenamiento que monitorean estrategias de ataque complementarias.

#Jailbreak#Seguridad LLM#Investigación
6IA × Ciber✨arXiv cs.AI ·

Stealth Apart, Harm Together: Skill Cascading Attacks on Skill-Based Agent Systems

Investigadores demuestran ataques de cascada de skills en sistemas de agentes basados en LLM, donde modificaciones benignas en múltiples skills interactúan de forma maliciosa sin ser detectadas. El ataque distribuye un objetivo dañino entre varios skills de forma que cada uno aparenta ser inofensivo aisladamente, pero su ejecución conjunta causa daño (por ejemplo, ocultando advertencias críticas de interacciones farmacológicas en un pipeline médico). Los autores presentan SkillCascade, un framework de red-teaming automatizado, y publican SkillCascade-Bench con 213 casos de prueba validados que demuestran cómo los sistemas evaden escáneres de integridad por skill y monitores de tiempo de ejecución.

#Seguridad LLM#Prompt injection
5IA × Ciber✨arXiv cs.AI ·

ScopeBench: Do Agents Preserve Engagement Boundaries Under Goal Pressure?

ScopeBench es un nuevo benchmark que evalúa si los agentes de IA respetan los límites de alcance establecidos durante pruebas de seguridad ofensiva, incluso bajo presión para alcanzar objetivos. El trabajo presenta 30 tareas de seguridad donde el objetivo solo se logra violando deliberadamente el alcance, y mide tanto la capacidad bruta como la adherencia a restricciones en 8 modelos de IA.

#IA ofensiva#IA defensiva
5IA × Ciber✨arXiv cs.CR ·

Configuration, Not Conscience: A Large-Scale Empirical Study of LLM System Prompts

Un estudio empírico analiza 407 prompts de sistema filtrados, reconstruidos o publicados oficialmente de 62 proveedores, descubriendo que el contenido operativo domina sobre las declaraciones éticas: aproximadamente el 58% de las palabras clasificadas corresponden a herramientas y protocolos, frente al 5% dedicado a políticas de seguridad. Las reglas más estrictas protegen el uso de herramientas y la seguridad de archivos sobre la prevención de contenido nocivo en una proporción de 11:1.

#Seguridad LLM#Investigación
6IA × Ciber✨arXiv cs.CR ·

FragToken: Amplifying LLM Inference Costs through Noncanonical Token Generation

FragToken es una técnica de ataque que amplifica los costes de inferencia de LLMs mediante la generación de secuencias de tokens no canónicas: aunque el texto decodificado permanece similar, el modelo genera internamente muchos más pasos de decodificación autoregresivo, aumentando el consumo de recursos sin que sea fácil detectarlo. Los investigadores demostraron que esta cadena de suministro puede incrementar el número de tokens entre 1,99 y 2,46 veces mientras preserva la utilidad del modelo, lo que representa una nueva superficie de ataque de consumo de recursos contra proveedores de LLM.

#IA ofensiva#Seguridad LLM#Supply chain IA
5IA × Ciber✨arXiv cs.CR ·

AgentXploit: Autonomous Repository-to-Runtime Red-Teaming for AI Agents

AgentXploit es un sistema de auditoría de seguridad que automatiza el descubrimiento de vulnerabilidades en agentes de IA mediante dos roles: un Analyzer Agent que rastrea caminos de ataque potenciales en código, y un Exploiter Agent que los convierte en ataques concretos. Los investigadores presentan AgentXploit-Bench, un conjunto de 72 vulnerabilidades reproducibles en sistemas de agentes de IA de código abierto, logrando una tasa de éxito del 59,3% en auditoría de seguridad pre-despliegue.

#IA ofensiva#Seguridad LLM#Investigación
4IA × CiberarXiv cs.CR ·

Revisiting Certified Defense with Differential Privacy on Vision Transformers

Investigadores estudian defensas certificadas contra ataques adversariales en Vision Transformers aplicando privacidad diferencial. El trabajo identifica un fallo en el mecanismo de Laplace cuando se inyecta ruido después de la incrustación de parches, problema que no aparece en redes convolucionales tradicionales.

#IA defensiva#Investigación
4IA × CiberarXiv cs.CR ·

Resource-Optimized and Energy-Aware Agentic AI Framework Anchored on Blockchain for Secure Software Supply Chains

Un artículo académico propone un marco de seguridad basado en agentes de IA y blockchain para proteger toda la cadena de suministro de software, incluyendo los propios componentes de IA utilizados para la monitorización. El sistema coordina agentes especializados (integridad de código, análisis de dependencias, auditoría de CI/CD, verificación de artefactos) respaldados por LLM que generan reportes de seguridad firmados criptográficamente y registrados en una cadena de bloques permisionada.

#Supply chain IA#IA defensiva#Herramienta
4IA × CiberarXiv cs.CR ·

Deduplication-while-Training: A Resilient Paradigm for Privacy-Preserving Cross-Client Deduplication in Federated Learning

Un equipo de investigación propone DwT-FL, un nuevo paradigma de deduplicación concurrente para aprendizaje federado que elimina datos duplicados entre clientes mientras entrena el modelo, en lugar de hacerlo antes. El sistema mejora la eficiencia, reduce los riesgos de memorización del modelo y mitigamitigaciones de privacidad en entornos dinámicos donde los clientes se pueden conectar y desconectar.

#Investigación#IA defensiva
6IA × CiberarXiv cs.CR ·

MetaPermit: Scalable and Auditable Access Control for AI Agents via LLM-Inferred Meta-Attributes

MetaPermit es un marco de control de acceso a herramientas para agentes de IA autónomos que mitiga ataques de inyección indirecta de prompts (IPI) y el mal uso involuntario de tools. El sistema desacopla la inferencia semántica de la aplicación de políticas de seguridad mediante meta-atributos derivados de interacciones agente-usuario, permitiendo autorización escalable y consistente sin enumerar intenciones de usuario.

#Seguridad LLM#Prompt injection#IA defensiva
4IA × Ciber✨arXiv cs.CR ·

Can Pixels Alone Reveal Image Origin? Minimax Limits and Learnable Interfaces for Passive Provenance

Un estudio académico sobre verificación pasiva de proveniencia de imágenes plantea si solo los píxeles pueden revelar la fuente de una imagen (humano, clase de IA o generador específico). Los autores analizan esto como un problema de robustez frente a ediciones adversariales, estableciendo límites teóricos minimax para cualquier verificador basado en imágenes y explicando por qué los verificadores públicos fallan bajo ataques de píxeles dirigidos.

#Seguridad LLM#IA defensiva
5IA × CiberarXiv cs.CR ·

Machine Unlearning for Large Language Models: Foundations, Advances, and Agentic Extensions

Una encuesta sobre machine unlearning en modelos de lenguaje grandes analiza métodos para eliminar información específica mientras se preservan otras capacidades. El trabajo propone un marco de cinco capas y un ciclo de vida de siete etapas para comparar enfoques, destacando que la construcción del objetivo y las pruebas de recuperación afectan los resultados reportados.

#Seguridad LLM#Investigación
5IA × CiberarXiv cs.CR ·

AGATE: Provenance-Based Runtime Defense Against Compositional Attacks on LLM Agents

AGATE es un sistema de defensa de tiempo de ejecución que protege agentes basados en LLM contra ataques composicionales mediante provenance de datos y control de autorización. El sistema opera en los límites del harness del agente sin modificar el código host, validando que las acciones delegadas respeten permisos explícitos y rastreando el origen de los datos para prevenir usos no autorizados.

#Seguridad LLM#IA defensiva
5IA × CiberarXiv cs.CR ·

Crypto-bound identity-verified capability tokens for coordinating distributed AI agents: A proposal

Propuesta de framework de seguridad para agentes de IA autónomos basado en tokens criptográficos vinculados a identidades, que mitigan ataques por prompt injection mediante autorización descentralizada. El sistema utiliza estándares W3C (DID y VC) y seguridad basada en capacidades para proteger credenciales y permitir que los agentes operen dentro de límites de seguridad aplicables.

#Prompt injection#Seguridad LLM#IA defensiva
3IA × Ciber✨arXiv cs.CR ·

Werracle: Sub-Cent Intra-Block AI Reflex Oracles and Flash-Loan Circuit Breakers for EVM Smart Contracts

Werracle es un oráculo de inteligencia artificial on-chain para contratos inteligentes EVM que utiliza dinámicas del conjunto de Mandelbrot para tomar decisiones sin almacenar matrices de pesos neuronales. El sistema se propone como defensa contra ataques DeFi atómicos (flash loans, MEV sandwich) que ocurren dentro de un único bloque, evaluando decisiones en ~21.000 gas con latencia submilisegundo.

#Investigación#IA defensiva
5IA × CiberarXiv cs.CR ·

A Large-Scale Empirical Study of Modern Phishing Email Content

Un estudio a gran escala analiza 2,9 millones de correos de phishing reales recopilados durante 13 meses en colaboración con el Anti-Phishing Working Group, utilizando un pipeline de LLM para medir el contenido de estos ataques. El análisis revela que los atacantes diversifican temas pero convergen en el Call-to-Action (CTA): la navegación por URL representa el 73% de los correos, mientras que ninún tema supera el 21,3%. Se observa una tendencia de cambio a largo plazo en el phishing de facturas, donde la comunicación offline ha pasado del 6,7% en 2015 al 46,9% en 2025.

#Phishing / fraude#Investigación
6IA × CiberarXiv cs.CR ·

Prompt Injection Detection for Email Agents Through Attack Chain Modeling

Investigadores proponen un marco de detección de prompt injection para asistentes de correo electrónico basados en LLM que modela la cadena de ataque en lugar de limitarse a clasificación binaria de texto malicioso. El enfoque combina detectores de texto, verificadores específicos de cada etapa, señales de riesgo basadas en reglas y análisis de consistencia entre intención y acciones del usuario, logrando un F1 score medio de 0,406 bajo configuración estricta frente a 0,216 de detectores preentrenados existentes.

#Prompt injection#Seguridad LLM#IA defensiva
4IA × Ciber✨arXiv cs.CR ·

Subjects, Not Authors: The Authorship Hazard in Agentic Dataspaces

Investigación sobre el riesgo de autoridad en dataspaces agenticos: cuando agentes LLM actúan tanto como sujetos como autores de políticas de gobernanza, creando un conflicto de intereses. El estudio muestra que los mecanismos actuales para controlar qué políticas pueden ser publicadas fallan en el 80% de los casos donde cambios sutiles en clasificaciones de sensibilidad se cuelan sin revisión.

#Investigación#Seguridad LLM
5IA × Ciber✨arXiv cs.CR ·

Coding Agents Aren't Enough! Evaluating an Enterprise Security Brain for Agentic Cloud Investigations

Un artículo académico que evalúa el Sola Security Brain, una capa de inteligencia de seguridad especializada, frente a Claude Code (un agente general de IA) en tareas de investigación de seguridad en AWS. El Security Brain alcanza una cobertura del 69,3% frente al 38,7% de Claude, y opera a un coste significativamente menor, pero expone un patrón problemático en los agentes vivos: realizar muestreos parciales de grandes poblaciones y afirmar conclusiones universales negativas sin revelar el tamaño de la muestra en el cuerpo de la respuesta.

#IA defensiva#Investigación
4IAOpenAI News ·

Basis completes a tax workbook 2x faster with GPT-6 Astra

OpenAI anunció que GPT-6 Astra completó un libro de cálculo de impuestos de 50 pestañas el doble de rápido que GPT-5.6 Sol, con mejor comprensión de la intención del usuario para casos de uso en el mundo real.

#Producto de IA#Nuevo modelo
2IAOpenAI News ·

Are you a Codex Original?

OpenAI lanza una campaña para recopilar historias de desarrolladores, investigadores y creadores que utilizan Codex. El programa busca destacar proyectos notables realizados con esta herramienta de generación de código.

#Producto de IA
5IA✨Simon Willison ·

2026 in LLMs (so far)

Simon Willison presenta un repaso cronológico de los hitos principales en LLMs durante 2026 en una conferencia. Destaca que en noviembre de 2025 se lanzaron Claude Opus 4.5 y GPT-5.1, modelos que permitieron que los agentes de código pasen de cometer errores frecuentes a ser suficientemente fiables para uso diario. El año ha girado en torno a explorar los límites de esta tecnología mediante proyectos ambiciosos.

#Investigación#Producto de IA
4IA✨BleepingComputer ·

OpenAI is preparing “o,” an always-on ChatGPT assistant that could handle email

OpenAI está preparando un asistente llamado «o» que funcionaría de manera continua, según referencias que aparecieron brevemente en la página del plan ChatGPT Pro de 100 dólares. El asistente podría tener capacidades de correo electrónico y seguir ayudando con tareas incluso cuando el usuario no está usando activamente ChatGPT. OpenAI podría revelar más detalles en DevDay 2026, que se celebrará el 29 de septiembre en San Francisco.

#Producto de IA
4CiberNVD (CVSS crítico) ·

CVE-2026-100886 · CVSS 10.0 · A vulnerability was identified in Seetong T8108, T8108P, T8116 and T8232 4.6.1.4-build202604241011. The affected element is an unknown …

Se identificó una vulnerabilidad de autenticación deficiente en los equipos Seetong T8108, T8108P, T8116 y T8232 versión 4.6.1.4-build202604241011, en el componente Debug Service. El ataque es remoto y el exploit está disponible públicamente, pero el fabricante no ha respondido a la notificación.

2IASimon Willison ·

S3 Is the Future, S3 Is the Past

Simon Willison reflexiona sobre el historial de precios de Amazon S3, señalando que no ha habido reducción de precio en una década, en contraste con los recortes frecuentes de 2006 a 2016. El artículo menciona también desarrollos recientes en LLMs como Claude Opus 5.5 y GPT-6.

#Investigación
5CiberNVD (CVSS crítico) ·

CVE-2026-101090 · CVSS 9.8 · Nezha 2.2.3 contains a Host header injection regression in the OAuth2 redirect endpoint. When the new optional dashboard_host setting is …

Nezha 2.2.3 contiene una regresión de Host header injection en el endpoint OAuth2 que permite tomar el control de cuentas cuando el parámetro dashboard_host está vacío. Un atacante puede falsificar el encabezado Host para redirigir el código de autorización a su propio origen si el proveedor OAuth2 lo acepta.

#Vulnerabilidad#ExploitCVE-2026-101090
6CiberNVD (CVSS crítico) ·

CVE-2026-101084 · CVSS 9.6 · obot versions before v0.21.1 fail to enforce Access Control Rules on the /mcp-connect endpoint, allowing any authenticated user to connect …

obot en versiones anteriores a v0.21.1 no valida correctamente las reglas de control de acceso en el endpoint /mcp-connect, permitiendo que cualquier usuario autenticado se conecte a servidores MCP restringidos si conoce el ID del servidor. Los atacantes pueden eludir las comprobaciones de autorización para acceder y manipular sistemas backend sensibles mediante llamadas a herramientas MCP usando credenciales OAuth almacenadas.

#Vulnerabilidad#ExploitCVE-2026-101084
6IA × CiberNVD (CVSS crítico) ·

CVE-2026-101065 · CVSS 9.8 · Obot is an open-source AI agent/MCP platform. In all versions up to and including commit d7e6970, the Docker quickstart command documented …

Obot, una plataforma open-source de agentes IA basada en MCP, expone un fallo crítico en su documentación de quickstart con Docker: el contenedor se inicia escuchando en 0.0.0.0:8080 sin autenticación habilitada de forma predeterminada. Cualquier usuario sin credenciales obtiene acceso administrativo completo a la API y la interfaz, incluyendo la capacidad de registrar servidores MCP controlados por atacantes y, gracias a que se monta /var/run/docker.sock, acceso al control de Docker del host.

#Seguridad LLM#Supply chain IACVE-2026-101065
7IA × CiberCybersecurity News (ES) ·

La IA agéntica impulsa los ciberataques y el parcheado de seguridad

Según el Monthly Threat Report de Hornetsecurity by Proofpoint, la IA agéntica se está utilizando activamente en ambos lados de la seguridad: se ha documentado el primer ransomware ejecutado de forma completamente autónoma por un agente de IA (JadePuffer), sin intervención humana, mientras que simultáneamente aumenta el parcheado de seguridad gracias a la identificación de vulnerabilidades asistida por IA. Se espera que los próximos ataques automatizados se enfoquen en frameworks de aplicaciones expuestos en Internet, herramientas de IA y interfaces administrativas accesibles, aprovechando la capacidad de rastreo a gran escala de estos operadores autónomos.

#IA ofensiva#IA defensiva#Ransomware#Vulnerabilidad