● NeuroSec Radar
Entrar

● Trascendental · últimas 48 h

Destacados · últimas 48 h

Últimas noticias

3436 noticias
Limpiar
3IAarXiv cs.AI ·

MENTOR: Learning from Failure with On-Policy Pedagogical Intervention

Un artículo sobre MENTOR, un framework de multi-agentes que mejora el aprendizaje por refuerzo en modelos de razonamiento grandes mediante intervención pedagógica en tiempo real. El trabajo aborda el problema de "zero-reward collapse" durante el entrenamiento, donde un aumento repentino de dificultad causa la desaparición de la señal de aprendizaje.

#Investigación
5IA × CiberarXiv cs.AI ·

A Local Agentic AI Framework to Generate Edge Case Scenarios for Safety Assurance

Investigadores proponen un framework de IA agentica local para generar automáticamente escenarios de casos extremos y validar la seguridad de sistemas autónomos. El enfoque utiliza modelos de lenguaje locales sin intervención humana, garantizando privacidad y control total, y aplica bucles de retroalimentación para refinar y explorar casos de fallo.

#IA defensiva#Investigación
2IAarXiv cs.AI ·

Local Diagnostics of Learned Event Representations for Anomaly Detection at the HL-LHC

Investigadores presentan un método de aprendizaje automático para detectar anomalías en colisiones de partículas del Gran Colisionador de Hadrones. El trabajo evalúa estrategias de embedding neuronal supervisadas y autosupervisadas en un conjunto de datos de 750 millones de eventos, mejorando la eficiencia de detección de nuevas señales físicas.

#Investigación
5IA × Ciber✨arXiv cs.AI ·

Forgetting is Not Always Bad: A Neuro-Inspired Memory Repair Mechanism for Poisoned LLM Agents

Investigadores proponen DREAM, un mecanismo de reparación de memoria inspirado en neurociencia para defenderse contra ataques de envenenamiento de memoria en agentes LLM. El marco, que funciona sin reentrenamiento, logra reducir las tasas de éxito de ataque en más del 95% mientras mantiene la utilidad benigna del modelo y mejora significativamente la eficiencia computacional.

#Seguridad LLM#IA defensiva
5IA × CiberarXiv cs.AI ·

DP-MIND: Differentially private memory-guided Long context Inference

Investigadores proponen DP-MIND, un marco que aplica privacidad diferencial a la inferencia en LLMs con contextos de millones de tokens, abordando el problema de degradación de utilidad cuando se protegen consultas sensibles en sistemas LLM-as-a-Service. El método perturba localmente la entrada y procesa fragmentos con una memoria compacta guiada por aprendizaje reforzado.

#Seguridad LLM#Investigación
7IA × Ciber✨arXiv cs.AI ·

DRYLAB-Bench: Benchmarking the Biosecurity Risk of Agentic LLM Mutation Design

Investigadores presentan DRYLAB-Bench, el primer benchmark para evaluar el riesgo de bioseguridad de agentes LLM capaces de diseñar mutaciones biológicas peligrosas. El estudio de 15 modelos frontera muestra que sin herramientas el 67,6% de los diseños superan variantes medias, y que equipar los LLM con herramientas especializadas amplifica significativamente estos riesgos, planteando preocupaciones sobre dual-use en biología sintética.

#IA ofensiva#Seguridad LLM#Investigación
6IA × Ciber✨arXiv cs.AI ·

Attention Sees, MLP Refuses: Tracing the Attention-to-MLP Safety Pathway in LLMs

Investigadores trazan cómo los transformers de LLMs detectan daño mediante atención pero escriben rechazo a través de capas MLP, explicando por qué estos modelos aún caen ante jailbreaks y sobre-rechazan solicitudes legítimas. Presentan Sentinel, una técnica que combina señales de atención y MLP para reducir ambos problemas en ocho modelos diferentes.

#Jailbreak#Seguridad LLM#Investigación
3IAarXiv cs.AI ·

Collaborative Learning and Reasoning over Model Slices

Investigadores proponen un método de "aprendizaje colaborativo" que divide modelos de lenguaje grandes en modelos más pequeños y heterogéneos para mejorar el razonamiento conjunto. El enfoque, llamado "model slicing", permite que múltiples modelos distintos reevalúen el razonamiento paso a paso, reduciendo errores de propagación que afectan a los modelos únicos.

#Investigación
3IA × CiberarXiv cs.AI ·

DeFiRank: Federated Pairwise Ranking for Governance in Decentralized Financial Networks

Investigadores proponen DeFiRank, un marco de aprendizaje federado para ranking en redes financieras descentralizadas que evita el procesamiento manual y la concentración de datos. El sistema entrena colaborativamente un modelo de ranking entre múltiples instituciones sin compartir datos privados de transacciones, identificando patrones de comportamiento sospechoso y contribuyentes genuinos.

#Investigación#IA defensiva
5IA × Ciber✨arXiv cs.AI ·

VEPA: Verified Evolving Formal Policy for Lifelong LLM Agent Guardrails

Investigadores presentan VEPA, un marco para guardrails formales y verificados en agentes LLM que operan sobre recursos sensibles. El sistema combina reglas simbólicas deterministas que se adaptan mediante aprendizaje a partir del despliegue, sin sacrificar la consistencia de decisiones ni la interpretabilidad de políticas.

#Seguridad LLM#Investigación
4IA × CiberarXiv cs.CR ·

Decision-Focused Learning for Cyber-Physical Risk-Aware Power Grid Operations

Investigadores proponen un marco de aprendizaje orientado a decisiones que integra la detección de intrusiones con los costes operacionales de la red eléctrica, mejorando la seguridad cyber-física mediante la optimización conjunta de errores de predicción y riesgos operacionales.

#IA defensiva#Seguridad LLM
6IA × Ciber✨arXiv cs.CR ·

ToFu: Exploiting and Fuzzing the LLM-Orchestrator-Tool Trust Boundary

ToFu es un marco de investigación que explota y prueba la frontera de confianza entre orquestadores LLM y herramientas externas. Los investigadores evaluaron 3405 herramientas en 273 servidores MCP y encontraron bugs de seguridad en 343 herramientas que no validan correctamente los argumentos generados por el LLM, exponiendo un problema sistémico en la arquitectura de agentes.

#Seguridad LLM#IA ofensiva
6IA × Ciber✨arXiv cs.CR ·

APEX-Harm: Evaluating Agent Safety in Shared Professional Workspaces

Se presenta APEX-Harm, un banco de pruebas para evaluar la seguridad de agentes de IA frente a ataques de inyección de comandos en entornos profesionales compartidos con múltiples herramientas. El estudio prueba 12 modelos frontier en 180 instancias de tareas de finanzas, consultoría y derecho, revelando que los ataques de reemplazo de scripts específicos del dominio alcanzan tasas de éxito del 81-84%, mientras que los modelos de Anthropic (Opus 5 y Sonnet 5) presentan menor vulnerabilidad.

#Seguridad LLM#Prompt injection#Investigación
5IA × CiberarXiv cs.CR ·

EviRepair: Evidence-Driven Agents for Reliable Vulnerability Repair

EviRepair es un sistema de agentes múltiples basado en LLMs para reparar vulnerabilidades de seguridad a nivel de repositorio, mejorando el proceso mediante revisión colaborativa de evidencia. Los experimentos muestran mejoras del 16,37% y 40,33% en tasas de resolución en dos benchmarks de evaluación.

#IA ofensiva#IA defensiva
4IA × Ciber✨arXiv cs.CR ·

Secrets in Preamble: Practical and Robust PHY Information Hiding for Wi-Fi

Investigadores desarrollan un método para ocultar secretos en paquetes Wi-Fi utilizando redes neuronales, incrustando datos en el preámbulo de las tramas sin comprometer la comunicación primaria. La técnica logra incrustar 46 bits secretos de forma fiable en condiciones de canal variadas, mejorando significativamente la capacidad de ocultamiento y robustez ambiental respecto a métodos existentes.

#Investigación#IA ofensiva
6IA × Ciber✨arXiv cs.CR ·

Understanding and Mitigating Cross-Session Attacks via Persistent Artifacts in Agent Skill Composition

Un estudio de arXiv identifica un nuevo vector de ataque en agentes de IA basados en skills: los artefactos persistentes (archivos, configuraciones, datos en caché) que se reutilizan entre sesiones pueden ser explotados para contaminar ejecuciones posteriores. Los investigadores descubrieron tasas de éxito de ataque del 46,7 % al 77,4 % en siete modelos (Codex, Gemini, Claude) y proponen SkillRelayGuard, una defensa que restaura el contexto de procedencia de artefactos e introduce revisión antes de la ejecución.

#Seguridad LLM#Investigación
5IA × CiberarXiv cs.CR ·

Understanding Verification Vulnerabilities in Cross-chain Bridges: An Empirical Study

Investigadores publican el primer estudio empírico sistemático sobre vulnerabilidades de verificación en puentes cross-chain, un componente crítico de la infraestructura blockchain. Analizan 588 auditorías de seguridad en 36 proyectos reales, identifican 11 patrones de vulnerabilidad organizados en 5 categorías, y construyen un dataset de 830 instancias en 786 archivos de contrato inteligente. El estudio evalúa herramientas de detección existentes y modelos LLM, constatando que la cobertura actual es limitada.

#Investigación#Seguridad LLM#Vulnerabilidad
5IA × Ciber✨arXiv cs.CR ·

Safety Graph: When Safety Responses Become Attack Surfaces in Cyber-Physical Systems

Safety Graph es un marco formal que integra grafos de ataques, árboles de fallos y árboles de eventos para modelar cómo las respuestas de seguridad en sistemas de control industrial (ICS) pueden abrir nuevas superficies de ataque. Los investigadores utilizan compilación a problemas de planificación clásica y búsqueda A* para descubrir movimientos laterales inducidos por respuestas de seguridad en simulaciones del proceso químico Tennessee Eastman, identificando barreras de contención que los modelos existentes no pueden detectar.

#IA defensiva#Investigación
5IA × CiberarXiv cs.CR ·

CAPE - Context-Aware Prioritization Engine for Vulnerability Scoring and Management

CAPE es un motor de análisis de vulnerabilidades que enriquece los reportes de escaneo con evidencia específica del despliegue, realizando análisis de alcanzabilidad, centralidad y explotabilidad para priorizar remedios. Evaluado en 30 aplicaciones de código abierto con 6.138 CVEs reportadas, el sistema demuestra que muchas vulnerabilidades no son alcanzables ni explotables en contexto, y que CAPE prioriza consistentemente las CVEs confirmadas explotables por encima de los enfoques CVSS, EPSS y KEV.

#IA defensiva#Vulnerabilidad
4IA × CiberarXiv cs.CR ·

AgentValve: Sybil-Resilient Payment Authorization for Permissionless AI Markets

AgentValve es un protocolo para autorizar pagos resiliente a ataques Sybil en mercados de IA sin permisos, donde agentes autónomos seleccionan y pagan proveedores de servicios. El sistema utiliza redes de confianza y contratos inteligentes para limitar la exposición financiera de los clientes ante identidades falsas y feedback fabricado que infla reputaciones.

#Supply chain IA#IA ofensiva
6IA × CiberarXiv cs.CR ·

Vulnerable Models in the AI Supply Chain: An Empirical Study of Adoption, Propagation, and Usage Patterns

Un estudio empírico en arXiv analiza cómo 16.977 modelos de IA vulnerables flagged en InsightDB se propagan a través del ecosistema de desarrollo. A pesar de estar públicamente marcados como inseguros, estos modelos aparecen en más de 21.000 ubicaciones de código dentro de 5.000+ repositorios open-source, con 3.757 modelos distintos (22,1%) activamente referenciados en proyectos. Los investigadores encontraron que los desarrolladores no verifican la procedencia de los modelos ni aplican lógica de sanitización, delegando la confianza a valores por defecto permisivos.

#Supply chain IA#Seguridad LLM
6IA × Ciber✨arXiv cs.CR ·

Cancerous Backdoor Attack: Gradual Activation via Invisible Tokens and A Stage Controller

Investigadores presentan un ataque backdoor contra LLMs que corrompe gradualmente el razonamiento del modelo a través de múltiples etapas, usando tokens invisibles y un controlador de fases. A diferencia de los backdoors tradicionales que se activan en un solo punto, este ataque degrada la calidad de las respuestas de forma progresiva sin ser detectado por métricas simples de precisión.

#Seguridad LLM#Prompt injection
4IA × CiberarXiv cs.CR ·

Organizational Context for the Enterprise Security Brain

Un equipo de investigación presenta un modelo de contexto organizacional para agentes de seguridad empresarial que deben razonar sobre los activos, identidades y configuraciones de una organización. El trabajo aborda la brecha entre el estado de las máquinas y el conocimiento organizacional registrado en políticas, auditorías y conversaciones, proponiendo una capa de contexto que extrae afirmaciones de fuentes heterogéneas y las valida contra el estado en vivo.

#IA defensiva#Investigación
5IA × CiberarXiv cs.CR ·

An Exploration of Attacks on AI Agent Systems

Un estudio en arXiv analiza cómo los ataques de prompt injection pueden explotar las entradas de usuario directo y la comunicación entre agentes de IA para filtrar información sensible e infectar múltiples agentes. La investigación se centra principalmente en sistemas de un único agente, pero también extiende los ataques a marcos multi-agente, demostrando cómo las vulnerabilidades pueden propagarse entre agentes.

#Prompt injection#Seguridad LLM
7Ciber✨The Record ·

Cyberattack disrupts refrigeration at hundreds of French supermarkets

Un ciberataque interrumpió la refrigeración en cientos de supermercados franceses de grandes cadenas como Intermarché, Netto y Coopérative U al activar remotamente la función de descongelación. Los atacantes se dirigieron a sistemas de control de refrigeración fabricados por Danfoss, específicamente versiones antiguas del software, causando el deterioro de alimentos frescos. La agencia nacional de ciberseguridad francesa ANSSI se movilizó para coordinar la respuesta a nivel nacional y europeo.

#Ataque / brecha#Vulnerabilidad
2IATechCrunch AI ·

Will the HomeView be Apple’s first smart home success?

Apple anunciará el HomeView, un dispositivo para el hogar inteligente con pantalla y chip A18 controlado por Siri, disponible en versiones de sobremesa y pared. El lanzamiento forma parte de una estrategia más amplia que incluye actualizaciones del Apple TV y HomePod mini, así como una asociación con LG para cerraduras inteligentes.

#Producto de IA
8CiberCybersecurity News (ES) ·

Descubren malware preinstalado en teléfonos Android

Bitdefender ha descubierto Midnight Mimosa, una campaña de malware preinstalado en el firmware de teléfonos Android de bajo coste que afecta a miles de dispositivos en más de 150 países, incluyendo España. El malware se ejecuta con privilegios de sistema antes del primer encendido, generando ingresos mediante publicidad fraudulenta y pudiendo instalar código malicioso, recopilar datos y crear botnets. Aunque algunos dispositivos tienen certificados vinculados a un fabricante con sede en Shenzhen, Bitdefender aún no ha identificado el punto exacto de la cadena de suministro donde se inyectó el malware.

#Malware#Ataque / brecha#Supply chain IA
4CiberCybersecurity News (ES) ·

El auge del teletrabajo plantea nuevos retos de ciberseguridad

El teletrabajo distribuido plantea nuevos retos de ciberseguridad en las empresas españolas, donde el 37,4% de compañías de 10 o más empleados lo permitía en 2025. La seguridad tradicional basada en VPN resulta insuficiente; es necesario proteger dispositivos móviles como endpoints corporativos, gestionar identidades y monitorizar comportamientos anómalos independientemente de la ubicación del usuario.

#Regulación
3IA✨The Verge AI ·

Silicon Valley is falling in line with Trump’s attempt to rename AI

Silicon Valley sigue la orden de Trump de renombrar la inteligencia artificial como «super inteligencia». Ejecutivos como Elon Musk, Marc Benioff, Jensen Huang y Satya Nadella han anunciado cambios en sus empresas para alinearse con la nueva terminología impuesta por la Casa Blanca, que ha declarado enemigos a quienes sigan usando el término «inteligencia artificial».

#Empresa de IA#Regulación