● NeuroSec Radar
Entrar

● Trascendental · últimas 48 h

Destacados · últimas 48 h

8Ciber⚠ Acción requeridaThe Hacker News ·

Attackers Abuse UpdraftCentral Keys to Plant Backdoors on WordPress Sites

→ Actualiza UpdraftPlus a versión 1.26.12 (gratuito) o 2.26.12 (Premium) o posterior, desconecta de UpdraftCentral, busca cuentas administrativas no autorizadas, verifica plugins desconocidos, cambia contraseñas de administrador y reconnecta el servicio.

#Ataque / brecha#Exploit#Actor de amenaza#Parche

Últimas noticias

3690 noticias
Limpiar
6IA × Ciber✨arXiv cs.AI ·

MLCommons Jailbreak Benchmark v1.0

MLCommons publica el Jailbreak Benchmark v1.0, una metodología para evaluar la robustez de los modelos de lenguaje frente a ataques de jailbreak de un único turno. El benchmark evalúa ocho sistemas de peso abierto usando 264 prompts semilla en once categorías de peligro, encontrando que la tasa de respuestas inseguras aumenta del 11,08% en condiciones de línea base al 18,65% bajo ataques de jailbreak.

#Jailbreak#Seguridad LLM#Investigación
3IAarXiv cs.AI ·

VIGOR: Zero-Shot Visual Generalization via Latent-Space Consistency in Model-Based Reinforcement Learning

Investigadores presentan VIGOR, un framework para mejorar la generalización visual en aprendizaje por refuerzo basado en modelos (MBRL) frente a distracciones visuales no vistas, como cambios de iluminación o variaciones de fondo. El método integra consistencia en espacio latente, augmentación asimétrica y estabilización del codificador, logrando mejoras respecto a baselines en conjuntos de prueba estándar.

#Investigación
4IAarXiv cs.AI ·

Time Series Forecasting Benchmarks Need Scenario-Grounded Stress Testing

Investigadores proponen un nuevo enfoque para evaluar modelos de predicción de series temporales que va más allá de las métricas estándar. El artículo argumenta que los benchmarks actuales no capturan los fallos reales de estos sistemas en producción, como anomalías estructuradas, cambios de régimen o dependencias rotas entre variables.

#Investigación#Recurso
3IAarXiv cs.AI ·

TasteBench: Multimodal Benchmark for Sensory Prediction, from Molecules to Sustainable Foods

Se presenta TasteBench, un benchmark multimodal para predecir propiedades sensoriales de alimentos sostenibles mediante aprendizaje automático. El conjunto de datos incluye más de 21.000 evaluaciones humanas de 215 alimentos a base de plantas y 15.000 moléculas de sabor, permitiendo entrenar y evaluar modelos que podrían acelerar el descubrimiento de proteínas vegetales alternativas a la carne.

#Investigación
4IAarXiv cs.AI ·

What Does a Token Cost? A Mixture-of-Agents Measurement of Sufficient Per-Token Compute

Un estudio de arXiv analiza el coste computacional real de cada token generado por grandes modelos de lenguaje mediante un enfoque de Mixture-of-Agents con quince modelos de distintas capacidades. Los investigadores descubren que el 10% de tokens más costosos representa el 64-80% del cómputo total, y que métodos como model routing y especulative decoding pueden optimizar significativamente la latencia y el uso de recursos.

#Investigación
4IA × CiberarXiv cs.AI ·

A Multi Method Importance and Performance Efficiency Analysis of Topological Metrics for Natural Visibility Graph Based Cyber Attack Detection

Un estudio evalúa 21 métricas topológicas derivadas de Natural Visibility Graph (NVG) para detectar ataques cibernéticos, integrando cuatro métodos de análisis de importancia (SHAP, Permutation Importance, Boruta, RFE) mediante estrategia de consenso. Las tres métricas mejor clasificadas logran una precisión del 97,148% con el conjunto de datos CICIDS2018, reduciendo el tiempo de ejecución en un 96,06% respecto al conjunto completo.

#IA defensiva#Herramienta
5IA × Ciber✨arXiv cs.CR ·

Threat-Preserving Representation Sensitivity in Agent-Security Benchmarks

Un estudio en arXiv analiza cómo la representación visual y textual de las herramientas en benchmarks de seguridad para agentes basados en LLM afecta significativamente a las métricas de robustez. Los investigadores descubren que cambiar nombres de herramientas entre versiones "threat-related" y "threat-neutral" puede alterar la tasa de éxito de ataque hasta en 13 puntos porcentuales, lo que cuestiona la validez de las conclusiones sobre seguridad de modelos basadas en una única representación.

#Seguridad LLM#Investigación
4IA × CiberarXiv cs.CR ·

PrivDev: Mapping Static-Analysis Data Types to DPV

PrivDev es un método que mapea tipos de datos personales identificados por analizadores estáticos de código (concretamente 122 tipos de Bearer CLI) a categorías de Data Privacy Vocabulary (DPV-PD) y disposiciones del GDPR. El enfoque combina mapeo determinista para coincidencias exactas con un LLM basado en recuperación para resolver las 79 asignaciones no triviales restantes, generando un grafo de conocimiento RDF validado estructuralmente.

#IA defensiva#Privacidad
5IA × CiberarXiv cs.CR ·

CorrectGuard: Eyes-Off Correctness Estimation for Black-Box Security Guardrails

CorrectGuard es un marco de trabajo para estimar si los guardrails de seguridad (mecanismos de defensa en sistemas de IA) funcionan correctamente en entornos donde ni humanos ni el propio modelo pueden inspeccionar las entradas de usuario, una limitación común en auditorías que priorizan la privacidad. El enfoque utiliza un evaluador independiente basado en modelos para predecir la corrección de las decisiones del guardrail sin acceso a sus internals, entrenado únicamente con datos etiquetados de entornos menos restrictivos.

#Seguridad LLM#IA defensiva
6IA × CiberarXiv cs.CR ·

Passing the Test You Trained On: Re-evaluating Prompt-Injection Detectors for LLM Agents

Un análisis de investigadores sobre detectores de prompt injection para agentes LLM revela que las puntuaciones en benchmarks públicos no predicen bien el comportamiento real dentro de agentes. Los detectores que funcionan mejor en un benchmark fallan significativamente en otros, lo que sugiere que las evaluaciones estándar no son representativas del contexto de despliegue real.

#Seguridad LLM#Prompt injection
5IA × CiberarXiv cs.CR ·

Persona Guardrail: A Production-Grade Defense Framework for Agentic Systems

Persona Guardrail es un framework de defensa en tiempo de ejecución para sistemas con agentes basados en modelos de lenguaje, diseñado para reforzar límites funcionales explícitos mediante validación de entrada y salida. El trabajo presenta PAGE, un benchmark para evaluar guardrails específicos de funcionalidad frente a solicitudes maliciosas y fuera de dominio, mostrando mejoras significativas en precisión (85,7% a 95,9%) y reducción de falsos positivos respecto a guardrails genéricos basados en LLM.

#IA defensiva#Seguridad LLM
5IA × Ciber✨arXiv cs.CR ·

Defense-in-Depth at the Perception-Reasoning Interface of LLM-Centric Agentic UAV Swarms

Investigadores implementan y evalúan defensas en profundidad en la interfaz percepción-razonamiento de enjambres de drones UAV controlados por LLMs, donde un adversario podría manipular reportes de sensores para redirigir el enjambre sin modificar el modelo. El sistema propone cinco capas de defensa que verifican la procedencia del reporte, admisibilidad física de valores, consistencia con geometría del enjambre, y control por planificador determinista cuando fallan las anteriores.

#IA defensiva#Seguridad LLM
4IA × Ciber✨arXiv cs.CR ·

LiBRA: Detection-Aware Image Watermark Removal via Bidirectional Latent Optimization

Investigadores presentan LiBRA, un ataque que elimina marcas de agua digitales de imágenes generadas por IA manteniendo su calidad visual. El método ajusta las imágenes en el espacio latente de un autocodificador para hacer indetectable la marca de agua, evitando inversiones que dejen rastros detectables.

#Seguridad LLM#IA ofensiva
6IA × Ciber✨arXiv cs.CR ·

EvoRiskBench: An Evolving Benchmark for Runtime Security Risks in Workspace Agents

EvoRiskBench es un benchmark evolutivo que evalúa riesgos de seguridad en tiempo de ejecución de agentes de workspace que combinan LLM con harnesses de ejecución. El estudio prueba nueve configuraciones de modelos y harnesses, revelando tasas de éxito de ataque de hasta el 68,44%, indicando vulnerabilidades sustanciales en los sistemas de IA autónoma actuales.

#Seguridad LLM#IA ofensiva#IA defensiva
6IA × Ciber✨arXiv cs.CR ·

The Fragility of Trigger-Tag Mechanisms for Misuse Detection in Open-Weight LLMs

Una investigación demuestra que los mecanismos de «trigger-tag» diseñados para detectar mal uso en modelos de lenguaje abiertos (como la generación de phishing) pueden ser completamente eludidos mediante ataques adversarios. Los investigadores formalizan estos mecanismos y presentan Untag, un marco unificado de ataque que los compromete.

#Seguridad LLM#Jailbreak
6IA × Ciber✨arXiv cs.CR ·

Securing Computer-Use Agents Against Branch Steering Attacks

Investigadores identifican ataques de "branch steering" contra agentes que interactúan con interfaces gráficas, donde datos no confiables obligan al agente a seguir rutas peligrosas preautorizadas sin inyección explícita de prompts. El patrón Dual-LLM, arquitectura estándar para garantías de seguridad, resulta vulnerable en entornos gráficos dinámicos. Los autores proponen COBRA, que acopla planes de ramificación confiables con restricciones de capacidad, logrando reducir el éxito de ataques del 94,4% a 0% sin perder utilidad benigna.

#Seguridad LLM#Prompt injection#IA defensiva
5IA × CiberarXiv cs.CR ·

Beyond Predefined Sinks: Security-Aware Dependency Analysis for LLM Agents

Investigadores presentan AgentSecGraph, un marco de análisis estático para evaluar la seguridad de agentes basados en LLM que interactúan con operaciones sensibles como ejecución de comandos y acceso a ficheros. El trabajo introduce AgentSecBench, un corpus de 67 repositorios reales de agentes LLM, e identifica que el análisis tradicional basado en operaciones predefinidas es insuficiente para determinar implicaciones de seguridad.

#Seguridad LLM#IA defensiva
5IA × Ciber✨arXiv cs.CR ·

AgentTrap: Stateful Feedback Deception against Autonomous Penetration Testing Agents

AgentTrap es un sistema de honeypot adaptativo diseñado para defender contra agentes de penetration testing autónomos que ejecutan ataques multi-paso. El sistema utiliza feedback con estado y engaño controlado para desviar a estos agentes de activos reales, reduciendo la tasa de éxito de ataque del 95,8% al 79,2% en evaluaciones contra ocho agentes diferentes.

#IA defensiva#Herramienta
6IA × CiberarXiv cs.CR ·

Containing the Autonomous Operator: A Defense-in-Depth Framework and Reference Architecture for Securing AI Agents on Kubernetes

Investigadores publican un marco de defensa en profundidad para asegurar agentes LLM que operan en clusters de Kubernetes, tratando la inyección de prompts como un riesgo de compromisos completos. El paper define una taxonomía de amenazas alineada con OWASP, nueve principios de diseño y una arquitectura de siete capas que integra mecanismos nativos de Kubernetes como RBAC, sandboxing (gVisor/Kata) y aplicación en runtime con eBPF.

#Seguridad LLM#IA defensiva
5IA × Ciber✨arXiv cs.CR ·

RMCW: A Deletion-Robust Watermark Based on Reed--Muller Codes for Language Models

Investigadores proponen RMCW, un método de watermarking para detectar texto generado por modelos de lenguaje basado en códigos de Reed-Muller. El enfoque mejora la robustez frente a ataques de eliminación de tokens que desalinean la estructura del watermark, utilizando pruebas de consistencia algebraica local para mantener la detectabilidad.

#Seguridad LLM#Investigación
5IA × CiberarXiv cs.CR ·

Pincer: Resource Authorization for Agents using a Digital Twin

Pincer es un nuevo mecanismo de defensa para agentes de IA de larga duración que aprende y ejecuta políticas dinámicas de mínimos privilegios específicas del usuario mediante un modelo gemelo digital aislado. El trabajo aborda el riesgo de que agentes autónomos como Claude o Codex sean manipulados por adversarios, mejorando la seguridad más allá de los sandboxes actuales basados en herramientas.

#IA defensiva#Seguridad LLM
5IA × Ciber✨arXiv cs.CR ·

Out of Sync, Out of Sight: Phantom State Attacks against IIoT Intrusion Detection

Investigadores presentan el Phantom State Attack (PSA), una técnica que elude sistemas de detección de intrusiones basados en machine learning en entornos IIoT inyectando desviaciones de tiempo calibradas en el tráfico de ataque. A diferencia de ataques previos, PSA no requiere acceso a gradientes, consultas al modelo ni conocimiento del tráfico benigno, sino que aprovecha la dependencia de la sincronización temporal en las ventanas de agregación del IDS.

#Seguridad LLM#IA ofensiva
5IA × Ciber✨arXiv cs.CR ·

CITADEL: CWE-Guided Insertion of Hardware Trojans via Analysis of DFG-Enabled LLMs

Investigadores presentan CITADEL, un framework que utiliza LLMs y grafos de flujo de datos para automatizar la síntesis de trojanos de hardware guiada por CWE. El sistema genera insertiones de trojanos que son sintácticamente correctas, indetectables bajo simulación y funcionalmente disparables, con el objetivo de crear benchmarks realistas para investigación en seguridad de circuitos integrados.

#IA ofensiva#Investigación
4IA × Ciber✨arXiv cs.CR ·

SideKernel: A Usable microVM Sandbox for AI Coding Agents on macOS

SideKernel es una sandbox de microVM de código abierto para macOS que aísla agentes de codificación basados en IA, que son componentes no confiables pero necesitan autonomía en máquinas de desarrolladores. Una encuesta de usuarios revela que menos del 40 % de los usuarios de agentes de IA ejecutan sus herramientas en sandboxes debido a barreras de usabilidad, y este trabajo evalúa comparativamente la solución propuesta contra alternativas existentes.

#IA defensiva#Herramienta
5IA × CiberarXiv cs.CR ·

Evaluating and Improving the Robustness of Large Language Models to Input Sequence Variations

Investigación sobre la robustez de los grandes modelos de lenguaje frente a variaciones adversariales de entrada, incluyendo inyecciones de prompt, troyanos y manipulación de métricas. El trabajo propone métodos de evaluación y mejora de la defensa, con implementación en herramientas como JudgeGuard y TrojanArmor.

#Seguridad LLM#Prompt injection#Jailbreak#IA defensiva
6IA × CiberarXiv cs.CR ·

Mitigating Private Data Leakage in LLMs with Whiteout

Investigadores presentan Whiteout, una herramienta que previene que los modelos de lenguaje grandes (LLMs) reproduzcan información personal sensible (PSI) de individuos, como fechas de nacimiento, números de teléfono y direcciones. El método utiliza muestras de ofuscación cuidadosamente diseñadas para sobrescribir estos datos memorizados, evitando riesgos de privacidad especialmente para personas de alto perfil. Las evaluaciones muestran que Whiteout es efectivo contra ataques diversos y mantiene la utilidad y seguridad del modelo.

#Seguridad LLM#Privacidad#IA defensiva
5IA × Ciber✨arXiv cs.CR ·

Hop-Decayed Influence: New Vulnerabilities of Structural Auxiliary Indexing in GraphRAG Pipelines with LLM

Una investigación presenta vulnerabilidades en sistemas GraphRAG (recuperación aumentada por grafos para LLMs) que explotan estructuras auxiliares creadas durante la indexación offline, como resúmenes semánticos y puntuaciones precomputadas. El ataque Hop-Decayed Influence (HDI) logra tasas de éxito del 88-94% modificando tan solo el 0,016% de estas estructuras, afectando múltiples consultas simultáneamente sin ser detectado por defensas estándar.

#Seguridad LLM#Prompt injection
5IA × Ciber✨arXiv cs.CR ·

MIRROR: Multipath Quorum Integrity for LLM Multi-Agent Communication

Se presenta MIRROR, un mecanismo de integridad para comunicación entre agentes en sistemas multi-agente basados en LLM que protege contra ataques Agent-in-the-Middle (AiTM). El método replica el mensaje a través de múltiples rutas y acepta solo cuando la mayoría reporta el mismo digest, logrando tasa de éxito de ataque del 0% con costo mínimo de inferencia.

#Seguridad LLM#Investigación