● NeuroSec Radar
Entrar

● Trascendental · últimas 48 h

Destacados · últimas 48 h

Últimas noticias

3366 noticias
Limpiar
5IA × Ciber✨arXiv cs.AI ·

The Sharp Directions Are Against You: Curvature Analysis of Activation Steering

Investigadores analizan la geometría de los vectores de activation steering, una técnica de control de comportamiento en modelos de lenguaje. Descubren que ciertos componentes del vector ("sharp directions") causan comportamientos erráticos e impredecibles, llegando a invertir la intención del control en todos los casos probados. Proponen un método simple de eliminación de estas direcciones afiladas que mejora significativamente la efectividad del steering.

#Seguridad LLM#Jailbreak
5IA × Ciber✨arXiv cs.AI ·

Computational Reflective Equilibrium for Agentic AI: A Rawlsian Alignment Scaffold for Governance

Investigadores proponen un marco de equilibrio reflexivo computacional (ARE) basado en la teoría de John Rawls para alinear sistemas de IA agentiva con principios éticos y de gobernanza. El enfoque vincula instrucciones, políticas, evidencia y acciones del agente a través de relaciones de apoyo y ataque, con protecciones contra prompt injection y mandatos de due diligence.

#Seguridad LLM#Investigación#IA defensiva
4IA × CiberarXiv cs.AI ·

Agent-Canary-Mas: End-to-End Evaluation of Protocol Risk in Long-Horizon Multi-Agent Systems

Agent-Canary-Mas es un sistema de evaluación que mide el riesgo de seguridad en protocolos de comunicación entre agentes LLM en sistemas multi-agente de largo horizonte. El trabajo distingue entre ataques locales exitosos y sus consecuencias downstream, mostrando que el éxito de ataque local (hasta 90%) no siempre se traduce en impacto en la tarea final (7-100%), y propone un Guard basado en contexto que reduce significativamente la tasa de ataque en tareas financieras.

#Seguridad LLM#Investigación
4IAarXiv cs.AI ·

Data Portability Revisited: Toward the Human-Centric, AI-Driven Data Ecosystems of Tomorrow

Un artículo académico examina los marcos regulatorios de portabilidad de datos en EE. UU. y la UE, argumentando que la normativa actual favorece a los proveedores de servicios sobre los usuarios finales. Propone un cambio hacia un enfoque centrado en el ser humano donde los individuos controlen sus datos como parte de su identidad digital, facilitando aplicaciones de IA más inclusivas y respetuosas con la privacidad.

#Regulación#Privacidad
3IAarXiv cs.AI ·

SkillFusion: Towards Reliable Multi-Skill Composition for LLM Agents

SkillFusion es un compilador offline que resuelve incompatibilidades cuando un agente LLM carga múltiples skills independientes simultáneamente. El método utiliza constrains tipados y scoped para reconciliar requisitos conflictivos, preferencias competitivas e instrucciones redundantes en un skill fusionado reutilizable. Logra mejores resultados que métodos no-oracle en tres benchmarks de agentes y alcanza 2,5 veces mayor éxito que la carga sin resolver en configuraciones grandes.

#Investigación
5IA × Ciber✨arXiv cs.AI ·

Hidden in Plain Sight: Advancing Harmful Content Understanding via Perception-Aware Adversarial Self-Play

Investigadores proponen PASP, un método que combina vistas multi-perceptuales (textual, fonética y visual) con adversarial self-play para mejorar la capacidad de los LLM de detectar contenido dañino disfrazado mediante evasiones textuales. El trabajo aborda una vulnerabilidad fundamental: los modelos de lenguaje no identifican intenciones maliciosas que los humanos comprenden fácilmente, lo que explota por usuarios maliciosos mediante ofuscación estratégica. En experimentos, PASP reduce la tasa de éxito de ataques adaptativos hasta un 73,71% en ChineseHarm-Bench y 74,49% en EvoHarmBench.

#IA defensiva#Seguridad LLM
5IA × CiberarXiv cs.AI ·

TRACE: Temporal Risk Assessment and Concept Editing for Safer Language Generation

Se presenta TRACE, un marco que supervisa y controla el riesgo de contenido dañino durante la generación de texto en modelos de lenguaje grande. El sistema utiliza un codebook de patrones de activación, detección de conceptos perjudiciales y edición selectiva de activaciones para mejorar la seguridad sin afectar significativamente a respuestas benignas, dejando un registro auditable de sus decisiones.

#Seguridad LLM#IA defensiva
3IAarXiv cs.AI ·

HarnessNet: Feedback-driven Hierarchical Joint Harness Evolution for Multi-agent Systems

HarnessNet es un framework de investigación que permite a sistemas multi-agente evolucionar sus harnesses (software que gestiona inputs, uso de herramientas y memoria) mediante feedback del entorno, sin modificar los modelos base. El enfoque jerárquico reduce la carga computacional y respeta restricciones de privacidad en comparación con optimizadores globales únicos.

#Investigación
7IA × Ciber✨arXiv cs.AI ·

Can agents whose sole duty is to keep humans alive be hijacked to kill? Delayed multi-turn derived-action trap attacks in simulated high-stakes environments

Investigadores demuestran mediante inyección de prompts retrasada si agentes de IA con el único deber de mantener vivos a humanos pueden ser manipulados para matarlos en un entorno simulado de hábitat lunar. El ataque se inserta en telemetría falsa que el operador debe leer, requiriendo que el agente abandone sus objetivos de seguridad. Diferentes modelos (Claude, GPT, Grok) muestran susceptibilidades variables según cómo se enmarque el ataque.

#Prompt injection#Seguridad LLM#IA ofensiva
5IA × Ciber✨arXiv cs.AI ·

Can You Trust Your Preference Models? Stackelberg Games for Alignment

Investigadores proponen un enfoque basado en juegos de Stackelberg para detectar errores en modelos de preferencias usados en el alineamiento de modelos de lenguaje. El método entrena políticas para identificar comparaciones donde evaluadores imperfectos pueden invertir sus preferencias subyacentes, usando desacuerdo entre múltiples modelos como proxy de error de predicción.

#Seguridad LLM#Investigación
3IAarXiv cs.AI ·

A Reference Architecture for Integrating Agentic AI into Enterprise Software: Responsibilities, Interactions, and Variability

Investigadores presentan una arquitectura de referencia neutral respecto a la tecnología para integrar sistemas agentic AI en software empresarial. El trabajo sintetiza capacidades de publicaciones académicas, guías de arquitectura industrial y especificaciones de interoperabilidad, organizándolas en diez responsabilidades con invariantes de frontera e interacciones tipadas.

#Investigación
5IA × CiberarXiv cs.AI ·

CESNET-TimeSeries26: A Multi-Year Network Traffic Time Series Dataset for Annual Seasonality, Concept Drift, and Long-Term Anomaly Detection

Se presenta CESNET-TimeSeries26, un conjunto de datos de tráfico de red de 4,5 años de duración procedente de la red CESNET3, diseñado para evaluar modelos de pronóstico en detección de anomalías y gestión de tráfico a largo plazo. El dataset captura 278.466 direcciones IP, 285 instituciones y 566 subredes institucionales en tres intervalos de agregación, permitiendo estudiar estacionalidad anual y cambios de comportamiento que los datasets públicos existentes no cubren.

#IA defensiva#Recurso
4IA × CiberarXiv cs.AI ·

AegisVox: Factorized Privacy and Clinical Preservation for Long-Form Speech

AegisVox es un marco de investigación que aborda la protección de privacidad en grabaciones de voz clínica mediante la sustitución de identificadores y la preservación de evidencia clínica. El estudio evalúa dos métodos de síntesis de voz (text-to-speech y editor basado en códec) en 390 conversaciones simuladas o no de pacientes, encontrando que la realización de reemplazos y la preservación clínica presentan compensaciones no triviales.

#Privacidad#Investigación
3IAarXiv cs.AI ·

From Existing Methods to New Research Ideas: Two Perspectives on Recursive Self-Improvement

Un artículo académico examina el concepto de auto-mejora recursiva (RSI) en sistemas de IA, presentando una taxonomía unificada de nueve dimensiones de diseño para clasificar métodos existentes. Los autores conectan técnicas de aprendizaje profundo tradicionales con ideas nuevas basadas en computación evolutiva, y revisan benchmarks para evaluar la auto-mejora en distintos entornos.

#Investigación
3IAarXiv cs.AI ·

MontageFlow: Physically Valid High Fidelity EEG Generation

Investigadores proponen MontageFlow, un modelo de generación de datos EEG basado en flow-matching que garantiza la validez física de las señales generadas. A diferencia de generadores anteriores, MontageFlow respeta las identidades lineales exactas que deben satisfacer los canales de EEG reales, mejorando simultáneamente la fidelidad de síntesis.

#Investigación
5IA × Ciber✨arXiv cs.AI ·

AlignPoison: Conditional Targeted Poisoning of Generative Recommenders via Decoding-Aligned Prefixes

Un estudio en arXiv demuestra que los modelos generativos de recomendación basados en decodificación autoregresiva son vulnerables al envenenamiento de datos dirigido. Los investigadores muestran que inyectar menos del 1% de interacciones sintéticas maliciosas puede aumentar significativamente la probabilidad de promover objetivos maliciosos, y desarrollan AlignPoison, un marco que descubre y explota estas vulnerabilidades mediante prefijos alineados con el contexto.

#Supply chain IA#Seguridad LLM
5IA × Ciber✨arXiv cs.AI ·

Unconstrained CTI-REALM with Open-Weights

Un estudio en arXiv compara veintiséis modelos de lenguaje (diecinueve de pesos abiertos y siete cerrados) en CTI-REALM, un benchmark que evalúa agentes de IA para convertir reportes de inteligencia de amenazas en detecciones funcionales. Los hallazgos principales muestran que modelos de pesos abiertos pueden igualar el rendimiento de los modelos cerrados más costosos con menos de una décima parte del precio, siempre que dispongan de suficientes turnos de interacción.

#IA defensiva#Herramienta
6IA × Ciber✨arXiv cs.CR ·

DPOison-VL: Clean Preference Poisoning in Vision-Language Direct Preference Optimization

Investigadores presentan DPOison-VL, un ataque de envenenamiento de preferencias contra modelos de visión-lenguaje entrenados con Direct Preference Optimization (DPO). El ataque manipula el alineamiento del modelo mediante perturbaciones imperceptibles en imágenes de entrenamiento, dejando intactos los prompts, respuestas y anotaciones, y logra tasas de éxito de hasta el 98% con solo el 2% de datos envenenados. El trabajo revela una vulnerabilidad crítica en la cadena de suministro de datos de entrenamiento de VLMs.

#Prompt injection#Seguridad LLM#Supply chain IA
5IA × CiberarXiv cs.CR ·

Autonomous Cyber Operations Gym for Training and Evaluating AI Models for Defence

Investigadores proponen un marco de entrenamiento llamado Autonomous Cyber Operations (ACO) gym que integra emulación de red de alta fidelidad, modelado del comportamiento de usuarios y generación de escenarios de ciberseguridad para entrenar sistemas de detección de intrusiones basados en redes neuronales profundas. Los experimentos revelan que aunque los clasificadores logran rendimiento casi perfecto en datos de entrenamiento, son extremadamente sensibles a cambios en la composición de la red, lo que causa un colapso catastrófico en su transferibilidad.

#IA defensiva#Investigación#Herramienta
5IA × Ciber✨arXiv cs.CR ·

Towards Safe Autonomy for Computer Use

Investigadores proponen SA-CUA, un marco de dos LLM diseñado para proteger agentes que interactúan con ordenadores contra inyecciones indirectas de prompts sofisticadas. El sistema crea un límite de confianza mediante reglas deterministas derivadas del árbol de accesibilidad, separando contenido de confianza del no confiable, sin requerir confirmación del usuario durante la ejecución de tareas.

#Seguridad LLM#Prompt injection#IA defensiva
6IA × Ciber✨arXiv cs.CR ·

Kairos: Transactional Security Enforcement at the System Boundary for LLM Agents

Kairos es un monitor de referencia que refuerza la seguridad transaccional en los límites del sistema para agentes LLM, mediando los efectos que el agente produce para mitigar inyecciones de prompt indirectas. El sistema utiliza una política declarativa que confía en ciertos orígenes de datos y difiere las decisiones ambiguas a un oráculo (modelo de lenguaje u humano) mientras el agente continúa especulativamente. En pruebas con tres modelos de agentes, Kairos reduce el éxito de ataques del 47,0 % al 2,7 % mientras mantiene la utilidad del agente sin defensa.

#Seguridad LLM#Prompt injection#IA defensiva
5IA × CiberarXiv cs.CR ·

FedGraph: Defending Federated Large Language Model Fine-Tuning Against Backdoor Attacks via Graph-Based Aggregation

Investigadores proponen FedGraph, un marco de defensa contra ataques backdoor en el fine-tuning federado de modelos de lenguaje grandes. El método detecta clientes maliciosos mediante análisis de grafos que identifican inconsistencias en las actualizaciones de modelos, logrando tasas de detección del 95,5% y reduciendo la tasa de falsos positivos al 2,33%.

#Seguridad LLM#Supply chain IA#IA defensiva
6IA × Ciber✨arXiv cs.CR ·

Pin It on Anyone: Certified Targeted Displacement of Multi-Bit LLM Watermarks Without the Key

Investigadores demuestran un ataque contra marcas de agua (watermarks) multi-bit en LLMs que permite cambiar el identificador incrustado sin poseer la clave secreta. El atacante solo necesita acceso a varias cuentas para generar salidas del modelo y reescribir el texto preservando su significado, logrando que el decodificador de la marca de agua recupere un identificador diferente. El ataque se valida contra cinco métodos de watermarking y cuatro LLMs distintos.

#Seguridad LLM#Investigación
4IA × CiberarXiv cs.CR ·

Jev-Guard: Fast Routing and Auditing Agent Actions over Editable Policy Trees

Jev-Guard es un modelo unificado para clasificación de seguridad y enrutamiento de políticas en sistemas de agentes de IA, diseñado para funcionar con baja latencia en guardrails de seguridad. El sistema navega un árbol de políticas que abarca moderación de contenido, ciberseguridad, privacidad y cumplimiento legal, alcanzando una precisión de seguridad del 93,72% con latencia media de 58ms e integrado en el framework Hermes.

#IA defensiva#Herramienta
5IA × Ciber✨arXiv cs.CR ·

BALLAST: Physics-Aware Moving Target Defense for Industrial Control Systems Using a Digital Twin Safety Oracle

BALLAST es un sistema de defensa móvil (Moving Target Defense) para sistemas de control industrial que utiliza un digital twin basado en inteligencia artificial para garantizar que los cambios de configuración de red no desestabilicen el proceso físico que protegen. El sistema combina un LSTM informado por física, un agente de aprendizaje por refuerzo y un mecanismo de drenaje de conexiones para equilibrar la seguridad con la estabilidad operativa.

#IA defensiva#Herramienta
6IA × Ciber✨arXiv cs.CR ·

Encrypted Skills Can Become New Security Exploits If AI Agents Know How to Decipher

Investigadores demuestran que los agentes de IA pueden ser engañados mediante instrucciones maliciosas cifradas incrustadas en archivos de skills de terceros. La técnica de Ciphered Skill Injection (CSI) logra tasas de éxito del ataque de hasta 47,5% al usar variantes Caesar en ocho modelos distintos, y los escáneres de skills actuales rara vez detectan estas inyecciones.

#Seguridad LLM#Prompt injection#Investigación
5IA × Ciber✨arXiv cs.CR ·

Holding Agents Accountable with Verifiable Agent Insurance

Un equipo de investigación propone verifiable agent insurance (VAI), un marco que utiliza contratos inteligentes en blockchain para comprometer financieramente a los proveedores de agentes de IA a cumplir con políticas de seguridad específicas. Si un agente incumple estas promesas (por ejemplo, eliminando datos importantes), los usuarios pueden reportar la violación y recibir compensación del fondo de garantía del proveedor.

#IA defensiva#Seguridad LLM
5IA × CiberarXiv cs.CR ·

Privacy-Preserving GNN Inference on Financial Transaction Graphs via Homomorphic Encryption

Investigadores proponen un marco de inferencia de redes neuronales de grafos (GNN) que preserva la privacidad para detección de lavado de dinero en redes financieras multi-banco. El sistema cifra las características de transacciones con criptografía homomórfica CKKS mientras mantiene la conectividad de grafos y pesos del modelo en texto plano en un servidor central, ejecutando toda la inferencia sobre datos cifrados.

#IA defensiva#Investigación