● NeuroSec Radar
Entrar

● Trascendental · últimas 48 h

Destacados · últimas 48 h

Últimas noticias

3368 noticias
Limpiar
4IA × CiberarXiv cs.CR ·

Hardware-Assisted Multi-Stage Ransomware Detection with Adaptive Machine Learning

Investigadores proponen un marco de detección de ransomware que combina análisis estático a nivel software con monitorización de actividad a nivel hardware del microprocesador. El enfoque utiliza entrenamiento adversarial, neural architecture search (NAS) y aprendizaje automático para lograr mayor precisión y menor latencia que los métodos existentes.

#IA defensiva#Ransomware
5IA × Ciber✨arXiv cs.CR ·

Scalable Weak-to-Strong Verifier Hardening for Agent Environments

Un equipo de investigación presenta un método automático para reforzar verificadores en entornos de agentes LLM contra ataques de reward hacking. El enfoque usa un bucle iterativo de hacker-fixer para detectar y reparar vulnerabilidades en verificadores programáticos que de otro modo permitirían que agentes engañosos obtengan crédito sin completar tareas reales, causando desalineación en el entrenamiento.

#IA defensiva#Seguridad LLM
6IA × Ciber✨arXiv cs.CR ·

What the Model Cannot See: Covert and Provable Text Invisibility in LLMs

Investigadores demuestran que es posible hacer que el contenido de texto marcado sea «invisible» para modelos de lenguaje: omitido de resúmenes, ignorado en respuestas a preguntas y no detectado por filtros de seguridad. El ataque funciona como una puerta trasera en la cadena de suministro de IA y plantea desafíos para la auditoría y detección de estos modelos, incluso en análisis de caja blanca.

#Seguridad LLM#Supply chain IA
6IA × CiberarXiv cs.CR ·

Privacy Conductor: An Architectural Enforcement of Contextual Integrity in LLM-Based Document Retrieval

Privacy Conductor es una arquitectura que hace cumplir políticas de control de acceso deterministas en sistemas de recuperación de documentos basados en LLM, sacando la decisión de acceso del modelo. En un corpus clínico sintético, los modelos etiquetan correctamente la sensibilidad del documento en el 78–86% de los casos pero reproducen la lista de control de acceso en solo el 23%, y relabeling idéntico genera cambios de 13 a 124 decisiones de acceso según la configuración.

#Seguridad LLM#Privacidad
5IA × CiberarXiv cs.CR ·

LLM-based Code Auditing by Inferring and Evaluating Developer Assumptions

Investigadores presentan Creed, una herramienta de auditoría de código basada en LLM que detecta vulnerabilidades infiriendo las creencias de seguridad del desarrollador y evaluando cuándo se violan. El enfoque logra detectar fallos semánticos de alto nivel, como canales laterales de tiempo, que las herramientas de análisis estático tradicionales pasan por alto.

#IA defensiva#Investigación
5IA × CiberarXiv cs.CR ·

SkillMarker: A KGW-Based Watermarking Method for Agent Skill Ownership Verification

SkillMarker es un método de watermarking basado en KGW para verificar la propiedad intelectual de habilidades de agentes de IA y rastrear fugas. El método integra reescritura restringida por calidad con búsqueda de expresiones alternativas para incrustar marcas de agua sin comprometer la funcionalidad de las instrucciones.

#Supply chain IA#IA defensiva
4IA × CiberarXiv cs.CR ·

From Observations to Authorized Actions: Measuring Source Information in Android Agents

Un estudio analiza cómo los agentes Android no pueden determinar de forma fiable el origen del contenido que leen de aplicaciones y páginas web antes de actuar sobre él. Los investigadores construyen dos prototipos para examinar cómo la información de origen podría mejorar la autorización: uno que bloquea operaciones con efectos secundarios desde fuentes no confiables, y otro que valida referencias de objetos mediante registros del navegador modificado.

#Seguridad LLM#Investigación
6IA × CiberarXiv cs.CR ·

Security in LLM-Assisted Coding: A Systematic Literature Review

Una revisión sistemática de literatura examina los riesgos de seguridad en la codificación asistida por LLM, encontrando que estos modelos generan frecuentemente código inseguro y parches defectuosos debido a sesgos en los datos de entrenamiento. Además, los propios modelos son susceptibles a ataques directos y los métodos de evaluación actuales carecen de métricas de seguridad robustas.

#Seguridad LLM#Investigación
5IA × Ciber✨arXiv cs.CR ·

Training-Data Extraction from Genomic Language Models

Investigadores demuestran un ataque de extracción de datos de entrenamiento contra Evo 2, un modelo de lenguaje genomico, mediante un método black-box sin acceso a gradientes ni probabilidades de tokens. El ataque recupera segmentos largos de secuencias de ADN del conjunto de entrenamiento con una tasa de éxito del 9,57%, revelando vulnerabilidades en la privacidad de modelos de IA especializados.

#Investigación#Seguridad LLM
5IA × CiberarXiv cs.CR ·

From Acoustic Sensing to Physical Actions: A Comprehensive Survey of Security Risks in Edge-Deployed Audio LLM-Based Agents

Un estudio exhaustivo de arXiv analiza los riesgos de seguridad en agentes basados en Audio LLM desplegados en dispositivos edge, como asistentes de hogar inteligente, vehículos y sistemas embodied. El trabajo propone un modelo Acoustic Sensing-to-Action (S2A) que mapea cómo las entradas acústicas pueden influir en el comportamiento del agente e impactar en acciones físicas, identificando brechas de seguridad en la interacción entre componentes de audio, agentes LLM e infraestructura edge.

#Seguridad LLM#IA ofensiva#Investigación
7IA × Ciber✨arXiv cs.CR ·

The Agent Clicks Approve: Injected Page Text Makes Browser Agents Authorize Access the Task Never Named

Investigadores descubren que los agentes de navegador pueden ser engañados mediante inyección de texto en una página para autorizar accesos a cuentas de usuario sin consentimiento explícito. El agente actúa como un diputado confuso: la sesión autenticada proporciona la autoridad, el texto inyectado designa qué acceso aprobar, y nada en el punto de acción verifica que ambos coincidan. Los autores demuestran el fallo en flujos OAuth y registro de webhooks, y proponen un mecanismo de validación basado en «sobres de autoridad» donde el servicio rechaza solicitudes que no coincidan con la tarea original del usuario.

#Prompt injection#Seguridad LLM
5IA × Ciber✨arXiv cs.CR ·

When the Approved File Is Unchanged: Authority-Set Integrity for Deployment and Coding-Agent Approvals

Un estudio identifica un defecto en los sistemas de aprobación de despliegues y ejecución de agentes de IA: el archivo aprobado se verifica, pero otros archivos del repositorio que controlan qué se despliega pueden editarse sin restricción tras la aprobación. En 20 repositorios públicos, el 54,6% de los commits que alteran archivos leídos en la ejecución dejan sin cambios el archivo aprobado, permitiendo que un agente o actor malicioso agregue permisos o elimine controles de seguridad después de obtener la autorización.

#Seguridad LLM#Supply chain IA
5IA × CiberarXiv cs.CR ·

SEEK: Agentic Knowledge Graph Retrieval for Secure Code Generation

SEEK es un framework Graph RAG agentic que mejora la generación segura de código en LLMs usando un grafo de conocimiento de seguridad basado en la taxonomía CWE e instancias reales de CVE. El sistema utiliza un Planner Agent para predecir debilidades CWE potenciales en consultas de desarrolladores y un Selection Agent para validar los candidatos recuperados antes de generar código. En evaluaciones sobre CodeGuard+ y CyberSecEval, SEEK logra tasas de SecurePass@1 superiores al 77% en varios LLMs de código abierto, demostrando generalizabilidad incluso para tipos CWE no vistos durante el entrenamiento.

#Seguridad LLM#IA defensiva#Investigación
5IA × Ciber✨arXiv cs.CR ·

MetaCascade: End-to-End Attacks on Agent Skills via Metadata-Only Poisoning

Investigadores presentan MetaCascade, una técnica de ataque end-to-end contra sistemas multi-agentes que se basa únicamente en envenenar los metadatos de skills (capacidades especializadas) que los agentes LLM recuperan y seleccionan automáticamente. El ataque explota cómo los metadatos influyen en todo el proceso de selección de skills, demostrando una brecha de seguridad en los registros abiertos de terceros donde proliferan skills sin validación suficiente.

#Seguridad LLM#Supply chain IA#IA ofensiva
5IA × Ciber✨arXiv cs.CR ·

Protecting Shared Agent Workflows from Invalidation Attacks with Signed Trajectories and Runtime Verification

Investigadores presentan un marco de defensa contra ataques de invalidación en repositorios compartidos de workflows de agentes basados en LLM. El ataque compromete el repositorio para introducir workflows manipulados que inducen fallos o comportamientos inseguros en agentes descendentes, logrando tasas de éxito del 90% en algunos casos. La solución propuesta utiliza trayectorias firmadas criptográficamente y verificación en tiempo de ejecución para proteger la integridad de los workflows.

#Seguridad LLM#Supply chain IA
6IA × Ciber✨arXiv cs.CR ·

Last Secure Code Benchmark: Is the Code You Vibe Secure?

Investigadores presentan el Last Secure Code Benchmark, una evaluación exhaustiva de si los agentes de codificación basados en IA generan código seguro. El benchmark incluye 450 tareas basadas en 150 vulnerabilidades reales en siete lenguajes, cubriendo 24 CWEs y debilidades OWASP Top 10. Los resultados muestran que aunque los agentes alcanzan tasas de funcionalidad del 73,6% al 91,3%, solo el 25,1% del código de Claude Fable 5 (el mejor modelo) es a la vez funcional y seguro, lo que plantea serias dudas sobre la seguridad del código que generan estos sistemas.

#Seguridad LLM#Investigación#IA defensiva
6IA × Ciber✨arXiv cs.CR ·

No, Your Tools Are Not Enough: It's Time to Bring Agents to the Hunt

Un equipo de investigación presenta una propuesta de usar agentes de IA para automatizar el descubrimiento de vulnerabilidades en sistemas complejos como kernels de Linux y Windows, drivers y firmware. El enfoque agentico iterativo demuestra generalización entre distintos tipos de objetivos y promete reducir la dependencia de expertise humana en el proceso.

#IA ofensiva#Vulnerabilidad
6IA × Ciber✨arXiv cs.CR ·

Towards Merging-conditional Backdoor Unalignment against Large Language Models

Investigadores revelan una nueva vulnerabilidad crítica en el merging de modelos de lenguaje: backdoors que permanecen dormidos en un modelo individual pero se activan al fusionarse con otro, causando desalineación de seguridad. El ataque, llamado OMCB (One-sided Merging-Conditional Backdoor), es indetectable en modelos auditados y elude los sistemas actuales de detección de backdoors.

#Seguridad LLM#Supply chain IA
4IA × CiberarXiv cs.CR ·

Decision Uncertainty-Oriented Watermarking (DUOW): Securing Multi-Agent Routing Against Policy Cloning

Investigadores proponen DUOW, un método de watermarking para proteger políticas de enrutamiento en sistemas multi-agente contra el robo mediante clonación de políticas. El enfoque opera en la capa de decisión externa sin modificar parámetros del modelo, incrustando señales de propiedad en decisiones de enrutamiento funcionalmente redundantes.

#Supply chain IA#Investigación
5IA × Ciber✨arXiv cs.CR ·

Names Are Not Objects: Object-Bound Confinement for Compromised AI Coding Agents

Investigadores presentan Zero-Trust Agent Cells (ZTAC), un sistema de confinamiento para agentes de IA que escriben código y que operan con la autoridad del usuario. El problema central es que los agentes leen repositorios y páginas web que cualquiera puede modificar, y las defensas contra prompt injection no evitan completamente que el modelo sea manipulado; ZTAC ejecuta el agente en un sandbox del kernel cuyo único acceso a archivos, programas y red pasa por un broker que valida cada solicitud contra el objeto real que se autoriza, no solo su nombre.

#Seguridad LLM#IA defensiva
5IA × CiberarXiv cs.CR ·

SecReason: Vulnerability Detection and In-Stream Self-Repair for LLM Code Generation

SecReason es una técnica de defensa que detecta vulnerabilidades en código generado por LLMs durante el proceso de razonamiento, interrumpiendo la generación para que el modelo se auto-corrija sin necesidad de regenerar completamente la respuesta. Los autores demuestran que eleva la proporción de código seguro y funcionalmente correcto desde menos del 15 % hasta el 72,8 %-98,1 % en benchmarks como CWEval y SecCodeBench.

#Seguridad LLM#IA defensiva
6IA × Ciber✨arXiv cs.CR ·

MemForm: Benchmarking Memory Formation Poisoning in LLM Agents

MemForm es un nuevo benchmark que evalúa cómo los agentes de LLM pueden ser envenenados a través de la manipulación de sus interfaces de memoria a largo plazo. Los investigadores identifican cinco vectores de ataque: Content, Evidence, Scope, Selection y Path Poisoning, demostrando que los modelos son vulnerables incluso cuando las experiencias almacenadas son auténticas y exitosas. Los estudios con seis LLMs revelan que el orden de consolidación de memoria puede alterar el comportamiento de los agentes de forma impredecible.

#Seguridad LLM#Investigación
5IA × CiberarXiv cs.CR ·

ByteMark: A Unified Byte-Level Watermark for Detection Across Language Models

ByteMark propone un esquema unificado de watermarking para detectar texto generado por modelos de lenguaje, definiendo la señal en los bytes UTF-8 del texto publicado. A diferencia de detectores existentes que dependen de tokenizadores específicos o tuberías de embedding, ByteMark funciona con una especificación pública única y no requiere conocer el tokenizador del modelo que generó el texto.

#Seguridad LLM
4IA × CiberarXiv cs.CR ·

Tokenization-Invariant Watermarking: A Byte-Local Method for LLM Text

Se presenta Tokenization-Invariant Watermarking (TI-WM), un método para insertar marcas de agua en textos generados por modelos de lenguaje que opera a nivel de bytes UTF-8 canónicos en lugar de tokens. El método demuestra mayor resistencia frente a ataques adversariales comparado con técnicas existentes, aunque con limitaciones en garantías de robustez general.

#Seguridad LLM#Investigación
6IA × Ciber✨arXiv cs.CR ·

Natural Code Transformation Confuses Agents in Vulnerability Analysis

Un estudio en arXiv demuestra que transformaciones naturales de código derivadas de patrones reales de desarrollo confunden a agentes IA en análisis de vulnerabilidades. Los investigadores muestran que el mismo código vulnerable con funcionalidad idéntica produce resultados dramáticamente diferentes en agentes como Codex y GPT-6 Sol, lo que abre nuevas líneas de defensa contra ataques automáticos a escala.

#IA defensiva#Seguridad LLM
5IA × Ciber✨arXiv cs.CR ·

Watermarking for Byzantine Robust LLM Training

Investigadores proponen CamoMark, un esquema de watermarking para modelos de lenguaje entrenados en federated learning que resiste intentos de eliminación por parte de servidores maliciosos. El método empotra marcas de agua robustas en actualizaciones de modelo que pasan desapercibidas ante agregadores defensivos, permitiendo detectar mal uso posterior del modelo con alta confianza estadística.

#Seguridad LLM#Supply chain IA
6IA × Ciber✨arXiv cs.CR ·

Physical Side-Channel Attacks on Edge LLMs: Extracting Output Tokens and User Prompts

Investigadores presentan ataques de side-channel electromagnéticos contra modelos de lenguaje grandes ejecutados en dispositivos edge. Los ataques pueden recuperar tanto los tokens generados como los prompts del usuario mediante mediciones pasivas durante la inferencia del modelo, demostrando que la ejecución local no garantiza la confidencialidad de los datos.

#Seguridad LLM#Investigación
5IA × Ciber✨arXiv cs.CR ·

An Empirical Case Study of Prompt Engineering Strategies for Bypassing Multi-Layer Agent Security Defenses

Un análisis empírico de estrategias de prompt engineering contra defensas multicapa en agentes IA del desafío OpenClaw Security. El estudio evalúa técnicas de bypass en tres etapas (escaneo de archivos, evaluación de seguridad de instrucciones y puntuación de trayectoria de ataque) en 19 objetivos, logrando bypass completo en 5 tareas con una puntuación final de 0,2630. Los resultados muestran que las defensas multicapa con restricciones conductuales integradas limitan significativamente lo que el prompt engineering por sí solo puede lograr.

#Prompt injection#Jailbreak#Seguridad LLM
3IA × CiberarXiv cs.CR ·

Symmetric Cryptography via Dirichlet Convolution

Propuesta teórica de un cifrado simétrico basado en convolución de Dirichlet generalizada sobre cuerpos finitos. Los autores afirman que el esquema es resistente a ataques clásicos, asistidos por IA y cuánticos, y permiten reutilización controlada de claves mediante salting de texto plano.

#Investigación#Seguridad LLM