● NeuroSec Radar
Entrar

● Trascendental · últimas 48 h

Destacados · últimas 48 h

Últimas noticias

3271 noticias
Limpiar
5IA × CiberarXiv cs.AI ·

StepSafe: Learning Timely Intervention with Context-Aware Safety Reasoning

StepSafe es un marco de entrenamiento para intervención en tiempo oportuno a nivel de paso en sistemas de agentes, mejorando la seguridad mediante razonamiento consciente del contexto. El método compara respuestas en el mismo prefijo y utiliza realimentación adaptativa y auto-destilación para entrenar guardarraíles que identifiquen cuándo intervenir antes de que el daño sea irreversible.

#IA defensiva#Seguridad LLM
5IA × CiberarXiv cs.AI ·

Counterfactual Neighborhood Risk Fields: Evidence-Grounded Selective Safety for Vision-Language Models

Un equipo presenta CNRF, un método defensivo basado en representaciones para mejorar la seguridad de modelos visión-lenguaje (VLMs) frente a jailbreaks multimodales. En lugar de rechazar todas las consultas sospechosas, el sistema diferencia entre consultas desconocidas y genuinamente peligrosas, permitiendo intervenciones selectivas y manteniendo la utilidad en tareas benignas.

#Jailbreak#Seguridad LLM#IA defensiva
7IA × Ciber✨arXiv cs.CR ·

My Credentials, Please: Detecting Filesystem Capability Laundering in MCP Servers at Scale

Un estudio identifica un déficit de capacidades en servidores MCP (Model Context Protocol) que permite a agentes de IA acceder a archivos del sistema de ficheros fuera de su contrato declarado. El análisis de 21.097 servidores MCP detecta que el 16,4 % (787 de 4.806) exhiben capacidades de acceso a ficheros a pesar de no estar clasificados como herramientas de sistema de ficheros, lo que permite ataques de filesystem capability laundering mediante argumentos maliciosos. La investigación resultó en 13 avisos de seguridad, incluyendo dos CVEs.

#Seguridad LLM#Supply chain IA
6IA × Ciber✨arXiv cs.CR ·

Language Is a Security Surface for Agent Guards

Un estudio presenta LinguaGuardBench, un conjunto de pruebas que evalúa si los guards de agentes de IA (sistemas que validan cada acción antes de ejecutarla) producen veredictos diferentes cuando la solicitud del usuario está en idiomas distintos del inglés. Los investigadores encontraron que muchos guards, especialmente los modelos pequeños y de propósito específico, cambian sus decisiones de seguridad al traducir instrucciones al alemán, francés, turco, suajili y amárico, con efectos más pronunciados en idiomas menos comunes.

#Seguridad LLM#Prompt injection
5IA × Ciber✨arXiv cs.CR ·

Encoded but Exposed: Language Embeddings can Reveal More Than They Should in Recommender Systems

Un estudio demuestra que los embeddings de lenguaje utilizados en sistemas recomendadores pueden revelar identidades de elementos mediante un ataque simple de similitud coseno, incluso cuando el adversario solo tiene acceso a descripciones parciales de fuentes externas. La fuga de información persiste a través de la alineación semántica entre descripciones obtenidas independientemente y puede propagarse a la reidentificación de usuarios a partir de valoraciones escasas.

#Seguridad LLM#Privacidad
5IA × Ciber✨arXiv cs.CR ·

BiShield-TEE: On the (In-)Security of Unilateral Weight Obfuscation in On-Device TEE-Shielded LLM Partition

Investigadores identifican una vulnerabilidad en métodos de ofuscación de pesos de LLMs basados en TEE llamada Solution Determinacy Property (SDP), que permite a atacantes recuperar la funcionalidad casi completa del modelo. Proponen BiShield-TEE, un framework bilateral que oculta la clave verdadera entre múltiples soluciones válidas para mitigar este ataque.

#Seguridad LLM#Investigación
6IA × Ciber✨arXiv cs.CR ·

Poisoning the Neighborhood: A Topology-Aware Topic-Level Attack on Large-Scale HNSW-based RAG Systems

Investigadores presentan un ataque de envenenamiento de datos diseñado para sistemas RAG a escala de despliegue que usan índices HNSW. El ataque explota la topología del grafo de búsqueda aproximada de vecinos más cercanos para posicionar documentos envenenados estratégicamente, logrando más del 72% de éxito de recuperación y un 31% de éxito de ataque en Wikipedia. Las defensas existentes no mitigan el ataque, exponiendo riesgos estructurales en sistemas RAG basados en HNSW.

#Prompt injection#Supply chain IA#Seguridad LLM
5IA × Ciber✨arXiv cs.CR ·

What Survives Self-Evolution: Provenance Marks in Copied Agent Harnesses

Un estudio analiza cómo los marcadores de procedencia (provenance marks) que identifican la autoría en agentes de IA pueden ser eliminados o reescritos cuando se pasan a través de sistemas de auto-evolución publicados. Investigadores demostraron que marcas conocidas fallan bajo ataques de reescritura, mientras que esquemas nuevos logran solo una detección parcial contra adversarios sofisticados.

#Supply chain IA#Seguridad LLM
4IA × CiberarXiv cs.CR ·

Matoi: Selective Revalidation of Consequence Evidence for Agent Authorization

Matoi es un marco de investigación que separa la evidencia de consecuencias reutilizable de la autoridad de ejecución actual en sistemas de agentes. El trabajo presenta un contrato de consultas finitas para gestionar autorizaciones en aplicaciones de IA, validado mediante estudios sintéticos que muestran reducciones de coste del 3–16 % en JavaScript y Python.

#Seguridad LLM#IA defensiva
5IA × CiberarXiv cs.CR ·

Evaluating and Improving Static Application Security Testing Tools for Rust

Un estudio empírico de herramientas SAST (análisis estático de seguridad) para Rust revela debilidades en su capacidad para detectar vulnerabilidades reales. Los investigadores proponen TRUST, un marco de pruebas automatizado asistido por LLM que analiza la especificación oficial de Rust para generar programas mutantes y evaluar estas herramientas, descubriendo 46 fallos en seis herramientas populares, 17 de los cuales han sido confirmados.

#IA defensiva#Herramienta
5IA × CiberarXiv cs.CR ·

Combining LLM and Dynamic Analysis for Universal Testing of Static Application Security Testing Tools

Investigadores presentan LLM4SAST, un marco que utiliza modelos de lenguaje grandes y análisis dinámico para detectar fallos en herramientas de análisis estático de seguridad (SAST). El enfoque identifica 66 fallos únicos en seis herramientas SAST, con 32 confirmados o ya corregidos por los desarrolladores, mejorando significativamente la detección de defectos en comparación con técnicas existentes.

#IA defensiva#Herramienta#Investigación
5IA × CiberarXiv cs.CR ·

Trigger Value Selection in Clean-Label Malware Backdoors: An Effectiveness-Detectability Analysis

Investigadores estudian la selección de valores de trigger en ataques de envenenamiento clean-label contra clasificadores de malware basados en machine learning. El trabajo evalúa diferentes estrategias de selección de valores en datasets EMBER usando clasificadores LightGBM, mostrando que mientras algunos selectores logran alta efectividad de ataque, son más fáciles de detectar mediante métodos como Isolation Forest.

#Supply chain IA#Seguridad LLM
5IA × CiberarXiv cs.CR ·

From One Query to Many: A Critical Survey of Privacy Accounting in RAG

Una encuesta académica examina los riesgos de privacidad en sistemas de generación aumentada por recuperación (RAG) que exponen información sensible del corpus externo. El trabajo analiza cómo la privacidad diferencial (DP) puede proteger estos sistemas y propone un marco para interpretar y comparar garantías de privacidad en RAG de múltiples consultas, más allá del simple parámetro epsilon.

#Seguridad LLM#Investigación#Privacidad
3IA × CiberarXiv cs.CR ·

On the Complexity of Symmetric Boolean Functions in Multiparty Private Simultaneous Messages

Un artículo sobre la complejidad de comunicación en protocolos criptográficos de Mensajes Simultáneos Privados Multipartitos (PSM), que modela computación segura no interactiva. Los autores establecen límites inferiores y superiores en la comunicación requerida para funciones booleanas simétricas y mencionan el uso de asistencia de IA en el trabajo.

#Investigación
4IA × CiberarXiv cs.CR ·

CARE-SD: Explainable Reasoning Architecture for Local SLM Self-Disclosure Analysis in Textual Data

Investigadores desarrollan CARE-SD, una arquitectura de razonamiento para Small Language Models locales que analiza autodisclosures de seguridad en entrevistas de ciberseguridad. El sistema mejora la precisión y confiabilidad de los modelos pequeños sin necesidad de modelos más grandes, reduciendo afirmaciones no respaldadas.

#Investigación#IA defensiva
4IA × Ciber✨arXiv cs.CR ·

ExecWeave: Cross-Layer Execution Provenance for Observable Agentic Software

ExecWeave es un sistema que correlaciona trazas de aplicaciones agentic con telemetría del sistema operativo para reconstruir la procedencia de ejecución cross-layer. El trabajo aborda el problema de atribuir correctamente efectos (acceso a archivos, conexiones de red) a acciones específicas de agentes de software, formalizando la asociación entre eventos lógicos y observables del sistema.

#IA defensiva#Herramienta
6IA × Ciber✨arXiv cs.CR ·

Stronger Judges Do Not See More: Deployment-Integrity Blindness in LLM Evaluation

Un estudio de investigación revela que los evaluadores de LLM no pueden detectar si el modelo desplegado ha sido modificado o comprometido, siempre que los resultados en los casos de prueba sigan siendo los mismos. El trabajo presenta DIB-Bench, un benchmark que demuestra que evaluadores más potentes (como GPT-5-nano) aceptan más salidas manipuladas que evaluadores basados en reglas, y que modificaciones ocultas pueden producir comportamientos dañinos en entornos reales.

#Seguridad LLM#Investigación
6IA × Ciber✨arXiv cs.CR ·

Approve What, Exactly? Effect Binding and Trusted Rendering for Agent Step-Up Authorization

Investigadores analizan la seguridad de los mecanismos de aprobación en agentes de IA que controlan acciones sensibles (transferencias, eliminación de archivos, envío de correos). Demuestran que estos sistemas de autorización por pasos no son un segundo factor robusto: definen doce ataques contra ellos (suplantación de destinatarios, cambio de cantidades, spoofing de etiquetas) y muestran vulnerabilidades en runtimes de agentes populares y protocolos como AP2 y MCP. Proponen ASU (Agent Step-Up), una defensa que vincula criptográficamente la aprobación a la acción exacta mediante un descriptor canónico y una firma en dispositivo.

#Seguridad LLM#Investigación
5IA × Ciber✨arXiv cs.CR ·

Can Autonomous Vehicles Keep Their Cool? A Survey of Thermal Side-Channel and Perception Attacks

Investigadores analizan cómo los vehículos autónomos pueden ser atacados mediante canales laterales térmicos e inyección de datos falsificados en sensores infrarojos de visión nocturna. El estudio identifica que tanto adversarios físicos como software no privilegiado pueden explotar interfaces de seguridad térmica que no fueron diseñadas como límites de confidencialidad, comprometiendo la integridad de la percepción sin que los sistemas puedan desactivarlas sin afectar la seguridad funcional.

#IA defensiva#Seguridad LLM
6IA × Ciber✨arXiv cs.CR ·

PAGE404: Breaking GPU Isolation Through Hardware-assisted Page Migration

Investigadores descubren vulnerabilidades de side-channel en la arquitectura NVIDIA Grace Hopper que explotan el mecanismo de migración de páginas asistido por hardware. Los ataques atraviesan particiones Multi-Instance GPU (MIG) que deberían aislar inquilinos, permitiendo crear canales encubiertos que alcanzan ~8.500 bits por segundo y pueden extraer información sobre los modelos de lenguaje en ejecución e incluso estimar la longitud del prompt. El hallazgo cuestiona las garantías de aislamiento en sistemas multi-inquilino con GPUs modernas.

#Seguridad LLM#Supply chain IA
6IA × Ciber✨arXiv cs.CR ·

Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming

Screwtape es un sistema que edita transcripciones reales de agentes de IA para generar ataques que eluden monitores de seguridad diseñados para detectar comportamientos dañinos. El equipo demostró que puede crear ediciones falsas de acciones (como fuga de claves API) que pasan verificadores y esquivan los monitores, incluyendo algunos de proveedores frontier sin acceso a su infraestructura.

#Seguridad LLM#IA defensiva
5IA × CiberarXiv cs.CR ·

From Detection to Decision: Calibration and Deferral for Prompt-Injection Detection

Un estudio evaluó modelos de detección de prompt injection bajo distribución shift, incluyendo Llama Prompt Guard 2 y un juez basado en LLM. Los resultados muestran que aunque el juez LLM logró la mejor discriminación (AUROC 0.897), las probabilidades calibradas por sí solas no garantizan decisiones seguras bajo cambios de distribución, requiriendo tasas de escalado superiores al 91.8% para cumplir objetivos de falsos negativos.

#Seguridad LLM#Prompt injection
5IA × Ciber✨arXiv cs.CR ·

Thinking in Graphs: Neo4j-Backed Exploit-Chain Reasoning for LLM Penetration-Testing Agents

Investigadores presentan ChainGraph, un patrón de razonamiento que permite que agentes LLM en pentesting encadenado explotaciones relacionando hallazgos mediante un grafo de propiedades Neo4j, en lugar de procesarlos como una lista plana en el contexto. El enfoque reduce significativamente el payload de tokens requerido para que modelos como Claude Code razone sobre cadenas de ataque complejas en Active Directory, demostrando cómo hallazgos de severidad media aislada se vuelven críticos cuando se materializan sus rutas de ataque.

#IA ofensiva#Seguridad LLM
5IA × Ciber✨arXiv cs.CR ·

GhostLock: Learning-Assisted Blind GPS Signal Nullification Without Victim-Side Information

Investigadores presentan GhostLock, un ataque de anulación de señal GPS que utiliza aprendizaje automático para suprimir señales de satélite auténticas sin información del objetivo. El ataque integra filtros adaptativos ciegos con deep learning para generar anti-señales destructivas, demostrando una nueva clase de amenaza física contra sistemas de posicionamiento críticos.

#IA ofensiva#Vulnerabilidad
6IA × CiberarXiv cs.CR ·

INFUSE: A Unified Surface Benchmark for Indirect Prompt Injection in Agentic Systems

Investigadores presentan INFUSE, un banco de pruebas para evaluar ataques de inyección de prompts indirecta (IPI) en sistemas agenticos basados en LLM. El benchmark incluye 40 tareas realistas y 56 escenarios de ataque en cinco categorías de amenazas, evaluando 19 modelos de LLM con una tasa media de éxito de ataque del 19,6%, revelando vulnerabilidades significativas incluso bajo defensas existentes.

#Prompt injection#Seguridad LLM#Investigación
4IA × CiberarXiv cs.CR ·

CascadeLedger: Counterfactual Auditing of Information and Resource Integrity in LLM Cascades

CascadeLedger es un framework de auditoría que valida la integridad de información y recursos en cascadas de modelos de lenguaje, asegurando que las decisiones de enrutamiento solo utilicen información legítimamente observable. El protocolo combina semántica call-before-read, trazas congeladas y auditoría contrafáctica para detectar fallos y manipulaciones adversariales en sistemas LLM complejos.

#Seguridad LLM#Investigación
3IA × CiberarXiv cs.CR ·

Hybrid DeepXAI Fusion Network for Interpretable Big Data Analytics and Secure Cloud Decision-Making Systems

Un artículo académico propone Hybrid DeepXAI Fusion Network, un marco de aprendizaje profundo que combina redes neuronales convolucionales, Transformers y redes neuronales gráficas con mecanismos de IA explicable (XAI) para análisis seguro de grandes volúmenes de datos en la nube. El sistema incorpora encriptación homomórfica y auditoría basada en blockchain para privacidad y responsabilidad, alcanzando 98,42% de precisión en conjuntos de datos de sanidad, finanzas y energía.

#Investigación#IA defensiva
4IA × CiberarXiv cs.CR ·

Empirical Evaluation of Machine Learning for Cloud Cryptojacking Detection: Effects of Preprocessing and Evaluation Protocols

Un estudio empírico evalúa seis modelos clásicos de aprendizaje automático (Random Forest, XGBoost, LightGBM, Gradient Boosting, Decision Tree y KNN) para la detección de cryptojacking en la nube. Los resultados muestran que las decisiones de preprocesamiento y los protocolos de evaluación tienen un impacto significativo en el rendimiento reportado, con variaciones de precisión desde el 96% hasta más del 99,5% según la metodología empleada.

#IA defensiva#Investigación
5IAHugging Face Blog ·

Scaling Indic Pretraining: 2.8 Trillion Tokens and an Open Data Generation Pipeline

NVIDIA e IIT Madras lanzan Nemotron-pretraining-Indic-v1, un corpus de 2,8 billones de tokens en 22 idiomas indios, junto con una canalización abierta de generación de datos sintéticos. El recurso amplía significativamente los datos de entrenamiento disponibles para modelos de lenguaje en idiomas hablados por casi 1.200 millones de personas, abordando la escasez histórica de datos que ha retrasado la tecnología de lenguaje natural en India.

#Investigación#Producto de IA