● NeuroSec Radar
Entrar

● Trascendental · últimas 48 h

Destacados · últimas 48 h

Últimas noticias

3367 noticias
Limpiar
5IA × CiberarXiv cs.CR ·

Privacy-Preserving GNN Inference on Financial Transaction Graphs via Homomorphic Encryption

Investigadores proponen un marco de inferencia de redes neuronales de grafos (GNN) que preserva la privacidad para detección de lavado de dinero en redes financieras multi-banco. El sistema cifra las características de transacciones con criptografía homomórfica CKKS mientras mantiene la conectividad de grafos y pesos del modelo en texto plano en un servidor central, ejecutando toda la inferencia sobre datos cifrados.

#IA defensiva#Investigación
4IA × CiberarXiv cs.CR ·

Cost-Efficient Privacy Enforcement for Email-Generating LLM Agents under Strategic Information Requests

Un artículo académico propone un mecanismo de protección de privacidad para agentes de IA que generan correos electrónicos en nombre de usuarios. El sistema utiliza reescritura local con el modelo Gemma y validación remota selectiva para reducir la divulgación accidental de información sensible, mejorando eficiencia de costos frente a defensas basadas en llamadas repetidas a modelos remotos.

#Seguridad LLM#Privacidad
5IA × Ciber✨arXiv cs.CR ·

Standing, Not Truth: Who May Say What About Whom in Agentic Selection

Un estudio describe un ataque contra agentes de software que permite influir en sus decisiones mediante afirmaciones falsas sobre productos competidores, sin necesidad de comprometer canales ni inyectar instrucciones. Los autores proponen una defensa basada en el concepto de «standing» (legitimidad): verificar si el publicador tiene derecho a hacer afirmaciones sobre un producto competidor, sin necesidad de determinar si la afirmación es verdadera.

#Seguridad LLM#IA defensiva
4IA × Ciber✨arXiv cs.CR ·

Provenance and Authorization in Autobiographical Language Models

Investigación sobre cómo preservar la proveniencia y autorización en modelos de lenguaje autobiográficos que acceden a archivos con observaciones, citas y salidas previas. Los autores proponen usar autenticación criptográfica para evitar que el contenido narrativo se confunda silenciosamente con consentimiento o altere decisiones autorizadas, mediante registros tipados, atestaciones autenticadas y canales de política separados.

#Seguridad LLM#Investigación
6IA × Ciber✨arXiv cs.CR ·

ProtoArena: Can AI Agents Discover and Exploit Real-World Cross-Component Protocol Vulnerabilities?

ProtoArena es un nuevo benchmark que evalúa si agentes de LLM pueden descubrir y explotar vulnerabilidades reales en protocolos de red basadas en interacciones entre componentes. El estudio prueba cinco modelos de lenguaje sobre 80 entornos de vulnerabilidad en 11 dominios de protocolos y aplicaciones, encontrando que Claude Opus 4.8 logra tasas de éxito del 48,8 % con orientación completa y del 12,5 % en exploración sin contexto, demostrando que la IA puede explotar algunas vulnerabilidades pero con capacidad limitada en escenarios sin información detallada.

#IA ofensiva#Vulnerabilidad
5IA × Ciber✨arXiv cs.CR ·

Same Attack, Different Judge: A First Controlled Adversarial Comparison of Jev, LLM Judges, and Purpose-Built Safety Classifiers

Investigadores presentan la primera evaluación adversarial controlada del sistema de seguridad Jev de TypeSafe AI, comparándolo con jueces basados en GPT, GLM y clasificadores locales como Llama Guard 3. Jev demuestra mayor robustez en tareas de moderación de entrada (evita que forgeries clave bypass sus decisiones), pero es más vulnerable en detección de phishing, donde forgeries similares burlan el 19-29% de sus detecciones frente a solo el 9% en moderación.

#Seguridad LLM#IA defensiva
5IA × Ciber✨arXiv cs.CR ·

SkillScreen: High-Recall Screening of Malicious Agent Skills with Decision Models

SkillScreen es un modelo de decisión entrenado para detectar skills maliciosos en agentes de IA de forma automática, leyendo directamente archivos SKILL.md. El trabajo demuestra que modelos específicos para esta tarea consiguen mayor recall (99% en familias de ataque no vistas) y menos falsos positivos que clasificadores a nivel de palabra o LLMs, aunque tienen dificultades con colecciones de skills benignos de fuentes nuevas.

#Seguridad LLM#IA defensiva
5IA × CiberarXiv cs.CR ·

Discovery or Memorization? A Faithful Benchmark for Real-World Business-Logic Vulnerability Discovery

Investigadores presentan AnonVul, un benchmark para evaluar agentes de IA en el descubrimiento de vulnerabilidades de lógica de negocio. El benchmark incluye 132 vulnerabilidades reales en nueve lenguajes de programación, anonimizadas para evitar contaminación de datos y con oráculos integrados para verificar pruebas de concepto. Las pruebas de seis agentes de última generación muestran que el mejor logra solo un 23,11% de éxito, demostrando que sigue siendo un desafío relevante.

#IA defensiva#Investigación
4IA × CiberarXiv cs.CR ·

Enhanced Detective: A Dual-Stage Proactive Defense Against Internal Poisoning Attacks in Financial Fraud Detection Using Federated Learning

Enhanced Detective es una estrategia de agregación robusta diseñada para defender modelos de detección de fraude contra ataques de envenenamiento de datos en sistemas de Federated Learning. El método combina técnicas estadísticas (Median Absolute Deviation, filtrado basado en distancia y FedMedian) para mitigar los efectos de clientes maliciosos que corrompen datos o actualizaciones de modelos en entornos colaborativos de aprendizaje distribuido.

#Seguridad LLM#Supply chain IA
6IA × Ciber✨arXiv cs.CR ·

BrowseSafe++: Benchmarking Prompt Injection Detection Across Web Contexts, Languages, and Browser Views

Investigadores presentan BrowseSafe++, un benchmark para detectar prompt injections en agentes navegadores que acceden a páginas web no confiables. El conjunto de datos amplía la versión anterior con 38.675 pares de páginas, incluyendo inyecciones reales observadas en sitios de producción, y proponen dos detectores ligeros (0,8B parámetros) que superan el rendimiento de modelos más grandes manteniendo bajas tasas de falsos positivos.

#Prompt injection#Seguridad LLM#IA defensiva
5IA × Ciber✨arXiv cs.CR ·

VeriRouter: Towards Verifiable LLM Routing

VeriRouter es un marco de enrutamiento para LLMs que utiliza pruebas de conocimiento cero (ZK) y certificados de proveedores para garantizar la integridad del control y el plano de datos, evitando que un enrutador comprometido realice selecciones de modelos no autorizadas o reescrituras no verificadas. El sistema mantiene ocultos los activos privados del enrutador mientras valida las acciones contra índices semánticos y bancos de reescritura comprometidos.

#Seguridad LLM#Investigación
6IA × CiberarXiv cs.CR ·

TRAP: Tree-Guided Reinforcement-Augmented Probing for Automated LLM Jailbreaking

Investigadores presentan TRAP, un marco de aprendizaje automático que descubre sistemáticamente vulnerabilidades de jailbreak en modelos de lenguaje alineados mediante acceso de caja negra. El método organiza estrategias de ataque (role-play, encoding, ofuscación) en un árbol jerárquico y usa aprendizaje por refuerzo para seleccionar y refinar ataques, logrando tasas de éxito del 45,6% al 97,9% en siete LLMs diferentes.

#Jailbreak#Seguridad LLM#Investigación
4IA × CiberarXiv cs.CR ·

Who is the 'I' in AI? Establishing Decentralized Identity and Accountability for Autonomous Agents

Un artículo académico propone un marco de identidad descentralizada para agentes IA autónomos basado en principios de identidad auto-soberana. El trabajo introduce el marco ABCD que combina huellas algorítmicas y conductuales, identidad criptográfica y delegación para establecer confianza y responsabilidad en ecosistemas descentralizados con agentes IA.

#Investigación#Seguridad LLM
6IA × CiberarXiv cs.CR ·

CWE-bench: Refocusing Agentic Security from Exploitation to Defense

Investigadores presentan CWE-bench, un banco de pruebas privado para evaluar la capacidad defensiva de agentes de IA en ciberseguridad. A diferencia de estudios previos enfocados en ataques, este trabajo mide si los agentes pueden auditar y reparar vulnerabilidades en repositorios de código, abarcando 73 tipos CWE, 8 lenguajes y las categorías OWASP Top 10 2025.

#IA defensiva#Investigación
5IA × Ciber✨arXiv cs.CR ·

StableJudge: A Lightweight Adversarial Defense Framework for LLM-as-a-Judge

Investigadores proponen StableJudge, un marco de defensa ligero contra inyección de prompts en sistemas de LLM-as-a-Judge que califican contenido automáticamente. El ataque de hijacking de puntuación corrompe las señales de evaluación en aplicaciones como revisión de papers y recomendaciones. StableJudge utiliza un modelo Sentry de 0,13B que localiza y sanitiza spans inyectados antes de la evaluación, entrenado contra ataques adversariales evolucionales.

#Prompt injection#Jailbreak#Seguridad LLM#IA defensiva
6IA × Ciber✨arXiv cs.CR ·

Logit Leakage through Floating-Point Bias Addition

Investigadores descubren un side channel de punto flotante en APIs de modelos de lenguaje que permite extraer información sobre sesgos aditivos (logits) sin acceso directo a probabilidades. El método explota cambios en el espaciado representable en límites de exponentes binarios y recupera vectores de logits completos en hasta 52 consultas. Se demuestra la vulnerabilidad en 11 modelos públicos y se propone una mitigación mediante sustracción del máximo antes de sumar el sesgo.

#Seguridad LLM#Investigación
5IA × CiberarXiv cs.CR ·

PrivacyGuard: Source-Linked Sanitization and Locally Resolvable PII References for Cloud GUI Agents

PrivacyGuard es una técnica de sanitización que protege información de identificación personal (PII) en agentes GUI que se comunican con planificadores remotos en la nube. El sistema utiliza sanitización vinculada a la fuente y un ciclo de vida de referencias estructurado para evitar fugas de PII mientras mantiene la capacidad del agente de completar tareas.

#Seguridad LLM#Privacidad
6IA × Ciber✨arXiv cs.CR ·

CT0: Cybersecurity Transformer

Investigadores presentan CT0, un modelo transformer especializado en ciberseguridad de solo 4 mil millones de parámetros diseñado para ser práctico y eficiente para profesionales de seguridad. El modelo utiliza dos modos: un análisis rápido de decisiones de seguridad (detección de archivos sospechosos, identificación de ataques o rechazos del modelo) en una pasada sin generar tokens, y un agente tradicional con herramientas que se activa solo cuando es necesario. CT0-Micro demuestra capacidades de defensa robustas, detectando intentos de jailbreak con AUROC 0.966 en 8 ms y analizando 80 archivos por segundo buscando indicadores de compromiso.

#IA defensiva#Producto de IA#Seguridad LLM
6IA × Ciber✨arXiv cs.CR ·

CircuitBreak: Pruning a Sparse Safety Circuit of Neurons

Un nuevo ataque llamado CircuitBreak demuestra cómo desactivar los mecanismos de seguridad de modelos de lenguaje grandes mediante la poda selectiva de neuronas. El método identifica un pequeño conjunto de neuronas en capas feed-forward cuya ablación conjunta desactiva los rechazos de solicitudes peligrosas, logrando tasas de éxito del 87%–88% tras eliminar solo 29–150 neuronas (menos del 0,04% de parámetros) en modelos como Llama y Qwen.

#Seguridad LLM#Jailbreak
5IA × CiberarXiv cs.CR ·

Differential Privacy Protected Preference Alignment on Survey Derived Data

Un estudio investiga cómo alinear modelos de lenguaje con valores humanos manteniendo la privacidad de datos sensibles procedentes de encuestas sobre creencias políticas, normas sociales y actitudes culturales. Los investigadores proponen un sistema que utiliza privacidad diferencial a través de mecanismos como respuesta aleatoria, mecanismo exponencial y DP-SGD.

#Seguridad LLM#Privacidad#Investigación
4IA × CiberarXiv cs.CR ·

CryptoFlowBench: Benchmarking Multi-Hop Reasoning on Blockchains for Cryptocurrency Fund Tracing

Investigadores presentan CryptoFlowBench, un benchmark para evaluar razonamiento multi-salto en blockchains, diseñado para rastrear flujos de fondos criptográficos ilícitos. Proponen ChainSleuth, un agente aumentado con herramientas de grafos que utiliza razonamiento iterativo para mejorar la trazabilidad de transacciones en ecosistemas complejos de contratos inteligentes.

#Investigación#IA defensiva
5IA × CiberarXiv cs.CR ·

Purpose IR: Compiling User Purpose for Privacy-Preserving Agent Workflow State

Investigadores presentan Purpose IR, una representación intermedia que compila la intención del usuario en límites semánticos para preservar la privacidad en flujos de trabajo de agentes LLM. El sistema distingue entre autoridad de evidencia (lo necesario como prueba) y autoridad de liberación (lo que puede persistir en estado reutilizable), resolviendo lo que denominan «brecha semántica propósito-a-estado».

#Seguridad LLM#Privacidad#Investigación
6IA × Ciber✨arXiv cs.CR ·

ATTCK-R: Knowledge-Aware Long-Horizon Jailbreaking for Protected LLMs

Investigadores presentan ATTCK-R, un framework de red teaming que jailbrequea modelos de lenguaje protegidos mediante optimización de horizonte largo y planificación estructurada. El trabajo demuestra que las evaluaciones de seguridad sin protecciones específicas sobrestiman la robustez real: un ataque multi-turno que lograba 89,6% de éxito en modelos desprotegidos solo alcanzaba 60,8% cuando se añadían defensas basadas en prompts.

#Jailbreak#Seguridad LLM
5IA × Ciber✨arXiv cs.CR ·

ML-Assisted Power Side-Channel Attacks on ML Accelerators in Shared FPGAs

Investigadores demuestran un ataque de canal lateral de potencia contra aceleradores ML en FPGAs compartidas en la nube, recuperando reconstrucciones a color de imágenes ImageNet completas mediante sensores TDC y técnicas de ML-assisted upscaling. El ataque aprovecha el riesgo de co-location en arquitecturas multi-tenant para extraer información de la primera capa convolucional de una CNN, y proponen una defensa basada en sustitución de píxeles que resulta ineficaz contra adversarios reentrenados.

#Seguridad LLM#IA ofensiva
5IA × Ciber✨arXiv cs.CR ·

Confidential Error-Correcting Codes

Se introduce un nuevo primitivo criptográfico llamado Confidential Error-correcting Codes (CECs) que permite decodificar mensajes desde palabras código perturbadas mientras preserva la confidencialidad. Los autores desarrollan un marco de construcción basado en una estructura de Separación Randomness-Security y lo instantían usando códigos concatenados de Reed-Muller y Reed-Solomon. Como aplicación, presentan CECMark, un esquema de watermarking para imágenes generadas por IA que supera métodos existentes en robustez y falsos positivos.

#Seguridad LLM#Investigación
5IA × CiberarXiv cs.CR ·

When Agents Talk, Secrets Travel: Topology-Driven Leakage and Recipient-Conditioned Sanitization in Multi-Agent LLM Systems

Un estudio en arXiv muestra cómo los sistemas multi-agente con LLM pueden filtrar información sensible a través de la coordinación rutinaria entre agentes, incluso sin compromiso o comportamiento malicioso. Los investigadores presentan RECONS, un sanitizador que bloquea la propagación no autorizada mientras preserva la divulgación autorizada, demostrando que las defensas basadas únicamente en sensibilidad son insuficientes.

#Seguridad LLM#Investigación
5IA × CiberarXiv cs.CR ·

DelegateGuard: Purpose-Bound Capabilities for Delegated LLM Agent Workflows

Un trabajo de investigación presenta DelegateGuard, un monitor de referencia que limita las capacidades de agentes LLM delegados mediante autorizaciones basadas en propósito, operaciones y profundidad de delegación. El sistema bloquea riesgos de exfiltración de datos, amplificación de autoridad y replicación de revocación en flujos de trabajo con agentes, validado con modelos abiertos y conjuntos de datos históricos.

#Seguridad LLM#IA defensiva
4IA × CiberarXiv cs.CR ·

AutoSec-RAN: Specification-Grounded LLM Fine-Tuning for Automated Security Analysis of O-RAN

AutoSec-RAN es un marco basado en LLM para el análisis automatizado de seguridad en redes de acceso radio abiertas (O-RAN). El sistema ajusta el modelo Mistral-7B mediante LoRA sobre documentos de estándares de telecomunicaciones y utiliza generación aumentada por recuperación para simular un análisis de seguridad sin acceso a capturas de paquetes crudas.

#IA defensiva#Investigación
5IA × CiberarXiv cs.CR ·

CreepScope: Measuring Post-Use Authorization Exposure in Tool-Using Agents

CreepScope es un protocolo de evaluación que mide la exposición de autorización residual en agentes que utilizan herramientas: cuando una capacidad permanece accesible después de que ya no debería serlo (privilege creep). El estudio introduce métricas para cuantificar este problema en flujos de trabajo de almacenamiento, comunicación y operaciones en la nube, comparando diferentes políticas de control de acceso.

#Seguridad LLM#IA defensiva
4IA × CiberarXiv cs.CR ·

Hardware-Assisted Multi-Stage Ransomware Detection with Adaptive Machine Learning

Investigadores proponen un marco de detección de ransomware que combina análisis estático a nivel software con monitorización de actividad a nivel hardware del microprocesador. El enfoque utiliza entrenamiento adversarial, neural architecture search (NAS) y aprendizaje automático para lograr mayor precisión y menor latencia que los métodos existentes.

#IA defensiva#Ransomware