● NeuroSec Radar
Entrar

● Trascendental · últimas 48 h

Destacados · últimas 48 h

8Ciber⚠ Acción requeridaThe Hacker News ·

Attackers Abuse UpdraftCentral Keys to Plant Backdoors on WordPress Sites

→ Actualiza UpdraftPlus a versión 1.26.12 (gratuito) o 2.26.12 (Premium) o posterior, desconecta de UpdraftCentral, busca cuentas administrativas no autorizadas, verifica plugins desconocidos, cambia contraseñas de administrador y reconnecta el servicio.

#Ataque / brecha#Exploit#Actor de amenaza#Parche

Últimas noticias

3661 noticias
Limpiar
5IA × CiberarXiv cs.CR ·

DP-ES: Differentially Private Evolution Strategies for Prompt Optimization

Investigadores proponen DP-ES, un método de optimización de prompts con garantías de privacidad diferencial que mejora la estabilidad de técnicas anteriores como DP-OPT bajo presupuestos de privacidad estrictos. El nuevo enfoque utiliza estrategias evolutivas que mantienen una población de prompts completos y solo gastan privacidad en la evaluación, logrando resultados significativamente mejores (88,1% en GSM8K frente al 49,5% de DP-OPT) con menor varianza y mayor eficiencia computacional.

#Seguridad LLM#Investigación
5IA × Ciber✨arXiv cs.CR ·

Where Did the Repair First Go Wrong? Localizing the Origins of Silent Failures in Agentic Vulnerability Repair

Un estudio presentado en arXiv propone SAGE, un método para localizar dónde fallan silenciosamente los agentes basados en LLM al reparar vulnerabilidades de seguridad. Los fallos silenciosos son parches que pasan pruebas sintácticas y funcionales pero mantienen la vulnerabilidad, sin dar señales de error observables. El análisis de 3.684 trazas de reparación encontró que la mayoría de los fallos originaban en requisitos de seguridad no abordados o defensas inadecuadas, no en el código modificado.

#Seguridad LLM#IA defensiva
6IA × Ciber✨arXiv cs.CR ·

Backdooring Sparse Autoencoders

Investigadores demuestran que los codificadores automáticos dispersos (SAEs), herramientas cada vez más utilizadas para interpretar e intervenir en modelos de lenguaje, pueden ser modificados maliciosamente para introducir comportamientos no deseados sin cambiar el modelo subyacente. El ataque afecta solo al decodificador del SAE en una capa específica, permitiendo inserción de código no autorizado y comportamiento condicionado por disparadores en los modelos de lenguaje objetivo.

#Supply chain IA#Seguridad LLM
4IA × CiberarXiv cs.CR ·

H-CRSPV: Preventing Semantic Omission in Late-Bound Large Language Model Releases

H-CRSPV es un sistema de verificación criptográfica para detectar omisiones semánticas en los procesos de liberación de grandes modelos de lenguaje. El método identifica fallos en la validación donde un proponente no autorizado podría omitir relaciones requeridas, asignar evidencia incorrectamente o vincular evidencia válida a objetos equivocados. Los autores demuestran que validar cada objeto individuamente no garantiza que la liberación cumpla todos los requisitos registrados.

#Supply chain IA#Seguridad LLM
6IA × Ciber✨arXiv cs.CR ·

Runaway Reaction: When Benign Skills Compose into Malicious Behavior

Un artículo de investigación describe cómo la composición de skills (habilidades) benignos en agentes de IA puede generar comportamientos maliciosos, aunque cada skill individual pase evaluaciones de seguridad. Los autores presentan CRIME, una técnica sistemática para inducir riesgos mediante la combinación de componentes seguros que, juntos, habilitan capacidades no disponibles para ninguno de ellos por separado.

#Seguridad LLM#Prompt injection
5IA × CiberarXiv cs.CR ·

Compromise Is Not Consequence: Evaluating Task-Scoped Authorization in LLM Agents with Paired Replay

Un artículo académico que estudia si la autorización delimitada por tarea contiene la ejecución maliciosa de herramientas en agentes LLM. Los autores prueban que condiciones de alcance (JWT scoped, sender-constrained y Open Policy Agent) evitan la ejecución dañina en un 100% de casos válidos atacados, mientras que las credenciales amplas permiten ejecución maliciosa del 8,9% al 37,8% según el modelo. El trabajo enfatiza que la política controla la ejecución, no la prevención de prompt injection.

#Seguridad LLM#IA defensiva
4IA × CiberarXiv cs.CR ·

Adaptive-Shot Hybrid Quantum Anomaly Detection for Tactile Internet Security: Reliability-Aware Measurement Allocation Under Resource Constraints

Un artículo académico propone AS-VQC, una política de computación cuántica híbrida adaptativa para detección de anomalías en seguridad de Tactile Internet. El método ajusta dinámicamente el número de mediciones cuánticas según la proximidad del resultado a umbrales de decisión, logrando ahorros de recursos del 73-87% comparado con líneas base fijas.

#IA defensiva#Seguridad LLM
4IA × CiberarXiv cs.CR ·

Bounded Provisional Visibility: Controlling Poisoning Exposure in Continuously Ingested RAG Vector Stores

Un artículo académico propone un protocolo de «visibilidad provisional acotada» para mitigar ataques de envenenamiento en sistemas RAG que ingieren contenido continuamente. El protocolo oculta nuevos elementos hasta que la verificación se completa o vence un plazo, reduciendo la exposición temporal a contenido malicioso durante el proceso de vetting.

#Supply chain IA#Seguridad LLM
4IA × CiberarXiv cs.CR ·

Online AutoML: Evaluating Poisoning Attacks on Adversarial Training Defense Strategy in IoT Networks

Un estudio evalúa la resistencia del entrenamiento adversarial contra ataques de envenenamiento de datos en modelos de aprendizaje automático para redes IoT. Los investigadores probaron técnicas de defensa en modelos que aprenden de forma continua, introduciendo perturbaciones en los datos de entrenamiento (alteración de etiquetas e inyección de ruido) a diferentes intensidades.

#Supply chain IA#Investigación
5IA × CiberarXiv cs.CR ·

SimpleMark: Fast Multi-Bit Text Watermarking under f -Divergence Constraints

Se presenta SimpleMark, un método de watermarking de múltiples bits para modelos de lenguaje que define la seguridad mediante f-divergencia respecto a la distribución original del modelo. El esquema, basado en codificación, sesgua las distribuciones de tokens siguientes dentro de un presupuesto de divergencia especificado, logrando menor detectabilidad del watermark mientras mantiene calidad competitiva en generación de texto.

#Seguridad LLM
6IA × Ciber✨arXiv cs.CR ·

AgentDoxx: Agentic Re-identification of Anonymized Text with Web Search

Investigadores presentan AgentDoxx, un conjunto de evaluación que mide cómo los LLMs con capacidad de búsqueda web pueden re-identificar personas a partir de transcripciones de entrevistas anonimizadas. El estudio evalúa quince configuraciones de modelos abiertos y propietarios, descubriendo que la re-identificación es posible en más del 88% de los casos cuando el objetivo aparece en resultados recuperados, y que las instrucciones de privacidad suponen un reto incompleto.

#Seguridad LLM#Privacidad
4IA × CiberarXiv cs.CR ·

AutoDP-LLM: Automating Data Pre-processing for Intrusion Detection Systems using Large Language Models

AutoDP-LLM es un marco de investigación que automatiza el desarrollo de pipelines de preprocesamiento de datos para sistemas de detección de intrusiones usando modelos de lenguaje grandes. El trabajo evalúa el enfoque en datasets benchmark (UNSW-NB15 y NSL-KDD) y demuestra que logra rendimiento competitivo en detección multiclase mientras reduce el esfuerzo manual y la carga computacional.

#IA defensiva#Investigación
4IA × CiberarXiv cs.CR ·

Grammar-Guided Code Watermarking with Green Temperature

Un artículo de investigación propone GTCW (Grammar-Guided Code Watermarking with Green Temperature), una técnica para insertar marcas de agua detectables en código generado por modelos de lenguaje grandes sin degradar la calidad ni romper la sintaxis. El método integra decodificación restringida por gramática con técnicas de revalidación de probabilidades, logrando mejor detección de la marca de agua que los métodos existentes mientras mantiene la funcionalidad del código.

#Seguridad LLM#Investigación
6IA × Ciber✨arXiv cs.CR ·

Who Is Your Agent Serving? Provider-Side Indirect Prompt Injection in Proactive Agents

Un estudio de arXiv identifica una nueva clase de ataque de inyección de prompts indirecta en agentes IA proactivos: un proveedor externo puede manipular el contenido asociado a su propio objetivo para redirigir al agente hacia él, sin necesidad de acceder al contexto privado del usuario o comprometer el sistema. Los ataques aumentan la autorización del objetivo hasta en 77,4 puntos porcentuales en todos los entornos probados, incluso cuando el usuario se resiste.

#Prompt injection#Seguridad LLM
4IA × CiberarXiv cs.CR ·

What a Policy Gate Can and Cannot Know: Measured Boundaries of Cross-Platform Command Adjudication

Un estudio académico examina las limitaciones de un policy gate que adjudica las acciones de un agente antes de su ejecución sin analizar la sintaxis de shell. Los investigadores evalúan la fidelidad de estas decisiones (ALLOW, ASK, DENY) en un entorno Linux y encuentran que, aunque el sistema bloquea la mayoría de mutaciones de operadores, existen diferencias en la traducción entre plataformas y casos sin resolver.

#IA defensiva#Seguridad LLM
6IA × Ciber✨arXiv cs.CR ·

Blocking at the Boundary: Auditing Long-Horizon Agents against Staged Prompt Injection

Investigadores presentan un estudio sobre ataques de prompt injection en agentes de largo horizonte (como Claude Code y Codex) que manipulan contenido externo, invocan herramientas y modifican estado persistente a través de múltiples pasos encadenados. Proponen boundary action auditing, una técnica que predice si una acción pendiente debe bloquearse antes de ejecutarse, junto con Path-Aligned Attribution (PAA), un auditor sin entrenamiento que rastrea qué fuentes influyeron en cada decisión del modelo.

#Seguridad LLM#Prompt injection#IA defensiva
5IA × CiberarXiv cs.CR ·

VulValidate: Auditing Function-Level Vulnerability Labels with Executable Evidence

VulValidate es un marco que utiliza agentes LLM para auditar etiquetas de vulnerabilidades en funciones mediante análisis dinámico y construcción de experimentos reproducibles. Los autores validan 35.849 funciones de datasets de detección de vulnerabilidades (BigVul, PrimeVul, DiverseVul) y confirman el 57,2%, corrigen el 19,0% y dejan el 22,3% sin decidir, mejorando así la calidad de los datos para entrenar detectores basados en aprendizaje automático.

#Investigación#Seguridad LLM
5IA × Ciber✨arXiv cs.CR ·

Cooldown Landmines: Cross-Tenant Interference Attacks on LLM Gateways

Investigadores identifican dos ataques de interferencia entre arrendatarios en puertas de enlace LLM, explotando registros compartidos de cooldown en LiteLLM. Las solicitudes rechazadas por límites de RPM pueden redirigir a otros arrendatarios a fallbacks innecesarios, y el tráfico admitido puede crear registros de cooldown que persisten tras recuperación de backends.

#Seguridad LLM#Prompt injection
5IA × CiberarXiv cs.CR ·

ContractLens: Latent Security Knowledge for Malicious Smart Contract Detection

ContractLens es un marco de investigación que utiliza sondas lineales para identificar y explotar el conocimiento de seguridad latente en modelos LLM pretrained, mejorando la detección de smart contracts maliciosos sin reentrenamiento. El enfoque localiza unidades neuronales discriminativas específicas para malware en capas críticas del modelo y consigue mayor precisión que métodos existentes basados en ingeniería de prompts.

#Seguridad LLM#Investigación
5IA × CiberarXiv cs.CR ·

Hidden Risks of Jev: An Empirical Study of Security, Privacy, and Dual Use

Un estudio empírico examina los riesgos de seguridad y privacidad de Jev, un modelo de lenguaje que convierte preguntas en respuestas tipadas para servir como capa de decisión en aplicaciones. Los investigadores demuestran vulnerabilidades a inyección de prompts, envenenamiento de datos de entrenamiento, inferencia de información privada y uso dual para tareas defensivas y maliciosas.

#Seguridad LLM#Prompt injection#Supply chain IA
4IA × CiberarXiv cs.CR ·

Static Bootstrap Placement for Encrypted Language Model Decoding

Un nuevo sistema llamado AR-HE permite ejecutar la decodificación completa de modelos de lenguaje bajo encriptación homomórfica, manteniendo todo el procesamiento en el servidor sin requerir viajes de ida y vuelta del cliente. El trabajo introduce una estrategia automática para colocar bootstraps criptográficos que reduce el coste computacional de generar tokens encriptados, demostrando mejoras significativas en modelos como GPT-2.

#Seguridad LLM#Investigación
4IA × Ciber✨arXiv cs.CR ·

Bounded Reasoning: Cognitive Hierarchy in Human-versus-AI Cyber Defense

Un estudio en arXiv compara defensores humanos y automatizados (redes neuronales) en un juego de defensa cibernética secuencial basado en grafos de ataques contra activos en la nube. Los humanos se adaptaron de manera distinta a los modelos automatizados, reseleccionando nodos tras defensas exitosas con más frecuencia que tras fallos, un patrón consistente con la teoría del prospecto.

#IA defensiva#Investigación
5IA × Ciber✨arXiv cs.CR ·

Invisible Ink, Visible Lies: How Production Watermarking Causes LLMs to Hallucinate

Un estudio de arXiv analiza cómo las técnicas de watermarking de modelos LLM, diseñadas para identificar contenido generado por IA, pueden inducir o amplificar alucinaciones e imprecisiones factuales incluso cuando el modelo sin watermark responde correctamente. Los investigadores examinan seis métodos populares y proponen intervenciones para mejorar la precisión factual sin sacrificar la eficiencia.

#Seguridad LLM#Investigación
5IA × Ciber✨arXiv cs.CR ·

Forecasting Cybersecurity Incidents Using Geopolitical Data and Large Language Models

Un equipo de investigación propone un enfoque para predecir incidentes de ciberseguridad combinando datos geopolíticos con modelos de lenguaje grandes. El método alimenta artículos de noticias y podcasts transcritos a LLM para generar representaciones que entrenan un clasificador, logrando una precisión del 81,3% ROC AUC al combinar datos geopolíticos con mediciones de red, superando técnicas previas basadas solo en características de red.

#Investigación#IA defensiva
6IA × Ciber✨arXiv cs.CR ·

StegoMemory: Agentic Memory Acts as Covert Steganographic Channel

Investigadores realizaron pruebas de seguridad a gran escala en sistemas agenticos, descubriendo que pueden usarse para crear canales encubiertos de esteganografía que transmiten información maliciosa entre sesiones sin ser detectados. Un 20,1% de los intentos lograron recuperar exactamente la información transmitida, incluyendo claves API y material criptográfico, mientras pasaban las evaluaciones de seguridad como interacciones benignos normales.

#Seguridad LLM#Prompt injection#Supply chain IA
4IA × Ciber✨arXiv cs.CR ·

Quantum Machine Learning Protection of Military Quantum Key Distribution Against Cryptographically Camouflaged Attacks

Un artículo académico propone utilizar aprendizaje automático cuántico para detectar ataques criptográficamente camuflados contra sistemas de distribución de claves cuánticas (QKD) militar. Los atacantes con acceso al generador de valores pueden ocultar bloques comprometidos en ruido legítimo, pero un kernel cuántico puede recuperar la clave privada mediante el algoritmo de Shor, permitiendo identificar el material de clave comprometido.

#Seguridad LLM#IA defensiva
5IA × Ciber✨arXiv cs.CR ·

The Same Zero: Why Identical ASR Can Imply Different Guarantees in LLM-Agent Security

Un estudio de investigación propone un marco de Verification Autonomy Levels (VAL) para evaluar qué garantías ofrecen realmente las defensas de seguridad en agentes de LLM. Los autores comparan una pila de defensas guiada por VAL contra una basada en intuición convencional, encontrando que ambas alcanzan tasa de éxito de ataque del 0 %, pero con fundamentos muy diferentes: la primera proporciona garantías estructurales robustas mientras que la segunda depende de la suerte del comportamiento del modelo.

#Seguridad LLM#IA defensiva
4IA × Ciber✨arXiv cs.CR ·

Attestable Audit: Property-Based Attestation for Proprietary Workloads without Artifact Disclosure

Investigadores proponen Attestable Audit, una arquitectura que permite verificar la integridad y seguridad de cargas de trabajo propietarias en Trusted Execution Environments (TEEs) sin divulgar el código fuente ni los artefactos compilados. El sistema encadena certificados de attestation de compilación y auditoría automatizada, incluyendo análisis estático, fuzzing y auditoría de código asistida por IA, para que un verificador remoto pueda confirmar que el software ejecutado cumple propiedades de seguridad específicas.

#IA defensiva#Seguridad LLM
4IA × CiberarXiv cs.CR ·

JASPER: Special Session on Joint Reliability And Security Assessment of SPlit Computing for Edge Robustness

Un artículo académico presenta JASPER, un marco unificado para evaluar conjuntamente la fiabilidad y seguridad en Split Computing, una técnica que particiona la inferencia de redes neuronales profundas entre dispositivos edge y servidores en la nube. El trabajo introduce métricas como el Joint Vulnerability Score (JVS) para captar vulnerabilidades que permanecen ocultas cuando la fiabilidad y la seguridad se analizan por separado.

#Investigación#IA defensiva
5IA × Ciber✨arXiv cs.CR ·

COPEX: Benchmarking LLM Robustness to Adversarial Context Across Model Context Protocol Layers

Investigadores presentan COPEX, un benchmark para evaluar la robustez de LLMs frente a ataques adversariales en sistemas con Model Context Protocol (MCP). El estudio prueba cómo modelos lenguaje pueden ser explotados a través de instrucciones del usuario, esquemas de herramientas, salidas de herramientas o mensajes de protocolo, encontrando una tasa media de éxito de ataque del 64,4% en nueve modelos.

#Seguridad LLM#Prompt injection