● NeuroSec Radar
Entrar

● Trascendental · últimas 48 h

Destacados · últimas 48 h

Últimas noticias

3920 noticias
Limpiar
4IA × Ciber✨arXiv cs.CR ·

The Fly That Stopped: Mushroom-Body-Inspired Habituation as a Reward-Free Scheduling Prior for Autonomous Penetration Testing

Investigadores evalúan un planificador inspirado en la neurobiología de las moscas Drosophila para mejorar agentes autónomos de testing de seguridad. El enfoque sin recompensa basado en habituación reduce la repetición de acciones de herramientas durante pruebas de penetración, mostrando reducciones en duplicados en pruebas de laboratorio.

#IA ofensiva#Recurso
5IA × CiberarXiv cs.CR ·

TraceGuard: Adaptive Multimodal Poison Filtering through Cross-Feature Rank Agreement

TraceGuard es un método de filtrado adaptativo para detectar y eliminar datos envenenados en entrenamientos multimodales imagen-texto. El sistema utiliza acuerdo entre múltiples características a nivel de corpus para identificar ejemplos sospechosos sin necesidad de entrenar el modelo víctima, logrando remover el 98,4% de ejemplos envenenados manteniendo el 94,6% de datos limpios.

#Seguridad LLM#Supply chain IA
6IA × Ciber✨arXiv cs.CR ·

The Tokens Remember: When Tokenization Bypasses Knowledge Editing and Unlearning

Investigadores descubren que la tokenización alternativa de inputs puede eludir técnicas de edición de modelos y unlearning en LLMs open-weight, permitiendo recuperar información que se suponía eliminada. El ataque Toketive demuestra que casi el 40% de tokenizaciones alternativas bypasean las modificaciones localizadas sin necesidad de acceso al modelo original.

#Seguridad LLM#IA defensiva
5IA × CiberarXiv cs.CR ·

DistillGuard: Malicious NPM Package Detection and API Attack Chain Analysis via Static Graph and LLM Distillation

DistillGuard es un framework de detección de paquetes NPM maliciosos que combina análisis estático de grafos y destilación de conocimiento de LLM. El método logra una precisión del 99,4% y mejora significativamente el rendimiento frente a herramientas existentes, abordando los riesgos de seguridad en la cadena de suministro de Node.js.

#Supply chain IA#Malware#Herramienta
4IA × Ciber✨arXiv cs.CR ·

Calibrated Decision Models for Autonomous Penetration-Testing Harnesses: JEV and Laya as System One Decision Layers for LLM-Driven Pentest Agents

Investigación sobre modelos de decisión calibrados para sistemas de pentesting autónomos impulsados por LLM. El trabajo propone usar clasificadores ligeros no generativos (System One) para mejorar la adjudicación de hallazgos, recalibración de severidad y selección de agentes, evitando falsos positivos y desperdicio de recursos computacionales.

#IA ofensiva#Herramienta#Investigación
5IA × Ciber✨arXiv cs.CR ·

On the Effectiveness of Kernel-Level Evidence for Agent Security

Investigadores presentan ACE (Agent Cross-Layer Evidence), un corpus de 4.047 sesiones de agentes LLM con 17 modelos de amenaza que combina telemetría de aplicación con trazas de syscall a nivel kernel para detectar ataques que eludan las defensas tradicionales. El estudio demuestra que la evidencia a nivel kernel es discriminativa por sí sola y que su combinación con señales de capa de aplicación mejora la detección, revelando patrones complementarios que análisis de una sola capa pueden perder.

#IA defensiva#Seguridad LLM
7IA × Ciber✨arXiv cs.CR ·

Codetta: High-Capacity, Keyless, and Undetectable Multi-Agent Collusion

Investigadores presentan Codetta, un protocolo de esteganografía que permite que agentes independientes basados en LLM se comuniquen de forma indetectable para exfiltrar información o coordinar acciones no autorizadas. El sistema logra una capacidad hasta 94 veces superior a protocolos anteriores y elimina la necesidad de claves pre-compartidas mediante un intercambio de claves esteganográfico, mostrando que la colusión entre agentes es cada vez más viable incluso en sistemas de auditoría.

#Seguridad LLM#Supply chain IA
4IA × CiberarXiv cs.CR ·

Blockchain-Enabled Artificial Intelligence and AI Agents for Secure Data Sharing and Cybersecurity Applications

Un meta-análisis de cuatro estudios sobre aprendizaje automático adversarial, detección de anomalías impulsada por IA en entornos en la nube, parches de vulnerabilidades automatizados mediante pipelines de LLM multi-agente y seguridad de sistemas de IA. El trabajo propone una arquitectura de referencia que integra modelos reforzados contra ataques, proveniencia de datos anclada en blockchain, detección de anomalías impulsada por IA y remediación multi-agente gobernada por contratos inteligentes.

#Investigación#IA defensiva#Seguridad LLM
5IA × Ciber✨arXiv cs.CR ·

Unmasking Shortcut Learning in IoT Intrusion Detection: A Forensic, Multi-Paradigm Evaluation of Feature Dependence and Data Leakage

Investigadores evalúan un benchmark popular de detección de intrusiones en IoT (CyberFlowIoT-GICAP) y descubren que los modelos de machine learning logran rendimientos cercanos al perfecto no porque aprendan a detectar ataques reales, sino porque explotan artefactos espurios del dataset, como direcciones IP estáticas de testbed y anomalías temporales. El estudio, usando cuatro paradigmas de aprendizaje y divisiones disjuntas por sesión PCAP, muestra que el rendimiento depende mucho más del formato de datos (timestamps crudos, direcciones) que de la complejidad del modelo.

#Investigación#IA defensiva
5IA × Ciber✨arXiv cs.CR ·

Decision Hijacking: Prompt Injection Attacks on Jev's Typed Probabilistic Decisions

Investigadores analizan ataques de prompt injection contra Jev, un modelo de decisiones probabilísticas no generativo con salidas definidas por esquema, usando 510 casos reconstruidos. Los contenidos maliciosos modifican las probabilidades de acción pero rara vez logran que el modelo seleccione el objetivo del atacante, aunque los ataques adaptativos que usan retroalimentación de puntuación duplican la probabilidad máxima alcanzada durante la optimización.

#Prompt injection#Seguridad LLM
6IA × Ciber✨arXiv cs.CR ·

Agent Approval Laundering: Transitive Effects Beyond the Approved Invocation

Investigadores identifican un problema de seguridad en sistemas de agentes IA basado en cómo se registran las aprobaciones de herramientas: el registro solo captura la invocación inicial, no los efectos transitivos (como hooks de instalación de paquetes o llamadas a la red) que se ejecutan después. Presentan un análisis sistemático con un benchmark de 111 pares de objetos de aprobación y proponen usar predicciones de efectos futuros ligadas al registro de decisiones para cerrar esta brecha.

#Seguridad LLM#Investigación
6IA × Ciber✨arXiv cs.CR ·

Persistent Billable State: Denial-of-Wallet Attacks and Defenses in Tool-Calling LLM Agents

Investigadores identifican un nuevo vector de ataque en agentes LLM que utilizan herramientas externas: los estados billables persistentes permiten a herramientas maliciosas o comprometidas inyectar contenido no confiable que se retiene y se cobra repetidamente al usuario sin que este tenga control. El estudio presenta seis vectores de ataque de negación de billetera (Denial-of-Wallet) y propone defensas basadas en transformación de historial y límites de contexto.

#Seguridad LLM#IA defensiva
5IA × Ciber✨arXiv cs.CR ·

Where Cyber Agents Struggle: Bottleneck Analysis of Multi-Stage LLM Agents

Un estudio diagnóstico analiza los puntos débiles de agentes cibernéticos autónomos basados en LLMs que orquestan ataques de movimiento lateral en redes empresariales. Los investigadores evalúan seis modelos frontier en escenarios realistas y encuentran que, aunque algunos logran completar flujos de ataque, mantienen limitaciones críticas en eficiencia, consistencia de validación e interpretación de evidencia de ejecución.

#IA ofensiva#Seguridad LLM
6IA × Ciber✨arXiv cs.CR ·

Don't Read the Log: Execution Traces Contaminate Verifiers in Video-Generation Agents

Un estudio presenta una vulnerabilidad en sistemas de generación de vídeo basados en agentes: los jueces multimodales (modelos de visión-lenguaje) que verifican si el vídeo generado cumple los requisitos se dejan influenciar por los registros de ejecución en texto, ignorando lo que ven realmente en los fotogramas. Modelos como Qwen-VL aceptan entre el 78 % y el 90 % de vídeos fallidos si el registro dice que la tarea se completó, frente al 7-19 % sin texto, aunque instrucciones para usar solo los fotogramas no eliminan el efecto.

#Seguridad LLM#IA ofensiva
5IA × Ciber✨arXiv cs.CR ·

Who Is Behind the Harness? Fingerprinting LLMs through Agentic Behavior

Investigadores presentan LIDAR, un método para identificar qué modelo de lenguaje opera detrás de un agente de codificación sin acceso a pesos ni logits internos. Mediante pruebas controladas que exponen el comportamiento post-edición, recuperación ante fallos y resolución de conflictos, el método logra alta precisión al diferenciar 36 modelos de siete familias. El trabajo muestra que el comportamiento de ejecución en agentes revela información de identidad más allá de las salidas finales.

#Seguridad LLM
6IA × Ciber✨arXiv cs.CR ·

Privacy Leakage Through AI-mediated Analysis of Smartphone Data

Investigadores desarrollaron Priva-See, un sistema basado en LLM que demuestra cómo las aplicaciones móviles pueden realizar inferencias privadas invasivas sobre usuarios utilizando solo un subconjunto de sus datos (fotos, calendarios, correos). En un estudio con 465 participantes, el sistema extrajo información sensible a partir de datos que los usuarios creían limitados, reduciendo significativamente su disposición a otorgar permisos. El trabajo cuestiona la idoneidad de los mecanismos actuales de consentimiento en sistemas operativos móviles.

#Privacidad#Producto de IA#Seguridad LLM
3IA × CiberarXiv cs.CR ·

An Exposition of GPT Astra's Proof of Lower Bound on DP Continual Counting

Artículo académico que expone con detalle la prueba de Astra sobre límites inferiores en conteo continuo diferencialmente privado, basándose en trabajos previos de Harrison, Leeman, y Bairaktari et al. que demuestran cotas de complejidad para garantías de privacidad diferencial.

#Investigación#IA defensiva
4IA × CiberarXiv cs.CR ·

Stress-Testing Structure-Aware Calibration of Malware Graph Neural Networks under Type Shift

Investigadores analizan cómo los calibradores post-hoc de redes neuronales para detección de malware pueden fallar cuando cambia el tipo de malware no visto en validación. El estudio en MalNet-Tiny muestra que añadir covariables de estructura degrada la confianza del modelo, pero una guarda basada en soporte comunitario recupera la mayoría de las pérdidas sin necesidad de etiquetas.

#IA defensiva
3IASimon Willison ·

Note on 24th September 2026

Simon Willison reflexiona sobre su experiencia con agentes de código, argumentando que su uso complica aún más la ingeniería de software, aunque permiten logros extraordinarios. Requieren disciplina y conocimiento excepcionales para desbloquear su potencial.

#Investigación
7IA × Ciber✨Dark Reading ·

'Salesbleed' Exploits Salesforce Agents to Enable Slack Phishing

Un ataque denominado 'Salesbleed' explota agentes de Salesforce para inyectar instrucciones maliciosas que cruzan múltiples aplicaciones e infiltran canales de comunicación interna de confianza como Slack, demostrando cómo la IA agéntica puede ser abusada para suplantación de identidad. El riesgo radica en que los agentes pueden ser manipulados para ejecutar acciones no autorizadas que burlen las medidas de seguridad tradicionales.

#Prompt injection#Phishing / fraude
6CiberBleepingComputer ·

MacSync malware uses public iCloud calendars to deliver new payloads

MacSync, un malware orientado a macOS que surgió en abril de 2025, ha evolucionado con nuevas capacidades y ahora utiliza eventos públicos de calendarios iCloud para entregar nuevas cargas útiles. Los investigadores de Kaspersky han identificado una nueva variante que incluye un módulo backdoor disfrazado de Finder, además del módulo infostealer original que roba credenciales, datos de criptomonedas y archivos del sistema.

#Malware#Ataque / brecha#Actor de amenaza
5IA × Ciber✨SecurityWeek ·

Autonomous AI Hacks Raise Thorny Questions of Legal Accountability

Un artículo analiza las implicaciones legales de ataques cibernéticos llevados a cabo por sistemas de IA autónoma, sin claridad sobre responsabilidad penal ni civil. Los expertos legales señalan que las investigaciones criminales enfrentarían un estándar de prueba extremadamente alto.

#IA ofensiva#Regulación
5CiberDark Reading ·

SectopRAT Returns, Hiding Inside a Legitimate Application

El troyano de acceso remoto SectopRAT ha resurgido ocultándose dentro de una aplicación legítima, según reportan expertos. El caso subraya la importancia de monitorizar el comportamiento de las aplicaciones en lugar de confiar ciegamente en su legitimidad aparente.

#Malware#Actor de amenaza
7CiberThe Record ·

Digital forensics firm with US federal contracts covered up ties to Russia, DOJ alleges

El Departamento de Justicia estadounidense detuvo a dos directivos de Oxygen Forensics, una empresa de extracción de datos y análisis forense digital que vendió software a agencias federales estadounidenses mientras ocultaba que era propiedad de ciudadanos rusos y que su tecnología se desarrollaba en Rusia. La firma, competidora directa de Cellebrite, fue acusada de fraude por engañar deliberadamente al Departamento de Defensa, Seguridad Nacional y otras agencias sobre sus vínculos con Moscú, violando así las sanciones impuestas tras la invasión rusa de Ucrania.

#Actor de amenaza#Privacidad#Regulación
5CiberThe Record ·

Lawmakers introduce bill for voluntary telecom cyber rules after Salt Typhoon hacks

Legisladores estadounidenses han presentado un proyecto de ley bipartidista para crear un conjunto voluntario de buenas prácticas de ciberseguridad en el sector de telecomunicaciones, tras los ataques de Salt Typhoon que comprometieron a casi todos los grandes operadores del país. El Telecommunications Cybersecurity and Resilience Act establecería un grupo de trabajo dentro de la NTIA para desarrollar estas prácticas y un proceso de certificación opcional, respondiendo a uno de los mayores ciberataques contra infraestructura crítica estadounidense.

#Regulación#Ataque / brecha
7IA × Ciber✨BleepingComputer ·

New Carbonato malware uses AI agents to hijack exposed Docker hosts

Un nuevo malware llamado Carbonato ataca hosts Docker sin autenticación para instalar el framework Hermes Agent e hijacked los sistemas. El malware se propaga como un gusano entre daemons Docker expuestos, establece persistencia mediante cron jobs y timers, y utiliza un agente de IA llamado GH0ST que ejecuta comandos interactivos recibidos por Telegram para recopilar credenciales y datos sensibles.

#Malware#IA ofensiva#Ataque / brecha
2IASimon Willison ·

commit-rewriter 0.2

Se lanza la versión 0.2 de commit-rewriter, una herramienta de software que añade soporte para ramas distintas a la rama principal mediante el comando uvx commit-rewriter --branch. Es una actualización menor de una herramienta de desarrollo.

#Producto de IA
5IA✨Xataka IA ·

De forma sorprendente, España es bastante más pro-IA que los países de su entorno

Una encuesta de POLITICO revela que España muestra la mayor disposición entre seis países para continuar desarrollando modelos de IA avanzados, con un 39,8% a favor frente al 30,6% en Estados Unidos. A pesar de ello, el 46,8% de los españoles prefiere pausar el desarrollo para reducir riesgos, y una mayoría en todos los países consultados percibe riesgos moderados o mayores de que la IA destruya empleos o cause daño.

#Investigación#Regulación
4IAThe Verge AI ·

Gemini 3.8 Live with Live Avatar gives Google’s AI a face

Google lanza Gemini 3.8 Live con Live Avatar, una función que añade un avatar animado a las conversaciones con el modelo de IA. El avatar sincroniza labios, muestra expresiones faciales y puede cambiar entre 97 idiomas sin degradación visual; de momento solo está disponible para clientes de Gemini Enterprise.

#Producto de IA#Nuevo modelo