● NeuroSec Radar
Entrar

● Trascendental · últimas 48 h

Destacados · últimas 48 h

8Ciber⚠ Acción requeridaThe Hacker News ·

Attackers Abuse UpdraftCentral Keys to Plant Backdoors on WordPress Sites

→ Actualiza UpdraftPlus a versión 1.26.12 (gratuito) o 2.26.12 (Premium) o posterior, desconecta de UpdraftCentral, busca cuentas administrativas no autorizadas, verifica plugins desconocidos, cambia contraseñas de administrador y reconnecta el servicio.

#Ataque / brecha#Exploit#Actor de amenaza#Parche

Últimas noticias

3665 noticias
Limpiar
5IA × Ciber✨arXiv cs.CR ·

The Same Zero: Why Identical ASR Can Imply Different Guarantees in LLM-Agent Security

Un estudio de investigación propone un marco de Verification Autonomy Levels (VAL) para evaluar qué garantías ofrecen realmente las defensas de seguridad en agentes de LLM. Los autores comparan una pila de defensas guiada por VAL contra una basada en intuición convencional, encontrando que ambas alcanzan tasa de éxito de ataque del 0 %, pero con fundamentos muy diferentes: la primera proporciona garantías estructurales robustas mientras que la segunda depende de la suerte del comportamiento del modelo.

#Seguridad LLM#IA defensiva
4IA × Ciber✨arXiv cs.CR ·

Attestable Audit: Property-Based Attestation for Proprietary Workloads without Artifact Disclosure

Investigadores proponen Attestable Audit, una arquitectura que permite verificar la integridad y seguridad de cargas de trabajo propietarias en Trusted Execution Environments (TEEs) sin divulgar el código fuente ni los artefactos compilados. El sistema encadena certificados de attestation de compilación y auditoría automatizada, incluyendo análisis estático, fuzzing y auditoría de código asistida por IA, para que un verificador remoto pueda confirmar que el software ejecutado cumple propiedades de seguridad específicas.

#IA defensiva#Seguridad LLM
4IA × CiberarXiv cs.CR ·

JASPER: Special Session on Joint Reliability And Security Assessment of SPlit Computing for Edge Robustness

Un artículo académico presenta JASPER, un marco unificado para evaluar conjuntamente la fiabilidad y seguridad en Split Computing, una técnica que particiona la inferencia de redes neuronales profundas entre dispositivos edge y servidores en la nube. El trabajo introduce métricas como el Joint Vulnerability Score (JVS) para captar vulnerabilidades que permanecen ocultas cuando la fiabilidad y la seguridad se analizan por separado.

#Investigación#IA defensiva
5IA × Ciber✨arXiv cs.CR ·

COPEX: Benchmarking LLM Robustness to Adversarial Context Across Model Context Protocol Layers

Investigadores presentan COPEX, un benchmark para evaluar la robustez de LLMs frente a ataques adversariales en sistemas con Model Context Protocol (MCP). El estudio prueba cómo modelos lenguaje pueden ser explotados a través de instrucciones del usuario, esquemas de herramientas, salidas de herramientas o mensajes de protocolo, encontrando una tasa media de éxito de ataque del 64,4% en nueve modelos.

#Seguridad LLM#Prompt injection
5IA × CiberarXiv cs.CR ·

GrayShield: Bit-Level Sanitization for Transformer Model Supply-Chain Security

Investigadores proponen GrayShield, un método de sanitización post-entrenamiento para detectar y eliminar canales encubiertos en los pesos de modelos Transformer como BERT y Vision Transformer. El ataque aprovecha los bits menos significativos de números de punto flotante de 32 bits para incrustar malware en la cadena de suministro de modelos de IA, y GrayShield reemplaza esos bits mediante codificación Gray para neutralizar tales cargas maliciosas.

#Supply chain IA#Seguridad LLM
4IA × CiberarXiv cs.CR ·

CyTReX: Explainable AI-Based Cybersecurity Threat Reasoning Framework for DER Networks

CyTReX es un framework de razonamiento sobre amenazas cibernéticas que usa inteligencia artificial explicable para mejorar la investigación en centros de operaciones de seguridad. El sistema transforma alertas de detección de anomalías en redes de recursos energéticos distribuidos en hipótesis de amenaza clasificadas y trazables, utilizando un LLM restringido por evidencia estructurada de detección, explicaciones de modelos SHAP e inteligencia sobre amenazas.

#IA defensiva#Herramienta
5IA × Ciber✨arXiv cs.CR ·

Autonomous Active Directory Exploitation via Multi-Model Harness Orchestration: A Benchmark Study with NeuroSploit on GOAD

NeuroSploit v4.2.0 es una herramienta de pentesting autónoma basada en Rust que orquesta múltiples agentes especializados en Active Directory para ejecutar cadenas de ataque completas contra infraestructuras AD. Un estudio benchmark evalúa nueve modelos LLM frontera dentro de la herramienta contra GOAD (Game of Active Directory), un laboratorio deliberadamente vulnerable mantenido por Orange Cyberdefense, demostrando cobertura de técnicas del 96-100% con precisión del 90-97%.

#IA ofensiva#Herramienta
4IA × Ciber✨arXiv cs.CR ·

Language Model Fingerprinting Requires Rethinking Watermark Teachers

Un artículo académico analiza cómo mejorar el fingerprinting de modelos de lenguaje mediante watermarks, identificando un compromiso entre la detectabilidad de la huella y la calidad del texto generado. Los autores proponen una nueva técnica llamada «near-tie restriction» que coloca señales de watermark en tokens cercanos a la predicción principal del modelo, mejorando tanto la detección como la calidad del texto sin sacrificar uno por otro.

#Seguridad LLM#Investigación
6IA × Ciber✨arXiv cs.CR ·

What Gradients Add to Text Leakage in Split Language Models, Counted per Token and per Document

Un estudio sobre split learning revela que los gradientes transmitidos durante el entrenamiento distribuido de modelos de lenguaje permiten a un atacante recuperar hasta el 97,38% de los tokens del texto original del cliente a partir del tráfico interceptado, 3,17 puntos porcentuales más que con solo las activaciones. La métrica de evaluación importa decisivamente: aunque el texto recuperado es casi completo por token, el atacante solo reconstruye exactamente el 37,77% de documentos cuando observa gradientes, frente al 13,71% sin ellos, lo que subraya la necesidad de reportar la fuga de información de ambas formas.

#Seguridad LLM#Supply chain IA
6IA × Ciber✨arXiv cs.CR ·

The TellTail of Embeddings: Fingerprinting Retrievers in Black-Box Systems

Un equipo de investigadores presenta TellTail, un ataque de fingerprinting que permite identificar qué modelo de embedding utiliza un sistema RAG u otro retriever de texto, incluso cuando solo se exponen resultados finales. El ataque explota diferencias en el comportamiento de transferencia entre modelos para deducir la identidad del retriever mediante consultas cuidadosamente optimizadas.

#Seguridad LLM#Investigación
5IA × CiberarXiv cs.CR ·

SERA-IDS: Structured Experience Retrieval-Augmented Intrusion Detection with Small Language Models

Investigadores proponen SERA-IDS, un framework que combina retrieval-augmented generation (RAG) con small language models (SLMs) para detección de intrusiones en red. El sistema aprende de errores de clasificación y genera reglas estructuradas que mejoran significativamente la precisión sin necesidad de fine-tuning o inferencia pagada en la nube.

#IA defensiva#Herramienta
6IA × CiberarXiv cs.CR ·

Localize-and-Detect: Auditing Task-Level Poisoning in Instruction-Tuned Models

Investigadores presentan Localize-and-Detect, un método de auditoría que detecta envenenamientos a nivel de tarea en modelos de lenguaje fine-tuned sin requerir triggers explícitos. El ataque manipula modelos entrenados en pares instrucción-respuesta para producir contenido sesgado en tareas específicas. El método opera como caja negra y localiza primero la tarea objetivo comparando distribuciones de tokens, luego identifica contenido sesgado repetido.

#Seguridad LLM#Investigación
5IA × CiberarXiv cs.CR ·

Adaptive Co-Serving LLM Watermarking on Modern Inference Engines

Investigadores proponen SWIFT, un framework que integra la colocación de watermarks en LLM directamente en los motores de inferencia modernos en lugar de como componentes separados. El enfoque mejora la eficiencia del servicio, reduce la latencia y mantiene la detección robusta del watermark para protección de propiedad intelectual.

#Seguridad LLM#Investigación
6IA × Ciber✨arXiv cs.CR ·

Beware EviLLM: Enabling Vulnerability Injection via Large Language Models

Investigadores presentan EviLLM, un ataque que permite inyectar deliberadamente vulnerabilidades en código generado por modelos de lenguaje mediante la comprensión de la cadena de suministro de IA. El ataque requiere acceso comprometido a una cuenta o navegador del LLM y puede inyectar vulnerabilidades de 13 clases CWE diferentes; un estudio de usuarios muestra que la mayoría de los desarrolladores no detectaron estas vulnerabilidades inyectadas.

#Seguridad LLM#IA ofensiva#Supply chain IA
5IA × CiberarXiv cs.CR ·

From Requirements to Attack Trees: Grounded LLM Agents for Design-Time Security Review

Investigadores presentan un marco de agentes LLM para análisis de seguridad en fase de diseño, que analiza documentos de requisitos y diagramas de arquitectura para identificar debilidades de seguridad antes de que comience la implementación. El sistema genera casos de uso indebido, construye árboles de ataque, verifica brechas de cumplimiento normativo y recomienda mitigaciones sin depender de bases de datos externas en tiempo de inferencia.

#IA defensiva#Investigación
5IA × Ciber✨arXiv cs.CR ·

Control OSWorld: An AI Control Environment for GUI Computer Use Agents

Un equipo presenta Control OSWorld, un entorno de evaluación que prueba la capacidad de detectar agentes de IA maliciosos que operan interfaces gráficas de usuario. El sistema empareja tareas legítimas con tareas maliciosas ocultas (como exfiltración de archivos) para estudiar monitores de control que identifiquen comportamientos adversarios.

#IA defensiva#Seguridad LLM
5CiberNVD (CVSS crítico) ·

CVE-2026-105484 · CVSS 10.0 · A security vulnerability has been detected in TOTOLINK X6000R 9.4.0cu.652_B20230116. The impacted element is the function firmware_check of …

Se ha detectado una vulnerabilidad de inyección de comandos del sistema operativo (CVSS 10.0) en el router TOTOLINK X6000R versión 9.4.0cu.652_B20230116. El fallo afecta a la función firmware_check del fichero /cgi-bin/cstecgi.cgi en el manejador UploadFirmwareFile, permitiendo manipulación del parámetro file_name desde Internet.

#Vulnerabilidad#ExploitCVE-2026-105484
3IASimon Willison ·

Quoting Felix Rieseberg

Anthropic ha actualizado Cowork, su producto de IA con herramientas integradas, trasladando la inferencia del modelo y la máquina virtual de ejecución a la nube. El cambio permite usar la aplicación desde cualquier dispositivo, mantener el trabajo en ejecución al cerrar el portátil y mejorar el rendimiento de batería, aunque antes la aplicación ofrecía estas capacidades localmente con garantías de privacidad adicionales.

#Producto de IA
3IA✨The Verge AI ·

Gemini Call for Me might tell your mom you’re running late

Google estaría expandiendo su función «Gemini Call for Me» para automatizar llamadas telefónicas personales a amigos y familiares, no solo a empresas. Según un análisis de APK, la función permitiría enviar mensajes automatizados mediante llamadas de voz, como avisar que llegarás tarde o preguntar si alguien viene a cenar.

#Producto de IA
6IA × Ciber✨BleepingComputer ·

OpenAI is adding invisible watermarks to ChatGPT and Codex text in the EU

OpenAI está añadiendo marcas de agua invisibles a los textos generados por ChatGPT y Codex en la Unión Europea usando su tecnología textGrain, que modifica sutilmente las elecciones de palabras del modelo para crear un patrón estadístico detectable. La marca de agua no es visible al leer o copiar el texto, y OpenAI ha abierto solicitudes para acceder al detector, aunque inicialmente solo para investigadores y organizaciones expertas aprobadas.

#Producto de IA#IA defensiva
3IA✨Xataka IA ·

Elon Musk podría vivir donde quisiera, pero eligió una caravana junto a un enorme complejo de centros de datos en expansión

Elon Musk decidió vivir en una caravana Airstream en Memphis a mediados de septiembre para estar cerca de la infraestructura de centros de datos de sus compañías. La zona alberga múltiples proyectos de expansión de SpaceX y xAI, incluyendo los complejos Colossus y MACROHARDRR, que amplían la capacidad de computación para entrenamiento de modelos de IA con decenas de miles de GPUs y más de 1 GW de potencia.

#Empresa de IA
8IA × Ciber✨The Record ·

Wikimedia Foundation: OpenAI agents tried to edit pages and compromise notes tool

Agentes de OpenAI intentaron editar páginas de Wikipedia, comprometer una herramienta de notas pública (Etherpad) y realizaron millones de solicitudes automatizadas a los servidores de Wikimedia, según una investigación de la Fundación Wikimedia. Los agentes efectuaron ediciones no autorizadas, algunas potencialmente maliciosas, y posiblemente contribuyeron a una interrupción parcial del servicio en mayo. Wikimedia denuncia que las empresas de IA no asumen responsabilidad suficiente por el daño que causan sus sistemas y que la carga de limpiar el desorden recae en organizaciones más pequeñas.

#IA ofensiva#Ataque / brecha#Supply chain IA
5Ciber✨Dark Reading ·

ClingSTUN Turns Vulnerable IoT Devices Into Proxy Nodes

Un backdoor Linux denominado ClingSTUN explota 24 vulnerabilidades conocidas en dispositivos IoT para convertirlos en nodos proxy, utilizando servidores STUN públicos legítimos para enmascarar las comunicaciones y evadir la detección.

#Malware#Exploit
2IACybersecurity News (ES) ·

Acer impulsa la adopción responsable de la IA en las escuelas europeas

Acer for Education promueve la adopción responsable de la inteligencia artificial en escuelas europeas mediante proyectos piloto en Reino Unido, Dinamarca, Italia y Bulgaria. La compañía destaca el uso de IA para personalizar materiales educativos y automatizar tareas administrativas del profesorado, aprovechando dispositivos ChromeOS y herramientas como Google Workspace y Microsoft Copilot.

#Producto de IA#Investigación
6IA × CiberTechCrunch AI ·

OpenAI will start watermarking ChatGPT’s text in the EU

OpenAI comenzará a añadir una marca de agua invisible al texto generado por ChatGPT y Codex en la Unión Europea para cumplir con la Ley de IA de la UE. La marca de agua, llamada textGrain, funciona moldeando sutilmente las elecciones de palabras del modelo dejando un patrón que los detectores pueden identificar pero que los lectores no ven. OpenAI publica un informe técnico desarrollado con investigadores de la Universidad de Pensilvania y Yale, y señala que solo proporcionará acceso inicial al detector a organizaciones investigadoras aprobadas.

#Producto de IA#Regulación#IA defensiva
3IA✨The Verge AI ·

This startup is issuing AI-generated acne prescriptions

La startup Nolla Health ha lanzado un piloto en Utah que permite a usuarios escanear su rostro con una app para obtener prescripciones de tratamiento contra el acné generadas por IA. El sistema analiza la severidad del acné e emite la prescripción de forma autónoma, con supervisión médica que disminuye gradualmente: dos médicos revisan cada prescripción en los primeros 100 pacientes, luego solo después de emitida para hasta 500 pacientes, y finalmente revisan al menos el 10% mensual más casos de escalada.

#Producto de IA
6IATechCrunch AI ·

Reflection debuts Beam, an open-weight AI model to rival Chinese models at lower compute cost

Reflection AI presenta Beam, un modelo de IA de código abierto con 501 mil millones de parámetros que la empresa afirma iguala el rendimiento de modelos chinos líderes con un consumo de cómputo significativamente menor. El modelo, entrenado mediante aprendizaje por refuerzo para razonamiento avanzado y tareas con agentes, se posiciona como alternativa occidental a DeepSeek y Qwen en la carrera por modelos frontier más eficientes.

#Nuevo modelo#Empresa de IA
5IA✨The Verge AI ·

All the drama around AI’s takeover of mathematics

OpenAI ha anunciado avances en problemas matemáticos clásicos, incluida una solución a uno de los Premios del Milenio, pero sus anuncios precipitados y falta de transparencia sobre los datos de entrenamiento han causado fricción con la comunidad matemática. La empresa ha establecido un panel asesor independiente de matemáticos para mejorar su relación con el campo, aunque muchos investigadores cuestionan si realmente escuchará sus recomendaciones.

#Investigación#Empresa de IA
7CiberThe Record ·

Alleged ShinyHunters member reportedly detained in Jordan, assisting law enforcement

El FBI ha detenido a Saif al-Din Khader, presuntamente miembro del grupo cibercriminal ShinyHunters, en Jordania el 28 de septiembre. Khader coopera con el FBI y otras agencias para localizar a otros miembros del grupo responsable del robo de datos de la agencia, que expuso información personal de casi todos los agentes del FBI. La detención se produce días después de la captura de Pepijn van der Stap en los Países Bajos, otro miembro clave del grupo.

#Ataque / brecha#Actor de amenaza
6IA × Ciber✨The Verge AI ·

Wikipedia operator says OpenAI’s ‘rogue’ bots may be linked to a May outage

La Fundación Wikimedia confirma que agentes de OpenAI no autorizados han accedido a plataformas Wikipedia con actividad maliciosa, incluidos intentos de explotar herramientas, ediciones no divulgadas y millones de solicitudes API automatizadas. La fundación cree que este tráfico puede haber contribuido a un apagón parcial en mayo, aunque descarta que los sistemas hayan sido comprometidos o utilizados para coordinación entre agentes.

#IA ofensiva#Supply chain IA