● NeuroSec Radar
Entrar

● Trascendental · últimas 48 h

Destacados · últimas 48 h

8Ciber⚠ Acción requeridaThe Hacker News ·

Attackers Abuse UpdraftCentral Keys to Plant Backdoors on WordPress Sites

→ Actualiza UpdraftPlus a versión 1.26.12 (gratuito) o 2.26.12 (Premium) o posterior, desconecta de UpdraftCentral, busca cuentas administrativas no autorizadas, verifica plugins desconocidos, cambia contraseñas de administrador y reconnecta el servicio.

#Ataque / brecha#Exploit#Actor de amenaza#Parche
8Ciber⚠ Acción requeridaThe Record ·

FBI says SafePay ransomware gang ‘among most active’ with more than 600 victims since 2024

→ Parchea inmediatamente los sistemas contra CVE-2020-3259, CVE-2023-20269, CVE-2023-27532, CVE-2024-40711 y CVE-2024-40766, refuerza la autenticación multifactor, revisa los registros de acceso remoto y deshabilita herramientas de escritorio remoto no autorizadas.

Últimas noticias

3631 noticias
Limpiar
7CiberThe Hacker News ·

100+ Compromised Websites Use Fake Cloudflare Checks to Deliver LunexStealer

CERT-UA ha identificado más de 100 sitios web comprometidos inyectados con JavaScript malicioso que distribuye LunexStealer, un malware ladrón de información. Los atacantes, atribuidos al grupo UAC-0277, utilizan una página falsa de verificación Cloudflare que engaña a los usuarios para ejecutar comandos (técnica ClickFix), descargando e instalando paquetes MSI maliciosos que entregan el stealer junto con la extensión LUNARAXE para robo de credenciales y cookies del navegador.

#Malware#Ataque / brecha#Actor de amenaza
5IA✨Xataka IA ·

Alguien ha entrenado un modelo IA para detectar textos escritos con IA y dice detectarlos con un 98% de precisión

Un investigador llamado Jochen Madler ha presentado SlopShape, un sistema que detecta textos generados por IA analizando la estructura del discurso mediante más de 200 preguntas sobre cómo está organizado el contenido. El modelo alcanzó un macro F1 cercano al 98% en pruebas con 11.250 textos reescritos por cinco modelos diferentes (GPT-5.4, Claude Sonnet 4.6, Gemini 3 Flash, DeepSeek V3.2 y Kimi K2.5), identificando patrones predecibles y arquitectura repetitiva característica de la IA.

#Investigación#Producto de IA
3IA✨Simon Willison ·

Quoting Jake Boggan

Simon Willison comparte un comentario de Jake Boggan en Hacker News sobre la resolución aparente de la Conjetura de Barnette, un problema de teoría de grafos en el que Boggan invirtió miles de horas durante 24 años. Boggan expresa emociones encontradas ante la noticia de que el problema ha sido supuestamente resuelto por modelos de IA de OpenAI.

#Investigación
5IA × Ciber✨arXiv cs.AI ·

Toward Alignment Scaling Laws: A Framework and First Preregistered Measurements

Un equipo de investigación propone un marco para medir cómo evolúa la alineación de modelos de IA conforme crecen en capacidad, modelando la carga de alineación necesaria como relaciones de escala. Mediante un protocolo preregistrado, prueban sus métodos en modelos Qwen y datos públicos de entrenamiento adversarial, encontrando que algunos riesgos (veracidad) mejoran con la escala mientras que otros (adulación, backdoors) se mantienen o empeoran.

#Investigación#IA defensiva
3IAarXiv cs.AI ·

LFHE: Local-First Heuristic Evolution for Bounded Local Topology Search in Decentralized Learning with Non-IID Data

Un artículo académico presenta LFHE, un método de aprendizaje descentralizado que optimiza la topología de comunicación entre pares en redes con datos no-IID utilizando información local limitada. El enfoque combina señales estructurales basadas en la energía de Dirichlet con exploración temprana y control de grado, logrando rendimiento competitivo en benchmarks de imagen, voz y texto.

#Investigación
2IAarXiv cs.AI ·

Test-Time Agent Evolution for Long-Horizon Legal Reasoning

Investigación sobre agentes de IA que evolucionan durante la ejecución para mejorar el razonamiento jurídico en procesos legales largos. El trabajo propone un método de adaptación sin entrenamiento que utiliza memoria de casos anteriores y colaboración entre roles para decisiones coordinadas.

#Investigación
3IAarXiv cs.AI ·

Self-Retrospection Distillation: Turning Post-hoc Experiences into Prior Foresight

Investigadores presentan Self-Retrospection Distillation (SRD), una técnica de aprendizaje por refuerzo que utiliza la experiencia post hoc de un agente para mejorar predicciones anticipadas. El método complementa el aprendizaje con recompensas verificables en tareas de razonamiento largo plazo, mostrando mejoras de hasta 24,2 puntos porcentuales cuando las señales de recompensa son escasas.

#Investigación
4IA✨arXiv cs.AI ·

SpeedrunBench: Challenging LLM Agents with Video Game Speedrunning

Investigadores presentan SpeedrunBench, un conjunto de evaluación que desafía a agentes LLM frontier usando videojuegos de speedrunning. El benchmark evalúa la capacidad de los agentes para formar estrategias sofisticadas, mejorar iterativamente y razonar a largo plazo en 9 juegos diferentes, donde deben superar registros mundiales establecidos por humanos.

#Investigación#Recurso
3IA✨arXiv cs.AI ·

Learning in Dreams, Winning in Reality: A Continuous Dyna Loop for a Ten-Hero MOBA

Investigadores entrenan un modelo de mundo para un videojuego MOBA (defensa de las antiguas) de diez héroes usando únicamente episodios imaginados, sin gradientes del juego real. La política resultante gana el 70,2% de partidas reales contra la inteligencia artificial del juego en una dirección, pero no en la otra, y el equipo libera el código, los registros y las herramientas de depuración.

#Investigación
6IA × Ciber✨arXiv cs.AI ·

SIGMA: Self-Improving Alignment Generalization from a Model Spec

SIGMA es un método que permite a los modelos de lenguaje mejorar su propia alineación y seguridad sin necesidad de supervisión externa. Los investigadores demuestran que el modelo puede generar escenarios de dilemas éticos y entrenarse a sí mismo con refuerzo para reducir comportamientos peligrosos, especialmente en entornos multi-turno y agentes autónomos.

#Seguridad LLM#Investigación
4IA✨arXiv cs.AI ·

Illusory Pattern Perception Drives Spurious Inference in Large Language Models

Un estudio en arXiv investiga si los LLM exhiben tendencias de percepción de patrones ilusorios, similar a un sesgo cognitivo humano donde se infieren relaciones significativas en datos aleatorios. Los investigadores encuentran que los modelos muestran estas ilusiones con mayor frecuencia que los humanos, tendiendo a sobre-asociar atributos positivos con grupos mayoritarios y a construir narrativas causales de eventos ambiguos.

#Investigación
3IAarXiv cs.AI ·

How Well Do LLMs Reason with Noisy Evidence? An Active Visual Reasoning Benchmark

Un nuevo conjunto de datos de investigación, VisualNoiseQA, evalúa cómo los modelos de lenguaje grandes razonan con información visual ruidosa e incierta. El trabajo propone un benchmark donde un LLM debe resolver problemas de preguntas sobre imágenes consultando iterativamente un modelo de visión tratado como un sensor estocástico, exponiendo señales de incertidumbre mediante auto-consistencia.

#Investigación#Recurso
3IAarXiv cs.AI ·

BluffJAX: Adversarial Imperfect Information Games in JAX

BluffJAX es una suite de código abierto de juegos de información imperfecta adversarial implementada en JAX. Proporciona simulaciones de alto rendimiento para juegos clásicos como Texas Hold'Em Poker y Kuhn Poker, así como nuevos juegos no estudiados previamente en investigación de aprendizaje por refuerzo, con optimización para aceleración GPU.

#Investigación#Recurso
5IA × CiberarXiv cs.AI ·

Where Rules End and Judges Begin: Measuring the Judgment Boundary in Multi-Agent Systems Security

Un estudio propone DEFER1, un sistema de defensa para multiagentes basados en LLM que organiza controles de seguridad en cinco principios: una cascada de 28 comprobaciones deterministas bloquea ataques conocidos y remite casos ambiguos a un panel de cuatro jueces. En pruebas independientes, las tasas de éxito de ataque caen de aproximadamente 30% a 3%, con el 78% de ataques bloqueados por reglas deterministas.

#Seguridad LLM#IA defensiva
4IAarXiv cs.AI ·

Rationale-Guided Policy Optimization: Learning to Reason with Adaptive Rationale Scaffolding

Investigadores presentan RGPO (Rationale-Guided Policy Optimization), un método que mejora el aprendizaje por refuerzo en modelos de lenguaje grandes mediante guías de razonamiento adaptativas. El enfoque aborda el problema de la escasez de recompensas en tareas de razonamiento difíciles, permitiendo que los modelos exploren libremente mientras aprovechan información de soluciones de referencia como andamios temporales.

#Investigación
5IA × Ciber✨arXiv cs.AI ·

Beyond Refusal Patterns: Safe-Role Internalization for Robust and Generalizable LLM Safety Alignment

Investigadores presentan SSRFT, un marco de alineación de seguridad para LLM que internaliza un rol seguro predefinido en lugar de depender únicamente de patrones de rechazo explícitos. El método utiliza un dataset de preguntas psicométricas y prompts jailbreak limitados para entrenar modelos que sean más robustos frente a ataques y que generalicen mejor a nuevos dominios adversariales, reduciendo además el rechazo excesivo de consultas legítimas.

#Jailbreak#Seguridad LLM
5IA × CiberarXiv cs.CR ·

BARE-AI: Bit-Flip Attack Resilience in AI Hardware through Built-in Performance Monitors

BARE-AI es un marco de defensa contra ataques de inversión de bits (bit-flip attacks) en aceleradores de hardware para redes neuronales profundas. El sistema utiliza contadores de rendimiento especializados (APCs) para monitorizar estadísticas por capa durante la inferencia y detectar anomalías mediante un detector neural compacto llamado PULSE, logrando una precisión de detección de hasta el 98% en modelos de visión y del 74%-95% en modelos de lenguaje.

#IA defensiva#Seguridad LLM
6IA × CiberarXiv cs.CR ·

Secure Speculative Decoding for Large Language Models

Un estudio sistemático revela que los métodos de decodificación especulativa en LLMs, aunque aceleran la inferencia, introducen vulnerabilidades significativas a ataques de jailbreak e inyección de prompt. Los investigadores proponen SecureSD, un nuevo método que mejora la seguridad mediante criterios de verificación más estrictos en los tokens iniciales generados por el modelo draft, manteniendo la eficiencia.

#Seguridad LLM#IA ofensiva#IA defensiva
5IA × Ciber✨arXiv cs.CR ·

Semantic Behavioral Watermarking: Paraphrase-Robust and Forgery-Resistant Provenance for LLM Agents

Investigadores presentan Semantic Behavioral Watermarking (SBW), una técnica que integra marcas de agua en las decisiones de alto nivel de agentes LLM para proporcionar prueba de procedencia. El método mejora significativamente la robustez frente a parafraseado de observaciones y acciones, superando esquemas previos como AgentMark que se desincronizaban con cambios menores; además, aborda por primera vez la forgery, asegurando que un adversario no pueda falsificar trayectorias que verifiquen como propias de otra persona.

#Seguridad LLM#Investigación
5IA × CiberarXiv cs.CR ·

Case-Level Verification in Scanner-LLM Cascades: Overcoming the Alert Aggregation Bottleneck to Expand the FRR-TPR Trade-off Space

Un artículo académico propone una estrategia de verificación a nivel de caso para mejorar el uso de LLMs en la validación de alertas de seguridad de aplicaciones (DAST). El problema es que los scanners DAST generan muchos falsos positivos, mientras que los LLMs usados como verificadores tienen tasas de falsos positivos prohibitivamente altas (49.6%-85.0%). La agregación de alertas crea un cuello de botella: eliminar un falso positivo elimina también verdaderos positivos agrupados en la misma alerta.

#IA defensiva#Seguridad LLM
4IA × CiberarXiv cs.CR ·

Rethinking Visual Provenance: Detection and Watermarking Across Direct Visual Generation and LLM-Driven Code Rendering

Un documento de investigación propone un marco conceptual para detectar y marcar digitalmente (watermarking) imágenes y vídeos generados por sistemas de IA, tanto mediante modelos de generación directa como a través de código renderizado por LLM. El trabajo organiza diferentes técnicas de marcas digitales por etapa de producción y plantea diez preguntas de investigación para mejorar la verificación de procedencia visual.

#Investigación#Seguridad LLM
5IA × CiberarXiv cs.CR ·

Surviving the Router: Optimizing Skill Injections for Retrieval and Execution

Un estudio demuestra que las inyecciones de prompts en skills de agentes de IA son menos efectivas de lo que se asume: en entornos reales con múltiples skills, las inyecciones deben superar primero un router de selección, lo que reduce la tasa de éxito de ataque entre un 87-97%. Los autores presentan CORSA, una técnica optimizada que mejora significativamente la efectividad de estas inyecciones en entornos multi-skill.

#Prompt injection#Seguridad LLM
5IA × Ciber✨arXiv cs.CR ·

When Tools Lie: Reliability of Mathematical Agents Under Corrupted Tool Feedback

Un estudio sobre agentes matemáticos basados en IA revela que estos sistemas pueden ser engañados fácilmente cuando las herramientas devuelven resultados incorrectos pero plausibles. Los investigadores demuestran que sin verificación obligatoria, la corrupción de datos causa caídas drásticas en precisión (de 100% a 72,4%), pero que la verificación obligatoria puede recuperar el rendimiento completo.

#Seguridad LLM#Investigación
5IA × CiberarXiv cs.CR ·

ASCENT: First-Order Optimal Fine-Tuning with Recalibration for Safety--Utility Co-Enhancement

ASCENT es un método de fine-tuning para modelos de lenguaje que busca mejorar simultáneamente la utilidad (rendimiento en tareas) y la seguridad (resistencia a ataques adversariales). Los autores proponen un framework que alterna entre actualizaciones de tareas optimizadas y calibraciones de seguridad periódicas, basadas en análisis matemático de cómo los cambios de parámetros afectan la seguridad del modelo.

#Seguridad LLM#Investigación
5IA × Ciber✨arXiv cs.CR ·

Don't Let One Lie Survive A Hundred Truths: A Selective Bayesian Trust Estimator for Collaborative Perception

Investigadores proponen SABER, un mecanismo de confianza bayesiana selectivo para proteger la percepción colaborativa en vehículos conectados. El sistema detecta ataques dirigidos que intentan ocultar o inyectar objetos mientras reportan correctamente otros datos, mejorando significativamente la detección de ataques frente a defensas existentes.

#Investigación#IA defensiva
5IA × CiberarXiv cs.CR ·

Preparing an AI-Augmented SIEM for the EU Cyber Resilience Act: A Practitioner Case Study

Un estudio de caso documenta la preparación de un producto SIEM aumentado con IA (SEUXDR) para cumplir con la Ley de Resiliencia Cibernética de la UE (CRA), que obliga a los fabricantes de productos con elementos digitales a demostrar conformidad antes de comercializarlos. El trabajo propone una metodología reproducible de seis pasos para traducir los requisitos legales de la CRA en operaciones prácticas de gestión de vulnerabilidades, respuesta a incidentes y evaluación de conformidad.

#Regulación#IA defensiva#Herramienta