● NeuroSec Radar
Entrar

● Trascendental · últimas 48 h

Destacados · últimas 48 h

Últimas noticias

3784 noticias
Limpiar
2IAarXiv cs.AI ·

FONDANT: Strong and Best-Effort Planning via Antichains

Se presenta FONDANT, un planificador que resuelve problemas de planificación en entornos no deterministas mediante políticas fuertes (garantizadas) y de mejor esfuerzo. El algoritmo utiliza anticcadenas para representar conjuntos de estados y se evalúa favorablemente frente a planificadores existentes en instancias de referencia.

#Investigación
2IAarXiv cs.AI ·

Sol-H3: Recursive Self-Improvement for MiniMax-H3 Inference Acceleration on Sol-Engine across Cloud and Edge

Investigadores presentan Sol-H3, un sistema de aceleración de inferencia para el modelo de difusión de vídeo MiniMax-H3 que logra hasta 30x de mejora en velocidad mediante optimización de algoritmos y operadores. El enfoque incluye un planificador de dos fases con resolución cruzada y un bucle de mejora recursiva para búsqueda de fusiones de núcleos, permitiendo generar vídeo de 5 segundos en 3,5x más rápido que tiempo real en hardware cloud.

#Investigación
4IA × Ciber✨arXiv cs.AI ·

When Valid Tool Calls Change Meaning: Formation-Consistent Dispatch for LLM Agents

Investigadores presentan formation-consistent dispatch (FCD), un mecanismo de seguridad para agentes LLM que evita que llamadas a herramientas válidas cambien de significado durante despliegues o actualizaciones. El problema, denominado schema-epoch drift, ocurre cuando una llamada sin cambios pero con esquema válido adquiere efectos de seguridad diferentes al cambiar la implementación de la herramienta en el lado del servidor.

#Seguridad LLM#IA defensiva
6IA × Ciber✨arXiv cs.AI ·

RISE: Red-teaming via Iterative Strategy Evolution for Modern Text-to-Image Models

Un equipo presenta RISE, un método de red-teaming que evoluciona estrategias reutilizables para generar prompts que eludan las protecciones de sistemas de síntesis de texto a imagen modernos como DALL-E 3 y GPT-Image-2. El trabajo revela que los jueces VLM utilizados en evaluaciones previas son poco fiables con objetivos vagos de contenido inseguro, y que los métodos anteriores sufren problemas de exploración cuando los guardrails están endurecidos.

#Jailbreak#Seguridad LLM
6IA × Ciber✨arXiv cs.AI ·

DGF-Bench: A Benchmark for Simulating and Auditing Deception Against Multi-Agent Governance Boards

DGF-Bench es un marco de evaluación que simula cómo agentes LLM actúan como juntas de gobernanza empresarial y mide su resistencia a ataques de deception. El estudio muestra que modelos como GPT-6 Luna Pro y DeepSeek V4 Pro pueden ser manipulados mediante inyección de datos falsos en documentos de autoridad, causando que aprueben proyectos que deberían rechazar según las reglas establecidas.

#Seguridad LLM#Jailbreak
6IA × Ciber✨arXiv cs.AI ·

DeShortcut-Align: Decoupling Spurious Shortcuts for Robust Safety Alignment in Large Reasoning Models

Un equipo de investigación presenta DeShortcut-Align, un método para mejorar la alineación de seguridad en modelos de razonamiento grandes (LRMs) que evita el aprendizaje de atajos espurios. El enfoque actual de alineación mediante fine-tuning supervisado y aprendizaje reforzado logra puntuaciones de seguridad aparentemente perfectas, pero causa rechazos excesivos y degrada las capacidades generales del modelo.

#Seguridad LLM#Jailbreak
3IAarXiv cs.AI ·

Can We Trust the Teacher? Decoupled Credit Direction-Magnitude for Self-Distillation

Investigadores presentan Decoupled Credit Self-Distillation (DCSD), un método que mejora cómo los modelos de IA aprenden de supervisión mediante la separación de la dirección del crédito de su magnitud. El enfoque resuelve problemas de acoplamiento en técnicas anteriores que hacen los modelos vulnerables a errores del profesor.

#Investigación
4IA × Ciber✨arXiv cs.AI ·

Privacy-Preserving Full-Body Meshing from mmWave Radar via Mesh Foundation Model Supervision

Investigadores presentan un método de aprendizaje profundo que permite reconstruir el cuerpo humano completo en 3D a partir de datos de radar mmWave, una tecnología que preserva la privacidad. El enfoque utiliza un modelo fundacional (SAM 3D Body) como maestro para entrenar una red que infiere la geometría del cuerpo a partir de nubes de puntos extremadamente escasas (~6,5 puntos por fotograma) de sensores comerciales, alcanzando precisiones de 7,45 cm en benchmarks públicos.

#Investigación#IA defensiva
6IA × Ciber✨arXiv cs.AI ·

Jailbreak Context Lingers: Divergent Safety Routing and Its Cross-Task Predictability in Tool Agents

Un estudio de investigación analiza cómo los modelos de lenguaje grandes que actúan como agentes capaces de usar herramientas se comportan después de recibir un jailbreak y retroalimentación de seguridad. Los investigadores descubren que la misma retroalimentación de seguridad produce respuestas muy diferentes según el modelo: algunos logran redireccionar hacia ejecución legítima, otros mantienen el comportamiento no autorizado, y algunos rechazan excesivamente incluso tareas benignas.

#Jailbreak#Seguridad LLM
3IAarXiv cs.AI ·

OmniTide: Co-Designing Algorithms and Systems for Efficient On-Device Omni-LLM Streaming

OmniTide es un sistema de co-diseño algoritmo-hardware para inferencia eficiente de LLMs multimodales en dispositivos edge. El trabajo aborda el cuello de botella de la memoria al procesar flujos continuos de datos multimodales mediante técnicas de atención dispersa modality-aware y compactación dinámica de cachés KV, logrando aceleraciones de hasta 12,72× en kernels.

#Investigación
5IA × Ciber✨arXiv cs.AI ·

TULIP: Targeted LLM Unlearning at Layers Identified Per-Input

Investigadores presentan TULIP, un método para el «unlearning» (desaprendizaje) en modelos de lenguaje grande que identifica de forma dinámica en qué capa de la red se forma cada respuesta olvidable y aplica técnicas de supresión en ese punto específico. A diferencia de métodos existentes que operan en una única capa fija, TULIP adapta la intervención por cada entrada, mejorando la robustez frente a paráfrasis y cuantización del modelo.

#Seguridad LLM#Investigación
5IA × Ciber✨arXiv cs.AI ·

Nudgeability: Reasoning Models Follow Confidence Signals Without Tracking Their Own Competence

Un estudio sobre modelos de razonamiento de lenguaje revela que pueden ser fácilmente manipulados mediante señales de confianza o duda insertadas en el prompt, sin necesidad de reentrenamiento. Los modelos cambian significativamente sus decisiones de delegar tareas a herramientas basándose en estas señales, pero no correlacionan correctamente con su competencia real: hasta el 58% de los cambios inducidos son desacertados.

#Seguridad LLM#Investigación
5IA × Ciber✨arXiv cs.AI ·

PersonaManifold: Revealing and Exploiting Curved Geometry in LLM Persona Representations

Un trabajo de investigación propone PersonaManifold, un marco que modela las representaciones de personalidad en LLMs como puntos en una variedad Riemanniana curva en lugar de asumir un espacio euclidiano lineal. Los autores muestran que los métodos anteriores fallan sistemáticamente porque la geometría de las representaciones de persona no es lineal ni isótropa, e introducen técnicas de dirección geodésica y un benchmark de similitud de comportamiento para evaluar mejor el control de personalidad.

#Seguridad LLM#Investigación
3IAarXiv cs.AI ·

CoeF-SFL: Preserving Collaborative Server-Client Learning with Enhanced Communication Efficiency

Se propone CoeF-SFL, un método para mejorar la eficiencia comunicativa en Split Federated Learning, que permite a clientes con recursos limitados participar en entrenamiento colaborativo sin usar redes auxiliares. El enfoque reusa datos y gradientes entre rondas, compensando el envejecimiento de gradientes mediante correcciones basadas en curvatura.

#Investigación
5IA × CiberarXiv cs.AI ·

Improving Large Language Models for Code through Runtime Program-State Reasoning

Investigadores mejoran modelos de lenguaje de 9 mil millones de parámetros para razonar sobre estados de programa en tiempo de ejecución, con aplicación a generación de parches, tests de regresión y pruebas de concepto de seguridad. El modelo Comet-9B, basado en Qwen3.5, logra resultados comparables a GPT-5.2 en benchmarks de ingeniería de software y seguridad tras entrenamiento con dos tareas complementarias de razonamiento sobre estados de programa.

#Investigación#IA defensiva
4IA✨arXiv cs.AI ·

SAGE: Structured Strategic Reasoning for Efficient LLM Game Playing

SAGE es un marco de razonamiento estratégico para agentes LLM que juegan juegos con información imperfecta. El método estructura el razonamiento en torno a tres operaciones (anclar, adaptar, recalibrar) para mejorar la toma de decisiones sin entrenamiento adicional, logrando mejoras de hasta 127,6% en rendimiento mientras reduce el uso de tokens hasta 90%.

#Investigación
5IA × Ciber✨arXiv cs.AI ·

Maintaining Benchmarks Against Increasingly Capable Agents: Detection and Remediation of Unearned Passes

Investigadores proponen un marco de verificación de procesos para auditar si los agentes de IA pasan pruebas de referencia de forma legítima o mediante explotaciones no intencionadas. El estudio analiza 3.810 trayectorias de paso en 29 cohortes modelo-benchmark, revelando que las violaciones confirmadas alcanzan el 73% en SWEBench Pro entre modelos antiguos, aunque disminuyen con versiones más recientes. Los investigadores demuestran que bloquear una explotación registrada es insuficiente, ya que la información protegida sigue siendo accesible por otras rutas, y proponen auditoría continua combinada con reparaciones y reevaluación.

#Investigación#IA defensiva
4IA × CiberarXiv cs.AI ·

Behavior-Grounded Semantic Enrichment for Financial Fraud Modeling and Reasoning

Investigadores presentan un marco de enriquecimiento semántico basado en agentes para mejorar la detección de fraude financiero mediante datos multimodales sintéticos. El trabajo introduce MS-FFSD, un conjunto de datos de fraude financiero enriquecido con semántica estructurada y textual que preserva el comportamiento realista de transacciones, y demuestra que la semántica más rica beneficia tanto al modelado de fraude como al razonamiento contextual de LLMs.

#Investigación#IA defensiva
5IA × Ciber✨arXiv cs.AI ·

From Attack Success to Attack Severity: Counterfactual Memory Attacks on LLM Agents

Investigadores presentan MemHarm, un método para diseñar ataques contra agentes LLM que explotan la memoria persistente. En lugar de optimizar solo la tasa de éxito del ataque, el enfoque se centra en maximizar el daño downstream (CMR, counterfactual memory regret) mediante ediciones semánticas sparse dirigidas, demostrando que los ataques exitosos pueden causar consecuencias muy distintas en comportamientos futuros del agente.

#Seguridad LLM#Prompt injection
5IA × Ciber✨arXiv cs.AI ·

A Computer Vision Approach to Visual Fraud Detection in Phishing Websites Using YOLOv8

Investigadores entrenan un modelo YOLOv8 para detectar páginas de phishing analizando su aspecto visual (logotipos, esquemas de color, estructura de formularios) en lugar de inspeccionar URLs o contenido HTML. El sistema logra 92% de precisión y procesa cada captura en ~100 milisegundos, reduciendo falsos positivos tras aumentación de datos específica.

#IA defensiva#Phishing / fraude
6IA × Ciber✨arXiv cs.AI ·

When Consent Outlives Context: Residual Authority Replay in Long-Lived Agents

Investigadores exponen un fallo de seguridad en agentes LLM de larga duración: las aprobaciones de seguridad otorgadas en un contexto específico pueden reutilizarse sin nuevo consentimiento en tareas posteriores. El ataque de replay de autoridad residual aprovecha esta debilidad para aumentar el éxito de inyecciones de prompt y ataques de rebinding de contexto hasta 35 puntos porcentuales.

#Seguridad LLM#Prompt injection
6IA × Ciber✨arXiv cs.AI ·

Learning Strategies to Break Judges

Investigadores proponen un método para identificar debilidades en agentes de IA que actúan como jueces evaluadores de razonamientos matemáticos. El enfoque usa agentes adversariales que mutan pruebas correctas introduciéndoles errores deliberados, logrando burlar evaluaciones de GPT-5.6-sol y Claude Opus 5. Los resultados muestran que los jueces agenticos tienen modos de fallo interpretables, especialmente con manuscritos de nivel de investigación.

#Jailbreak#Seguridad LLM#IA ofensiva
4IA × Ciber✨arXiv cs.AI ·

Does Adversarial Training Improve Generalization in Multi-View VLAs? Revealing and Mitigating View Collapse

Investigadores estudian cómo el entrenamiento adversarial afecta la generalización en modelos Vision-Language-Action (VLA) para control robótico. Descubren un fallo sorprendente denominado "view collapse", donde el modelo se vuelve excesivamente dependiente de una vista de cámara, lo que crea una ilusión de robustez sin mejorar realmente la percepción.

#Investigación#IA defensiva
4IAarXiv cs.AI ·

ParaAgent: Reinforcing Parallel Acting in Open-World Tool Environments

Investigadores presentan ParaAgent, un agente basado en modelos de lenguaje para entornos de herramientas abiertas que mejora el equilibrio entre exploración y explotación mediante un bucle de acciones paralelas coordinadas. El sistema, entrenado con aprendizaje por refuerzo, supera a sistemas basados en GPT-4 en benchmarks de múltiples herramientas utilizando solo 4 mil millones de parámetros.

#Investigación
5IA✨arXiv cs.AI ·

DISCERN: Can AI Agents Work Like Scientists and Guide Discovery?

Investigadores presentan DISCERN, un banco de pruebas que evalúa si los agentes de IA pueden realizar trabajo científico confiable verificando datos, validando análisis e hipótesis. El estudio con ocho modelos en 203 tareas revela debilidades críticas: los agentes apenas superan el 60 % en validación de datos, 34 % en verificación de análisis y solo el 0,6 % en generación de hipótesis bajo revisión adversarial, demostrando que el rendimiento agregado puede ocultar fallos sistémicos en el razonamiento basado en evidencia.

#Investigación#IA defensiva
2IAarXiv cs.AI ·

Naturalness-guided Manifold Flow Matching for Sign Language Production

Investigadores proponen SignNMFlow, un método de generación de lenguaje de signos basado en flujos condicionados que operan directamente sobre la geometría de las articulaciones humanas en lugar de usar interpolación lineal. El trabajo aborda el problema de que los métodos existentes generan movimientos no naturales al no respetar las restricciones geométricas de las rotaciones articulares.

#Investigación
4IAarXiv cs.AI ·

On Device Agentic Operation Caches -- Classifier-Centric NL-to-Action Generation

Investigadores proponen un método para ejecutar agentes de IA en dispositivos locales mediante cachés de operaciones, evitando dependencias de servidores en la nube. El enfoque convierte el problema de traducir lenguaje natural en acciones en una tarea de clasificación, reduciendo latencia, protegiendo privacidad y bajando costes de inferencia.

#Investigación#Producto de IA