Dynamic Deep Prompt Optimization for Defending Against Jailbreak Attacks on LLMs

arXiv cs.CR · 23 sept, 06:00

Investigadores proponen Dynamic Deep Prompt Optimization (DDPO), una defensa contra ataques de jailbreak en LLMs que genera dinámicamente embeddings defensivos mediante capas intermedias del modelo, sin modificar sus pesos. El método supera a optimizaciones estáticas de prompts, adaptándose mejor a ataques variados y distinguiendo entre solicitudes legítimas ambiguas y requests genuinamente peligrosas.