RADNPO: Reference-free Adaptive Negative Preference Optimization for LLM Unlearning

arXiv cs.CR · 29 sept, 06:00

RADNPO es un método de investigación para el "machine unlearning" en modelos de lenguaje grandes, que busca eliminar información sensible, privada o protegida por derechos de autor memorizada durante el entrenamiento. El enfoque mejora técnicas anteriores de optimización de preferencias al controlar mejor cómo se redistribuye la probabilidad después de suprimir el acceso a datos objetivo, adaptando dinámicamente la intensidad del olvido según la confianza del modelo.