Hidden Risks of Jev: An Empirical Study of Security, Privacy, and Dual Use

arXiv cs.CR · 6 oct, 06:00

Un estudio empírico examina los riesgos de seguridad y privacidad de Jev, un modelo de lenguaje que convierte preguntas en respuestas tipadas para servir como capa de decisión en aplicaciones. Los investigadores demuestran vulnerabilidades a inyección de prompts, envenenamiento de datos de entrenamiento, inferencia de información privada y uso dual para tareas defensivas y maliciosas.