Decision Hijacking: Prompt Injection Attacks on Jev's Typed Probabilistic Decisions

arXiv cs.CR · 25 sept, 06:00

Investigadores analizan ataques de prompt injection contra Jev, un modelo de decisiones probabilísticas no generativo con salidas definidas por esquema, usando 510 casos reconstruidos. Los contenidos maliciosos modifican las probabilidades de acción pero rara vez logran que el modelo seleccione el objetivo del atacante, aunque los ataques adaptativos que usan retroalimentación de puntuación duplican la probabilidad máxima alcanzada durante la optimización.