Penumbra: Sample-Efficient Adversarial Search for Regulatory Obligations

arXiv cs.AI · 6 oct, 06:00

Penumbra es un método de búsqueda adversarial que identifica de manera eficiente dónde un sistema de IA viola obligaciones regulatorias en finanzas, sanidad y derecho. El algoritmo localiza pares de respuestas que están al borde del incumplimiento, diferenciándose solo en pocas palabras, lo que permite probar agentes antes de desplegarlos en sectores regulados.