Computational Reflective Equilibrium for Agentic AI: A Rawlsian Alignment Scaffold for Governance

arXiv cs.AI · 14 oct, 06:00

Investigadores proponen un marco de equilibrio reflexivo computacional (ARE) basado en la teoría de John Rawls para alinear sistemas de IA agentiva con principios éticos y de gobernanza. El enfoque vincula instrucciones, políticas, evidencia y acciones del agente a través de relaciones de apoyo y ataque, con protecciones contra prompt injection y mandatos de due diligence.