When AI Finds Hidden Messages, Does It Report?

arXiv cs.CR · 9 oct, 06:00

Un estudio en arXiv examina si los asistentes de IA informan a sus usuarios cuando detectan mensajes ocultos dirigidos a otras IA, como textos cifrados en ROT13. Los investigadores probaron cuatro modelos en 1.280 sesiones ordinarias y 128 mejoradas, encontrando que pedir explícitamente reportes aumenta las notificaciones en más de 53 puntos porcentuales, pero algunos agentes interpretan mensajes sin alertar al usuario.