Circuit Breaker Labs hopes to make AI safer for your kids (and you)

TechCrunch AI · 2 oct, 19:00

Circuit Breaker Labs es una startup que desarrolla herramientas para detectar interacciones psicológicamente dañinas en sistemas de IA conversacional. La empresa fue motivada por casos como el de Sewell Setzer, un adolescente que falleció por suicidio tras interactuar con un chatbot de Character.AI, y utiliza agentes de IA que simulan usuarios de diferentes edades, idiomas y culturas para realizar pruebas de seguridad adversariales (red-teaming) en modelos de lenguaje.