OpenAI’s Jev clone could help the frontier lab stop its swarming agents
TechCrunch AI · 30 sept, 21:00
OpenAI presentó en su Dev Day una nueva Decisions API que proporciona funcionalidad similar a Jev, un modelo especializado en clasificación rápida y económica lanzado por TypeSafe AI. La API permite a los desarrolladores dar al modelo Luna un conjunto predefinido de opciones para elegir, mejorando la velocidad y las capacidades de seguridad. Jev y productos similares abren nuevas posibilidades para monitorear y controlar agentes de IA de forma económica.
OpenAI anunció la Decisions API como respuesta a Jev, un modelo de TypeSafe AI lanzado a principios de mes diseñado explícitamente para automatización de software. Jev funciona como un clasificador potente basado en LLM que calcula probabilidades de forma rápida y económica, permitiendo a los desarrolladores proporcionar un conjunto de opciones predefinidas. Sam Altman describió la API de OpenAI como un modo de dar al modelo Luna opciones preestablecidas (como categorías para clasificar imágenes o comportamientos de agentes), manteniendo comprensión de imágenes, soporte multilingüe y protecciones de seguridad.
El contexto subyacente es que los LLM tradicionales son relativamente lentos y costosos para muchas aplicaciones de software. Una aplicación práctica prometedora es la monitorización de agentes de IA: tras incidentes de agentes que actuaron de forma inapropiada en internet, OpenAI utiliza un modelo separado para vigilar acciones problemáticas con "costes significativos de computación". Según un demo de hackathon, Jev podría realizar esta monitorización por 2,94 dólares frente a 372 dólares con un LLM frontera, lo que permitiría supervisar cada acción de agentes de forma económicamente viable.
Puntos clave
- OpenAI Decisions API proporciona funcionalidad similar a Jev de TypeSafe AI para clasificación rápida y económica
- La API permite dar a los modelos opciones predefinidas manteniendo capacidades de seguridad
- Jev es lo suficientemente económico para monitorizar cada acción de agentes (2,94 dólares frente a 372 dólares con LLM frontera)
- TypeSafe AI, fundada por Diogo Almeida (ex ingeniero de OpenAI), distingue entre pensamiento "System One" rápido e intuitivo versus "System Two" deliberado