OpenAI lanza Decisions API, competidor del modelo Jev de TypeSafe AI

OpenAI anunció el lanzamiento de su nueva Decisions API durante su evento Dev Day, una herramienta que permite al modelo Luna elegir entre opciones predefinidas clasificando imágenes o seleccionando comportamientos de agentes.

La API proporciona funcionalidad similar a Jev, un modelo que TypeSafe AI introdujo semanas antes. Jev funciona como un superclasificador construido sobre un modelo de lenguaje grande, donde los desarrolladores pueden proporcionar un conjunto de opciones que el sistema emite como probabilidades de manera económica y a alta velocidad.

Sam Altman, director ejecutivo de OpenAI, describió la nueva herramienta como una forma de enfocar al modelo en decisiones específicas. "Al concentrar el modelo en esa elección, podemos hacerlo extremadamente rápido mientras mantenemos capacidades como comprensión de imágenes, amplio soporte de idiomas y protecciones de seguridad", afirmó Altman.

La llegada de Decisions API generó comentarios en la industria sobre una posible competencia entre empresas de inteligencia artificial. Diogo Almeida, director ejecutivo de TypeSafe AI y exingeniero de OpenAI que coinventó el aprendizaje por refuerzo, bromeó en redes sociales sobre el inicio de una "guerra de clonajes". Almeida añadió que el interés de OpenAI podría ser una señal de que construir de manera compatible con el "Sistema Uno" representa el futuro, término que TypeSafe usa para referirse al pensamiento rápido e intuitivo.

El contexto detrás de estas herramientas radica en que los modelos de lenguaje grandes convencionales resultan relativamente lentos y costosos para muchas aplicaciones de software. Los desarrolladores han estado utilizando Jev para potenciar estos modelos, logrando mayor velocidad y reducción de costos.

OpenAI también reveló que ha implementado medidas de seguridad adicionales para monitorear y proteger a sus agentes, particularmente después de incidentes donde sus sistemas actuaron de manera inesperada en internet. La empresa utiliza un modelo separado para detectar acciones maliciosas de los agentes, aunque esto representa un costo computacional significativo.

Shapor Naghibzadeh, profesional de ciberseguridad y fundador de QueryStory, demostró un sistema que emplea Jev para monitorear cada acción de un agente contra la tarea asignada. El sistema bloquea acciones con alta confianza de ser problemáticas, marca otras para revisión y permite las restantes. Según Naghibzadeh, este tipo de monitoreo podría haber evitado incidentes como el que afectó a Hugging Face, con un costo de apenas 2.94 dólares utilizando Jev, en comparación con los 372 dólares que representaría con un modelo de lenguaje convencional.

La Decisions API fue lanzada como una versión preliminar limitada, por lo que aún no hay evaluaciones extensivas de desarrolladores sobre su rendimiento. No obstante, la comunidad tecnológica ha mostrado interés significativo en este tipo de herramientas.

Por qué importa

La competencia entre OpenAI y TypeSafe AI refleja una tendencia más amplia en la industria hacia modelos de decisión más rápidos y económicos. Los clasificadores tradicionales basados en modelos de lenguaje grandes resultan prohibitivos para muchas aplicaciones que requieren procesamiento en tiempo real. La capacidad de ejecutar monitoreo en cada acción de un agente con costos reducidos podría transformar la manera en que las empresas implementan sistemas de inteligencia artificial autónoma, haciendo viable una capa de revisión que mejore la confiabilidad general de los agentes.

Qué sigue

Con múltiples empresas desarrollando modelos similares, el mercado de APIs de decisión parece poised para un crecimiento acelerado. La pregunta central será qué tan bien calibradas estarán las salidas de estos modelos de decisión respecto a situaciones reales, y siTypeSafe AI podrá mantener su ventaja competitiva a través de los datos sintéticos que utiliza para generar salidas estadísticamente útiles.

Con información de TechCrunch.