OpenAI lanza su «Decisions API» para competir con los modelos de decisión rápida

El panorama de la inteligencia artificial está viviendo un giro notable: se aleja del foco exclusivo en los grandes modelos de lenguaje para dirigirse hacia una nueva categoría, más especializada y veloz, conocida como «modelos de decisión» (Decision Models). En un movimiento que confirma la seriedad de este cambio, OpenAI ha anunciado la apertura de la interfaz de programación de aplicaciones de su modelo de decisiones (Decisions API) a todos sus clientes, después de que estuviera limitada a un grupo de socios en fase de prueba. El paso coloca a la compañía en competencia directa con actores emergentes que han logrado construir un enorme valor de mercado a partir de una idea sencilla: no toda tarea necesita un modelo de lenguaje completo.

¿Qué son los modelos de decisión y por qué han surgido?

Los modelos de decisión pueden describirse como «clasificadores superlativos». Reciben un conjunto de opciones definidas, eligen la más adecuada en una fracción de segundo y acompañan su elección con un grado de confianza que expresa su nivel de certeza. Este modo de funcionamiento, que algunos comparan con el pensamiento rápido e intuitivo o lo que se denomina el «sistema uno», difiere sustancialmente de los modelos de lenguaje, que generan texto abierto y consumen mucho más tiempo y recursos.

Los desarrolladores descubrieron pronto que un gran número de flujos de trabajo dentro de sus aplicaciones no necesita realmente generar texto, sino tomar una decisión entre alternativas: ¿este correo es un intento de phishing? ¿Qué ruta debe seguir la solicitud del usuario? ¿Este caso requiere intervención humana? Sustituir el modelo de lenguaje por un modelo de decisión en estos puntos supone una reducción drástica del coste y del tiempo de respuesta sin pérdida en la calidad del resultado.

El enfoque de OpenAI: reajustar en lugar de construir desde cero

Según Nikunj Handa, responsable de productos de interfaces de programación en OpenAI, el equipo no construyó un modelo calibrado específicamente para tomar decisiones, sino que partió de un modelo existente y lo reconfiguró para acelerar la inferencia y reducir el coste. Handa señala que la mayor ganancia se produjo en el tiempo: los tiempos de respuesta bajaron de un rango de entre uno y tres segundos a entre 100 y 180 milisegundos.

La versión pública no se ha limitado a mejorar la velocidad; OpenAI ha añadido además nuevas capacidades que incluyen:

• Compatibilidad con contenidos de audio y visuales, además del texto.
• Distribución geográfica de los recursos de inferencia para reducir la latencia en distintas regiones del mundo.
• Mayor flexibilidad en el manejo de imágenes como entrada, con la intención de admitirlas también como salida.

Resultados sobre el terreno de las primeras pruebas

Las pruebas iniciales con empresas de los sectores de gestión documental, monitorización técnica, pagos y enseñanza de idiomas apuntaron a una mejora palpable en las tasas de procesamiento. Uno de los ejemplos más destacados vino de una plataforma de aprendizaje de idiomas con inteligencia artificial, que consiguió reducir el intervalo entre acciones de unos 1,4 segundos a apenas 0,13 segundos: una diferencia que convierte la conversación automatizada de una experiencia entrecortada en una interacción que se aproxima a lo natural. OpenAI también utilizó el mismo modelo para mejorar la velocidad de respuesta de su asistente de voz.

Competencia feroz y criterios inestables

El problema de fondo en este mercado emergente es que la definición de «buen modelo de decisión» sigue siendo difusa. El equilibrio requerido entre inteligencia, coste, precisión de la calibración y velocidad varía de un caso de uso a otro, lo que hace que cualquier clasificación general sea discutible. Por ello, algunos fundadores del sector recomiendan ignorar los índices de referencia publicados y probar los modelos en el entorno de trabajo real, aunque las propias empresas sigan difundiendo sus propias clasificaciones.

Los indicadores públicos especializados en medir el rendimiento de los modelos de «sistema uno» se inclinan actualmente a favor de modelos lanzados recientemente por competidores, mientras que la posición del modelo de OpenAI oscila en los puestos intermedios según el índice utilizado. En contraste, los modelos líderes de esta categoría siguen siendo los más utilizados en la práctica a través de las plataformas de enrutamiento de solicitudes, una métrica práctica que quizá resulte más reveladora que las tablas teóricas.

Una de las pruebas más curiosas y, al mismo tiempo, más realistas consiste en obligar a los modelos de decisión a jugar al clásico «Pac-Man». Los desarrolladores de la prueba justifican su elección argumentando que el juego representa un flujo continuo de decisiones rápidas y de alto riesgo: en cada intersección, el modelo debe determinar su trayectoria en unos pocos cientos de milisegundos.

¿Hacia dónde se dirige este camino?

La ambición declarada de OpenAI es alcanzar un tiempo de respuesta cercano a los 60 milisegundos, un umbral que abre la puerta a invocar el modelo en cada fotograma de un vídeo, es decir, un análisis visual instantáneo y completo. Y si eso se logra mientras los precios siguen bajando, estaremos ante una aplicación directa de una lógica económica conocida: cuanto más eficiente es el uso de un recurso, mayor es su difusión y más amplios sus usos.

La conclusión es que los modelos de decisión no sustituyen a los modelos de lenguaje, sino que constituyen una capa complementaria que redistribuye las cargas con inteligencia: las tareas abiertas para los modelos grandes y las decisiones repetitivas y sensibles al tiempo para modelos ligeros y rápidos. Para las empresas que desarrollan productos basados en inteligencia artificial, revisar los flujos de trabajo actuales en busca de puntos que puedan sustituirse por un modelo de decisión podría ser la vía más rápida para reducir la factura y mejorar la experiencia del usuario al mismo tiempo.

✦ بقلم فريق دروب أيديا