El chip «Jalapeño» de OpenAI: rendimiento de inferencia ultrarrápido a gran escala

En un movimiento que refleja la ambición de las empresas de inteligencia artificial por diseñar su propio hardware, OpenAI reveló nuevos detalles sobre su chip llamado «Jalapeño» (Jalapeño), durante la conferencia Hot Chips especializada en tecnologías de procesadores. Por primera vez, la empresa presentó resultados de referencia preliminares que ofrecen un vistazo a las capacidades de este sistema diseñado específicamente para las operaciones de inferencia (Inference) en modelos de inteligencia artificial a gran escala.

Un rendimiento que supera los estándares líderes

El chip «Jalapeño» fue sometido a pruebas mediante el índice InferenceX de la empresa SemiAnalysis, y los resultados mostraron una superioridad notable en dos métricas principales en comparación con los procesadores de inferencia más avanzados disponibles actualmente en el mercado:

• Un mayor número de tokens (Tokens) por usuario, lo que significa respuestas más rápidas.
• Mayor productividad por kilovatio, es decir, mayor eficiencia en el consumo de energía.

Richard Ho, responsable del departamento de hardware en OpenAI, explicó durante una llamada de prensa que la conclusión principal consiste en «un avance muy significativo en el rendimiento en comparación con lo más reciente disponible». Añadió que el chip es capaz de realizar una mayor cantidad de tareas de inteligencia artificial por unidad de energía, ofreciendo al mismo tiempo respuestas más rápidas, lo que lo hace eficaz para atender a grandes números de clientes con un tiempo de respuesta muy bajo.

Una comparación que requiere una lectura cuidadosa

Cabe señalar que esta comparación se realizó frente al sistema Blackwell de la empresa Nvidia. Sin embargo, esta superioridad debe situarse en su contexto temporal correcto; ya que el chip no llegará a la etapa de despliegue completo antes de finales de 2026 «y en cantidades muy limitadas» según la estimación de Ho, con un despliegue más amplio que comenzará durante el año 2027. Esto significa que la competencia podría haber recorrido un gran camino para entonces, lo que convierte la comparación actual en un indicador temprano más que en un veredicto definitivo.

Una alianza estratégica con Broadcom

El proyecto «Jalapeño» se anunció por primera vez el pasado octubre, y se desarrolló en estrecha colaboración entre OpenAI y la empresa Broadcom. Lo llamativo es que los propios modelos de OpenAI contribuyeron al proceso de desarrollo, en un ejemplo práctico del uso de la inteligencia artificial para diseñar el hardware que la ejecutará posteriormente.

La empresa planea convertir «Jalapeño» en una plataforma multigeneracional, de modo que los productos de inteligencia artificial, los modelos, los chips y las unidades de memoria se desarrollen todos de forma integrada y coordinada, lo que se conoce como el enfoque de «pila completa» (Full-stack).

Abordar los cuellos de botella del proceso de inferencia

Este enfoque integrado permitió a OpenAI abordar etapas específicas del proceso de inferencia que a menudo causan lentitud o fricción en el procesamiento. La empresa se centró específicamente en reducir el retraso en dos etapas críticas:

• La etapa de precarga (Prefill).
• La etapa de comunicación y transferencia de datos entre los componentes del sistema.

La empresa señaló en una publicación oficial que el chip fue diseñado para reducir el movimiento de datos y los retrasos de comunicación al mínimo posible. Esto significa que el estado del modelo, incluida la memoria caché conocida como KV cache utilizada durante la generación de la respuesta, puede colocarse y mantenerse localmente, mientras el sistema activa la combinación adecuada de capacidades de computación, memoria y redes para cada etapa de la inferencia por separado.

¿Qué significa esto para el futuro de la inteligencia artificial?

El desarrollo de «Jalapeño» refleja una tendencia acelerada entre las grandes empresas de inteligencia artificial hacia la posesión de su propio hardware, con el objetivo de reducir la dependencia de proveedores externos y disminuir los enormes costos operativos asociados con la ejecución de modelos grandes. Y aunque las cifras anunciadas siguen siendo resultados tempranos que necesitan verificarse en entornos de funcionamiento reales, dibujan una imagen clara de la dirección de la industria: combinar el software y el hardware en un diseño unificado que sirva a un único propósito con máxima eficiencia. La pregunta abierta sigue siendo hasta qué punto esta superioridad podrá resistir los avances de los competidores hasta la fecha del despliegue completo en 2027.

✦ بقلم فريق دروب أيديا