Hace dos años, Sam Altman, CEO de OpenAI, viajó a Asia junto a Richard Ho, vicepresidente de hardware de la compañía, y un grupo de investigadores para reunirse con los principales fabricantes de semiconductores del mundo. Durante los encuentros con TSMC, Samsung y SK Hynix, el ejecutivo advirtió que la demanda de capacidad de procesamiento para inteligencia artificial seguiría creciendo y les pidió que aceleraran la construcción de nuevas fábricas.
"Miren, en unos años vamos a necesitar mucho más silicio. Por favor, empiecen a construir más fábricas", recordó Ho sobre el mensaje que Altman transmitió a los fabricantes durante esas reuniones.
Las compañías ampliaron su capacidad de producción, pero el esfuerzo fue insuficiente para cubrir las necesidades de OpenAI. Esa limitación fue uno de los motivos que llevaron a la empresa a desarrollar su propio hardware. Para encabezar el proyecto, Altman convocó a Ho, quien comenzó a formar un equipo desde cero.
El resultado fue Jalapeño, el primer chip de inteligencia artificial desarrollado por OpenAI, diseñado para ejecutar modelos que ya fueron entrenados. La compañía anunció en junio que había completado su desarrollo en apenas nueve meses y que planeaba comenzar a instalarlo en sus centros de datos hacia finales de 2026.
El ejecutivo, que anteriormente trabajó en Google y participó en el diseño de su primer procesador TPU para inteligencia artificial, explicó cómo surgió el proyecto, por qué eligieron a Broadcom como socio tecnológico y de qué manera el nuevo hardware podría modificar la infraestructura de OpenAI.
Por qué OpenAI decidió desarrollar sus propios chips
La principal motivación detrás del proyecto es conseguir un mayor control sobre la infraestructura tecnológica de la compañía. Hasta ahora, OpenAI dependió principalmente de procesadores gráficos, conocidos como GPU, para ejecutar sus modelos de inteligencia artificial.
"Si controlamos nuestros centros de datos, los chips, los sistemas que los integran, el modelo y el software, podemos ser más eficientes", explicó Ho. La meta es aprovechar mejor cada componente para ofrecer una mayor capacidad de procesamiento por cada vatio de electricidad consumido.
La decisión, sin embargo, no fue inmediata. En las primeras conversaciones con Altman, el equipo evaluó si fabricantes como Nvidia, AMD o Intel podían desarrollar procesadores capaces de satisfacer las necesidades específicas de OpenAI. Estas compañías trabajan para un mercado mucho más amplio y deben mantener la compatibilidad con tecnologías anteriores. Eso dificultaba conseguir exactamente el hardware que OpenAI necesitaba. Finalmente, concluyeron que partir de un diseño nuevo permitiría alcanzar una mayor eficiencia.
"Fue entonces cuando Sam básicamente nos dio luz verde para empezar", recordó. El proyecto comenzó a tomar forma a principios de 2024, con la idea de reunir un equipo reducido de especialistas y utilizar los propios modelos de inteligencia artificial de OpenAI para acelerar el trabajo.
En sus primeros meses, las herramientas de IA todavía no ofrecían grandes ventajas para diseñar hardware. Sin embargo, sus capacidades mejoraron durante el desarrollo y terminaron ayudando al equipo a reducir los tiempos. Actualmente, el área cuenta con unas 100 personas, aunque durante buena parte del proyecto trabajaron alrededor de 70. La cifra es considerablemente menor que la de los equipos utilizados habitualmente por grandes fabricantes como Nvidia o Intel, que pueden reunir a 500 especialistas o más.
Además, el grupo no se dedica exclusivamente al diseño de chips. También trabaja en la alimentación eléctrica, los sistemas de refrigeración, las placas electrónicas, la infraestructura de servidores y el software necesario para coordinar todos estos componentes.
El nombre Jalapeño también tiene una historia particular. Ho contó que el equipo se llama internamente Hot Peppers, una referencia a su afición por las salsas picantes disponibles en la cafetería de la oficina. Por eso, cuando tuvieron que elegir un nombre para el procesador, optaron por uno relacionado con esa costumbre.
Cómo funciona Jalapeño y por qué eligieron a Broadcom
A diferencia de otros procesadores diseñados para tareas muy específicas, Jalapeño busca combinar eficiencia con flexibilidad. El chip está diseñado para ejecutar distintos modelos de inteligencia artificial y adaptarse a los que OpenAI desarrolle en el futuro. Esa capacidad de adaptación es fundamental en una industria en la que los avances tecnológicos ocurren mucho más rápido que los ciclos de fabricación de hardware.
"El hardware lleva mucho tiempo. Dijimos que tardamos nueve meses y ese es uno de los procesos más rápidos, si no el más rápido, para pasar del diseño inicial a la fabricación de un dispositivo", sostuvo. Por eso, OpenAI eligió una arquitectura programable que permite realizar modificaciones sin necesidad de reemplazar por completo el hardware.
Jalapeño es más especializado que una GPU convencional, aclaró Ho. Su diseño está orientado a los modelos de lenguaje de gran tamaño (LLM) y a la arquitectura Transformer, utilizada para procesar información en estos sistemas. Dentro de ese campo, el objetivo es que se adapte a distintas aplicaciones.
Para desarrollar Jalapeño, OpenAI eligió trabajar con Broadcom después de evaluar distintas empresas del sector, entre ellas Nvidia, AMD y Marvell. Según Ho, Broadcom contaba con tecnología que permitía conectar múltiples procesadores y facilitar el intercambio de grandes cantidades de información a alta velocidad.
Esta capacidad es fundamental para los centros de datos de inteligencia artificial, donde miles de chips deben funcionar de forma coordinada. La compañía ya había colaborado con Ho y varios integrantes de su equipo en el desarrollo del primer procesador TPU de Google. "Si queríamos llevar a cabo este proyecto muy rápido, eso facilitó un poco las cosas", explicó el ejecutivo.
El desarrollo de Jalapeño, sin embargo, no significa que OpenAI vaya a dejar de utilizar los chips de Nvidia. Ho aseguró que el nuevo procesador permitirá ampliar la capacidad de procesamiento de la compañía, que también mantiene acuerdos con AMD, Cerebras y otros proveedores.
"Les estamos generando muchos negocios y son una parte fundamental de nosotros. Pero si podemos hacerlo mejor e incentivarlos a que lo hagan, deberíamos hacerlo", afirmó. También reconoció que existían dudas en la industria sobre la capacidad de OpenAI para desarrollar su primer chip y llevarlo a producción. Sin embargo, destacó los resultados del equipo y el respaldo que recibió de la compañía para avanzar con el proyecto.
OpenAI todavía no tiene una estimación de cuánto dinero podría ahorrar con Jalapeño durante la próxima década. Ho reconoció que no había realizado ese cálculo y, posteriormente, un vocero de la compañía confirmó que tampoco disponían de una proyección.
Cuándo comenzará a utilizarse y cuáles son los próximos pasos
OpenAI planea comenzar a instalar Jalapeño en sus centros de datos hacia finales de 2026, aunque su uso a mayor escala está previsto para la primera mitad de 2027. Según Ho, algunos usuarios podrían comenzar a utilizar servicios de OpenAI que funcionen con estos chips durante ese período. Para cumplir el objetivo, la compañía todavía debe completar distintos desarrollos de software y preparativos técnicos.
Por ahora, la empresa concentra sus esfuerzos en mejorar la inferencia, el proceso mediante el cual un modelo de inteligencia artificial ya entrenado genera respuestas a las consultas de los usuarios. La demanda de procesamiento crece en esta área, por lo que reducir sus costos permitiría mejorar la eficiencia de los productos de OpenAI, explicó Ho.
"El entrenamiento es fundamental y requiere mucha capacidad de procesamiento. Pero el crecimiento que observamos se da en la inferencia, y ahí es donde vemos una brecha", señaló. El ejecutivo aclaró que OpenAI no descarta desarrollar chips destinados al entrenamiento de modelos, aunque actualmente esa posibilidad no es una prioridad.
La compañía tampoco descarta vender Jalapeño a otras empresas o permitir que utilicen su capacidad de procesamiento a través de servicios en la nube. "No vamos a descartar esa posibilidad, pero tenemos tanta demanda interna que nos llevará un tiempo satisfacerla", sostuvo.
En cuanto a la magnitud del proyecto, el vicepresidente de hardware evitó precisar cuánta capacidad energética destinará OpenAI a estos procesadores.
El desarrollo avanzó rápidamente gracias a la colaboración entre los equipos de hardware, software e investigación. A diferencia de su experiencia en Google, explicó que la estructura más reducida de OpenAI facilita el intercambio entre especialistas. Además, señaló que el respaldo de Sam Altman y Greg Brockman, cofundador y presidente de la compañía, fue clave para impulsar el proyecto.
El impacto de la seguridad de la IA en la infraestructura
Consultado sobre los riesgos de la inteligencia artificial y una posible desaceleración de su desarrollo, Ho sostuvo que las medidas de seguridad también influyen en la infraestructura que necesita OpenAI. La compañía debe decidir cuánta capacidad de procesamiento destina a mejorar sus modelos y cuánta utiliza para supervisarlos y reforzar su protección.
Si OpenAI decide ampliar esos controles, necesitará más recursos de los previstos inicialmente. "Pensábamos que necesitábamos una determinada capacidad de procesamiento para atender a los usuarios. Pero si vamos a implementar muchas más medidas de seguridad y un mayor monitoreo, ¿por qué no agregar más capacidad para eso?", concluyó.
*Esta nota fue publicada originalmente en Forbes.com.