OpenAI revoluciona el diseño de chips con sus propios LLM: el caso Jalapeño

En agosto de 2025, OpenAI presentó Jalapeño, su primer chip acelerador de IA diseñado internamente en colaboración con Broadcom. Lo verdaderamente disruptivo no fueron sus especificaciones técnicas —13.4 petaflops en precisión de 4 bits y acceso a 232 GB de memoria de última generación—, sino el método con el que fue concebido. Por primera vez, una compañía utilizó sus propios modelos de lenguaje a gran escala para diseñar el hardware que, a su vez, ejecutará las futuras generaciones de esos mismos modelos. Este bucle de retroalimentación entre IA y silicio marca un hito en la industria de semiconductores y redefine las reglas del desarrollo de infraestructura para inteligencia artificial.

El flujo de trabajo desarrollado por OpenAI se apoyó en la capacidad de los LLM para comprender lenguaje y código, aplicándolos a las tareas de diseño que permanecen en el "dominio lingüístico" del problema. El equipo construyó su proceso sobre Accelerated Hardware Synthesis (XLS) de Google, una cadena de herramientas que permite a los ingenieros escribir en lenguajes de alto nivel como DSLX o C++, para luego generar automáticamente el Verilog. La clave fue que los modelos de OpenAI demostraron ser mucho más eficaces trabajando con esta capa "parecida al software" que con el Verilog puro. Según Chris Leary, miembro del equipo técnico, "pensábamos en cómo usar la IA para que el proyecto avanzara más rápido, y la IA funciona mejor en cosas que parecen software". Codex, la plataforma de codificación de OpenAI, se utilizó para generar kernels, identificar patrones de prefetch de memoria y optimizar el rendimiento de bajo nivel, logrando que un kernel de DeepSeek pasara del 0.31% al 88.94% del techo teórico en apenas 40 horas.

El resultado fue un ciclo de desarrollo excepcionalmente rápido. Jalapeño pasó de la primera versión de RTL (la definición de la lógica del chip) al tape-out —el envío del diseño a fabricación— en solo nueve meses. El proyecto completo, desde el concepto arquitectónico inicial hasta el tape-out, se completó en aproximadamente 16 meses, un plazo extraordinariamente corto para un ASIC de alto rendimiento y primerizo. El equipo responsable promedió menos de 100 personas, incluyendo roles de diseño de sistemas, software y cadena de suministro, sin contar al personal de Broadcom. Richard Ho, vicepresidente de hardware de OpenAI, lo expresó con claridad: "Estos modelos están dando superpoderes a nuestros ingenieros. Nuestros ingenieros siguen liderando el trabajo y tomando las decisiones finales, pero pueden hacer las cosas mucho más rápido y explorar muchas más vías".

Más allá de la velocidad, los benchmarks iniciales de Jalapeño demuestran que el uso de IA en el diseño no comprometió el rendimiento. Según los datos publicados por OpenAI, el chip ofrece entre 1.5 y 1.9 veces más trabajo de IA por vatio en su pico de rendimiento, y reduce la latencia de extremo a extremo entre 1.7 y 3.6 veces en comparación con sistemas de referencia. El chip alcanza más de 700 tokens por segundo por usuario en DeepSeek R1 con concurrencia baja, logrado únicamente con predicción de un solo token, sin decodificación especulativa ni desagregación prefill-decode, técnicas que los chips competidores emplean para alcanzar sus mejores cifras. Jalapeño no está especializado únicamente para los modelos de OpenAI: ejecuta DeepSeek R1, Kimi K2.5 y GPT-OSS con resultados sólidos en los tres, demostrando una flexibilidad arquitectónica que lo posiciona como un acelerador de inferencia generalista.

El impacto de este enfoque trasciende el propio chip. OpenAI ha señalado que ya está desarrollando una segunda generación de la arquitectura, y una tercera está tomando forma. La compañía utilizó Codex con GPT-Astra para optimizar tres modelos de pesos abiertos para Jalapeño en solo dos meses, logrando que las implementaciones generadas por IA para bloques selectivos de atención y mezcla de expertos de GPT-OSS fueran entre 1.5 y 1.8 veces más rápidas que las implementaciones escritas por humanos. Este dato revela una tendencia más profunda: la IA no solo acelera el diseño del hardware, sino que también optimiza el software que lo aprovecha, creando un círculo virtuoso donde cada componente del stack se mejora mutuamente. Greg Brockman, presidente de OpenAI, enmarcó esta estrategia en una visión más amplia: "El mundo se mueve hacia una economía impulsada por el cómputo. Jalapeño es parte de nuestra estrategia de infraestructura de pila completa a largo plazo para hacer el cómputo más abundante, resultando en una IA más rápida, más confiable y más asequible".

La relevancia de Jalapeño para el desarrollo de la IA va más allá de la eficiencia energética o la reducción de costos de inferencia. Representa la consolidación de un nuevo paradigma donde los modelos de lenguaje dejan de ser únicamente productos para convertirse en herramientas de ingeniería de primer orden. Andrew Kahng, profesor distinguido de la Universidad de California en San Diego, calificó la velocidad de OpenAI como "posiblemente la mejor de la industria hasta ahora". Expertos como David Chin, cofundador de Verkor.io, reconocen que el plazo es "bastante creíble" pero subrayan que la colaboración de Broadcom fue indispensable para lograrlo. De cara al futuro, la pregunta no es si otros actores seguirán este camino, sino qué tan rápido se convertirá en el estándar. Como advierte Ravi Krishna, también de Verkor.io, "si este proyecto comenzara hoy, las capacidades mejoradas de los LLM probablemente permitirían un cronograma aún más rápido". Jalapeño no es solo un chip; es la primera prueba a escala industrial de que la IA puede diseñar la infraestructura que la hará avanzar.