OpenAI unveils its first custom chip, built by Broadcom
OpenAI представила собственный процессор для инференса под названием Jalapeño, созданный совместно с Broadcom. Чип разработан специально для ускорения вычислительных нагрузок модели OpenAI, а не для общих задач. По заявлению компании, он обеспечивает заметно более высокий коэффициент производительности на ватт по сравнению с текущими аналогами, что делает его привлекательным для масштабных вычислительных центров. В отличие от традиционных GPU и ASIC, Jalapeño оптимизирован под уникальную архитектуру запросов OpenAI, что позволяет сократить энергопотребление и ускорить вывод результатов. Разработка проходила под руководством инженеров Broadcom, а участие моделей OpenAI в проектировании ускорило процесс подбора оптимальных микросхем.
На данный момент чип находится в стадии тестирования, но уже показывает результаты, которые могут изменить подход к развертыванию ИИ‑сервисов. OpenAI отмечает, что совместная работа с Broadcom открывает путь к созданию специализированных вычислительных блоков, адаптированных под потребности собственных моделей, что, в свою очередь, ускорит развитие новых функций и снизит зависимость от сторонних поставщиков. Эксперты считают, что такой шаг может стать отправной точкой для более широкого распространения кастомных ASIC в индустрии искусственного интеллекта. Это может снизить затраты на эксплуатацию крупных сервисов.