⚡️ OpenAI создала собственный чип - Jalapeño, разработанный для инференса.

На это ушло всего девять месяцев.

Цитата из блога:

«OpenAI спроектировала чип с нуля, опираясь на глубокое понимание фундаментальных принципов LLM и учитывая свою дорожную карту моделей, kernel-оптимизаций, serving-систем и продуктовых потребностей.

В этом ей помогали партнёры Broadcom и Celestica, которые участвовали в индустриализации платформы: реализации чипа, проектировании плат, интеграции rack-систем, высокопроизводительных сетей и масштабируемых производственных процессов».

https://openai.com/index/openai-broadcom-jalapeno-inference-chip/

@ai_machinelearning_big_data