Nvidia столкнулась с претензиями OpenAI к быстродействию чипов.

OpenAI недовольна производительностью новейших ИИ-чипов Nvidia и с прошлого года активно ищет альтернативных поставщиков, сообщил Reuters со ссылкой на источники. Разногласия касаются инференса — процесса выдачи ответов пользователям. Nvidia доминирует в обучении моделей, но инференс стал новым фронтом конкуренции, где OpenAI столкнулась с технологическим барьером, пишет агентство.

Внутренние тесты показали слабость оборудования Nvidia при работе с Codex, где пользователи требуют быстрых ответов. Сотрудники OpenAI объясняют это тем, что архитектура Nvidia полагается на внешнюю память, что замедляет передачу данных и ограничивает скорость ответов чат-бота.

@e_magic