OpenAI заставила старые видеокарты работать за двоих

Инженеры OpenAI совершили небольшое чудо и умудрились вдвое срезать затраты на обслуживание своего чат-бота, не покупая при этом новое железо. Внедрение хитрой программной оптимизации позволило сократить количество необходимых графических процессоров до нескольких сотен штук. Правда, пока эта магия работает только для части бесплатных пользователей.

Секретный соус разработчики, конечно же, не раскрывают, но если этот трюк удастся провернуть с тяжелыми рассуждающими моделями и платными корпоративными клиентами, экономика искусственного интеллекта может сильно измениться.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX