Готовы делиться новостями! На Петербургском международном экономическом форуме (ПМЭФ) Сбер представил оптический вычислитель для задач искусственного интеллекта. Это первое в России и одно из первых в мире устройств, которые задействуют для вычислений свет!
Как это работает?
🤩 За счёт питания от света чип почти мгновенно и практически без выделения тепла производит умножение матриц — основную нагрузку при обучении и работе больших моделей
Узнали об устройстве у Андрея Белевцева, старшего вице-президента и руководителя блока «Технологическое развитие» Сбера 👇
🎤 Прототип способен выполнять более 1 млрд операций матричного умножения в секунду, и мы видим путь к увеличению частоты оптических операций до 10 ГГц и более. Само умножение в оптике происходит за доли наносекунды, при этом энергопотребление оптического ядра более чем на 30% ниже, чем у электронных аналогов
В ближайшем будущем технология может стать базисом вычислительной инфраструктуры. С её помощью бизнес сможет снизить затраты на обучение и применение LLM, а значит, прогресс развития ИИ тоже ускорится.
❤️ — заряжаемся светом науки
✔️ Подписывайтесь на Sber AI в МАКС