Записки CPU designer'a

Принес вам простой, но полезный инструмент анализа систолических массивов - SystoliC AcceLErator SIMulator (SCALE Sim)

SCALE Sim — это симулятор для анализа ускорителей на базе систолических массивов, для обработки операций свертки, матричного умножения (GEMM). Симулятор позволяет настраивать параметры систолического массива (размер, соотношение сторон) и памяти, а также моделировать производительность различных конфигураций,
что позволяет быстро итеративно проверять гипотезы и анализировать проектные решения для аппаратных ускорителей на базе систолических массивов.

Подробнее о методологии и возможностях SCALE Sim можно прочитать в статье - A Systematic Methodology for Characterizing Scalability of DNN Accelerators using SCALE-Sim

В сообществе RISC-V вводятся новые правила голосования. Теперь участие в Special Interests Groups (SIGs) делится на две категории: Наблюдатели (Observers) и Участники (Participants). Только участники получат право голосовать в будущем.

Критерии, по которым будет определяться статус участника или контрибьютора, пока находятся в разработке. Подробные инструкции ожидаются на следующей неделе, а их официальное утверждение займет 2–3 недели.

I will also give a brief preview of the first steps for deploying the new RVI BoD policies over the next several weeks. This involves members officially self-identifying as Observers and Participants, and sorting out which participants will have voting rights (as well as preparing to track what is necessary to keep from losing one's voting right). This will just be a brief preview. Detailed guidelines are expected to be distributed to all technical groups (TGs, SIGs, IC/HCs, TSC) in the coming week. At which point putting together this official documentation will then happen over the next 2-3 weeks.

Оригинал сообщения от Greg Favor в IME TG - click

HiPEAC 2025

С 20 по 23 января 2025 года в Барселоне пройдет конференция HiPEAC (European Network on High Performance and Embedded Architecture and Compilation).

В программе — доклады и воркшопы от лидеров индустрии, включая ARM, Nvidia, Google, а также от европейских дизайн-центров и исследовательских институтов.

С программой конференции можно ознакомиться здесь.

А если захотите развиртуализироваться я буду на конференции 20-го и 22-го января, найти меня можно будет у стенда Semidynamics👀

Зимняя школа программирования для RISC-V

Зимняя школа от YADRO — это лекции и практическая проектная работа, посвящённые программированию и оптимизации программ под архитектуру RISC-V. Лекции будут доступны всем после регистрации, а участие в проектной части — в очном формате, рассчитано на студентов.

Лекторий: пройдёт онлайн с 13 по 30 января 2025 года.

Проектная работа: будет проводиться очно с 3 по 8 февраля 2025 года. Участники смогут работать в группах над реальными задачами под руководством опытных наставников.

Для себя я отметил два интересных доклада:
1) Компиляция: тулчейн на основе GCC, кросс-сборка, multilib.
2) Обзор докладов, новинок и трендов 2024 года по RISC-V.

Подробности и регистрация доступны на сайте школы 🤓

Бывшая CEO RISC-V Calista Redmond перешла в Nvidia.

Конспираси, о том, что она переходит в Intel на место Pat Gelsinger, не оправдалась😑

С 1 января Altera официально отделилась от Intel и стала крупнейшей в мире независимой компанией, занимающейся разработкой FPGA.
Директор компании Ed McGettigan отметил, что одним из основных направлений компании остаются развитие и поддержка серии Agilex, а также упрощение работы с FPGA для инженеров.

Новый сайт компании: altera.com 👀

Возвращаемся в рабочий режим вещания👀

Делюсь с вами новым чипом от d-Matrix — Corsair

Основные моменты из статьи:

1) Авторы называют свой чип представителем архитектуры Digital In-Memory Compute (DIMC). В этой архитектуре вычислительные блоки, такие как умножители и аккумуляторы, интегрированы в ячейки памяти, что снижает задержку и энергозатраты на передачу данных.

2) Организация системы памяти. В чипе Corsair доступны два режима работы. Первый режим очень похож на подход Groq, где модели хранятся в 1 GB SRAM (1), доступной в каждом чипе Corsair, что в сумме составляет 2 GB SRAM на карту. Это означает, что при использовании формата MXINT8 на 8 картах Corsair может разместиться модель Llama3-8B.

3) Упор на современные форматы данных. d-matrix используют новые типы данных OCP Microscaling Formats. Эти форматы поддерживают вычисления с 8-битными числами с общей экспонентой. Однако классические форматы IEEE-754 (FP64, FP32, FP16), а также BF16 и TF32 не поддерживаются для повышения эффективности вычислительных мощностей современных форматов.

However, in order to maximize the amount of MX compute, Corsair does not support any IEEE 754 Floating Point numbers such as FP64, FP32, or even FP16 nor does it support popular lower-precision data types such as BF16 or TF32.

4) Один чип Corsair обеспечивает производительность 4,8 Petaflops для формата MXINT4, 1,2 Petaflops для MXINT8 и 300 Teraflops для MXINT16. Каждая карта Corsair содержит два чипа, что удваивает потенциальную вычислительную производительность.

Что еще почитать? d-Matrix’s Corsair Whitepaper
Что еще за Groq? Groq’s Software-Defined Hardware for Dataflow Compute

https://www.opennet.ru/opennews/art.shtml?num=62499

Очень упорный товарищ, таки подчистил код от наследия из AMD, и продолжает пилить #zluda. Наверное, из этого получится что-то интересное.

Помните этот пост?
AMD ограничивает проект ZLUDA по запуску CUDA-приложений на своих ускорителях

Продолжение истории 👀

С наступающим Новым годом! 😀😀😀

Спасибо, что читаете, репостите и активно участвуете в жизни канала. Это действительно здорово мотивирует и заряжает энергией для создания нового контента.

В новом году всем:
▫️ крутых офферов и заслуженного карьерного роста;
▫️ интересных конференций и новых полезных знакомств;
▫️ увлекательных задач, которые вдохновляют и развивают;
▫️ времени на отдых и баланс между работой и личной жизнью.

Stay tuned 👀

Принёс вам что почитать на новогодних каникулах — Performance Analysis and Tuning on Modern CPU, книга от performance-инженера Дениса Бахвалова из Intel. 🎄🎄🎄

Книга доступна как для заказа на amazon, так и в виде бесплатной версии, которую можно найти в github-аккаунте Дениса.

Так же нашел у Дениса классный курс. Курс посвящён практическому изучению низкоуровневой оптимизации кода, включая такие аспекты, как работа с кешем процессора и предсказание ветвлений.

Qualcomm выигрывает судебное дело по лицензионному конфликту с Arm

Вкратце, из-за чего Arm решила судиться с Qualcomm:

TLDR: Qualcomm поглотила компанию Nuvia и решила воспользоваться лицензиями ARM, поглощенной компании.
Но в удивительном и прекрасном полупроводниковом бизнесе (и не только) цена на лицензию устанавливается в том числе от того, что за компания запрашивает лицензию.
Видимо, ARM решила, что Qualcomm пытаются считерить с лицензионным соглашением, выдав лицензию Nuvia за свою, а Qualcomm в свою очередь, считает. что имеет права не только на интеллектуальную собственность купленной компании, но и на лицензии. Кто прав тут - скоро увидим в суде

Об этом я рассуждал в одном из старых постов почему RISC-V становится все востребованне и актуальнее из-за концепции свободной ISA.

Какой суд вынес вердикт?

Судебное решение подтвердило, что Qualcomm не нарушала лицензионное соглашение с Arm, приобретя Nuvia. Это позволяет Qualcomm продолжать использовать технологии Arm для разработки чипов, включая процессоры Oryon и Snapdragon X. Однако неопределённость остаётся: суд не вынес решения о том, нарушила ли Nuvia свои обязательства перед Arm. Это открывает возможность для повторного разбирательства, что в итоге может привести к новым попыткам пересмотра условий лицензирования.

Я только рад, что нас ждет только больше ARM чипов для десктопных решений.
Thinkpad же активно выпускает ноутбуки на базе ARM-чипов, что особенно круто для аккумуляторной электроники. Однако пока что программная экосистема и совместимость с x86-приложениями оставляют желать лучшего.

Когда-нибудь дождёмся переноса EDA для проектирования ASIC на ARM-машины, дождёмся же?👀👀👀

Схожее мнение и у автора канала Паразитное сопротивление. Для полноты картины рекомендую ознакомиться и с его постом — клик.

Генеральный директор RISC-V Калиста Редмонд уходит в отставку

Калиста Редмонд объявила о своей отставке с поста CEO RISC-V International, отметив значительные достижения организации за время её работы. Под руководством Калисты сообщество RISC-V выросло с 236 до 4600 участников, охватив 70 стран, было ратифицировано 68 новых спецификаций, а количество выпущенных SoC превысило 2 миллиарда.

Если поиграть в конспирологов, то можно связать её уход с недавно освободившейся должностью CEO в Intel👀

Tenstorrent and the State of AI Hardware Startups

Классная статья с обзором решений от Tenstorrent и комментариями от действующих сотрудников компании 🖥

Занимательные две статьи, которые проливают свет на увольнение Пэта Гелсингера и работу совета директоров Intel:

1) Irrational Analysis - Gelsinger's Last Supper

2) Fabricated Knowledge - The Death of Intel: When Boards Fail

Во второй статье доступна лишь часть материала; остальное скрыто пейволлом с скромным ценником 47 евро в месяц или 375 евро в год 😈

Мне удалось получить полный доступ к этой статье через регистрацию на платформе substack и подписку на Fabricated Knowledge.

Buen Finde! 🖥

Держим строй, коллеги 👍💾🖥

Доклады и записи выступлений с конференции HotChips 2024 теперь в открытом доступе! 🎉🎉 🎉

https://hc2024.hotchips.org/

В дополнение — ссылка на сентябрьский пост с разбором некоторых докладов.

🖥

Intel объявила об уходе в отставку генерального директора Пэта Гелсингера.

https://www.intel.com/content/www/us/en/newsroom/news/intel-ceo-news-dec-2024.html

Вы не просили, но я принес вам очередной блог и занимательные статьи по тематике FPGA/ASIC —
https://hardwareteams.com/

Наиболее воодушевляющей показалась статья под названием:
Getting Started with Cocotb for absolute idiots
👀👀👀

Если вы хотите попробовать свои силы в проектировании и верификации цифровых схем на языках описания аппаратуры, используя устройство на базе Apple Silicon, рекомендую ознакомиться с этой статьей — k0nze

btw, когда EDA тулы полноценно портируют на ARM?

Статья предлагает понятные пошаговые инструкции по установке базовых библиотек и сборке Verilator из исходников.

Для просмотра файлов waveform, помимо проверенного GTKWave, рекомендую обратить внимание на Surfer. Этот инструмент отличается более понятным и интуитивно удобным интерфейсом. Однако имейте в виду, что проект находится в активной стадии разработки, поэтому вы можете столкнуться с потенциальными багами и другими проблемами 🚪

GOWIN Semiconductor Introduces Educational EDA Version V1.9.10.03 with Mac OS Support

Теперь не только опенсорсорс тулами и Vivado (в случае девайса на базе Apple Silicon) через докер Mac OS может порадовать FPGA энтузиаста.

Китайский производитель FPGA GoWin добавил в свою проприетарную EDA поддержку Mac OS.

Интересно насколько это решение рабочее, если кто-то соберется тестировать - поделитесь впечатлениями потом в комментарях 😎

p.s. судя по комментариям из коробки ни у кого пока что ничего не завелось