Новый формат плавающей точки от инженеров Tesla

Стандарт IEEE-754 всегда был предметом споров и обсуждений. Некоторые считают IEEE-754 морально устаревшим и математически неверным.
Стандарт был представлен в 1985-м году, а после получил обновления в 2008-м и 2019-м годах.
О последних нововведениях 754-го стандарта сможете ознакомиться в данной заметке.

На канале @fpga_news наткнулся на занимательный документ.
В нем представлено описание форматов CFloat8, CFloat16, которые используются в Tesla.
Из интересного, в документе описан формат Unsigned half Precision (UHP), где отказались от знакового бита и увеличили на 1 поля экспоненты, расширив этим динамический диапазон представляемых чисел.

Посыл у всех новых/старых форматов один - большая пропускная способность за счет вычислений при помощи 16/8 битных чисел вместо 32-битных. За большую пропускную способность платят меньшей точностью, но при этом увеличивается разрядность поля экспоненты для поддержки необходимого диапазона представляемых чисел.

Помимо CFloat рекомендую ознакомиться со следующими форматами:

⏺ TensorFloat от Nvidia
⏺ BrainFloat
⏺ MSFP от Microsoft
⏺ и куда же без Posit