В итоге дело оказалось в ASLR и дырках в адресном пространстве.
Указание опции компилятору
-no-pie позволило выделить 255ТB виртуальной памяти. Рассказали мне об этом на стековерфлоу :)
AZ Azalio_tech @azalio_tech · 668 subscribers Azalio_tech На ARM64 памяти выделили 170TB, а обещали 256TB.
-no-pie позволило выделить 255ТB виртуальной памяти.