Корень проблемы оказался в GPU ускорении рендеринга. На моей машине есть калибровка мониторов, которая по умолчанию заведена в мозги видеокарты. И похоже калибровка оказывает прямое влияние на цветность картинки не только при выводе на монитор. Удивительно, что это зависит от битрейта выводимого видео и то работает, то нет. В общем, если нужно сразу сжатое, то видимо лучше ставить Software Encoding, чтобы калибровка не применялась грубо говоря дважды. Года два не открывал After Effects и Media Encoder, но рад что стандарты индустрии стоят