Если бы я в детстве прочитал об этом факте в научно-фантастической книжке, я бы подумал, что у автора с фантазией что-то явно плохо. Не работает его выдумывалка.

Этому, безусловно, есть историческое объяснение.
Этому, безусловно, есть архитектурное объяснение.
Про это есть достаточно много научных работ

Но всё равно я нахожу безумно уморительным то, что сейчас для обучения и работы больших языковых моделей, которые составляют ТЕКСТЫ из токенов, человечество не придумало ничего лучше, чем использовать ВИДЕОкарты.

Ещё и санкции на условный Китай накладывают, чтоб им нельзя было купить самые мощные видеокарты, а только технологические огрызки!

—
Дисклеймер: понимаю, что RTX 4090 и H200 — разные классы устройств, но вычислительная парадигма одна