Можно буквально ввести предложение и посмотреть, как Transformer обрабатывает его.

Этот интерактивный тренажёр запускает GPT-подобную модель прямо в браузере и позволяет проследить весь процесс:

Токенизация → эмбеддинги → Q/K/V → механизм внимания → MLP → логиты → вероятности следующего токена.

Можно изучать карты внимания, промежуточные значения и менять параметры temperature, top-k и top-p, чтобы увидеть, как они влияют на генерацию.

Если для вас трансформеры до сих пор выглядят как набор блоков, соединённых стрелками, стоит попробовать.

https://poloclub.github.io/transformer-explainer/

👉 @PythonPortal