OpenMAV

На GitHub появилась ещё одна open-source утилита для визуализации внутренней работы больших языковых моделей

Интерактивный терминальный интерфейс позволяет в реальном времени наблюдать за внутренними состояниями LLM во время генерации текста, включая распределение внимания (attention weights), активации MLP и вероятности предсказания токенов.

Кроме того, благодаря системе плагинов можно легко расширять функциональность визуализации. Инструмент поддерживает различные модели, включая GPT-2, Llama и другие.

📁 Language: #Python

⭐️ Stars: 275

➡️ Cсылка на GitHub

📱 @git_developer