Делимся ссылкой на новую лекцию профессора В. В. Крылова, в которой он рассказал о том, как думают LLM.

В лекции:
🔸сравнили понятие интерпретации модели в квантовой физике и в задаче вывода LLM;
🔸увидели, как LLM выполняет сложные рассуждения на основе внутреннего устройства больших языковых моделей и их функционирования с точки зрения программиста;
🔸рассмотрели иллюстрации на простейшей модели nano-gpt и выводы на основе этого представления;
🔸познакомились с последними результатами интерпретации LLM с использованием карт активности нейронов.

«В конечном итоге мы могли бы даже запретить такие комбинации нейронов, как ложь, обман, стремление к власти или агрессивные реакции, чтобы модель никогда не генерировала такого рода данные независимо от того, насколько настаивает пользователь. И, может быть, перенести эти возможности на мозг живых существ», – отметил лектор.

💬 Если при просмотре лекции у вас возникнут вопросы, пишите их в комментариях к этому посту, чтобы Владимир Владимирович ответил на них.

Оставляем ссылку на подкаст AI4Dev для тех, кому удобнее слушать лекции, а не смотреть.