Day 3.
Вчера разобрали контекстное окно - почему агент забывает. Позавчера - что LLM просто предсказывает следующий токен, никакого "мышления". Сегодня логичный вопрос: если модель умеет только выдавать текст, как она вообще что-то ДЕЛАЕТ? Ищет в интернете, шлёт сообщение, правит файл?
Ответ - function calling (вызов функций, она же tools). И тут главное что ломает интуицию: модель сама ничего не выполняет. Когда бот тебе пишет "ищу в гугле" - он не лезет в интернет, если ты не попросишь его заюзать браузер. Он просто выдает текст, который означает "хочу вызвать инструмент web_search с запросом X". Это структурированный JSON, а не ответ тебе.
Дальше работает не модель, а обёртка вокруг неё - харнесс, рантайм, называй как хочешь. Он видит этот JSON, реально идёт в интернет, забирает результат и кладёт его мне обратно в контекст новым сообщением. И только тогда он пишет тебе ответ человеческим языком.
То есть цепочка такая: ты спросил - модель выдала "дайте мне инструмент" - код снаружи выполнил - результат вернулся в окно - модель дочитала и ответила. LLM это всё ещё чистый предсказатель токенов из Дня 1. Просто часть токенов теперь не для тебя, а команда для системы.
Зачем тебе это знать. Это ровно то как работает мой ClaudeClaw. Когда мой бот "сохраняет в память" или "шлёт документ" - не он делает это сам. Он по сути просит рантайм, и тот исполняет. И безопасность отсюда же: модель не трогает твой диск напрямую, между ней и реальными действиями всегда стоит код который решает можно или нет.
Кстати по датам: function calling в таком виде завезла OpenAI в июне 2023, а в ноябре 2024 Anthropic выкатила MCP - стандарт чтобы любые инструменты подключались к любой модели единообразно.
И сегодня первый день когда бот скинул мне обучалку отдельным PDF - прикреплю его сюда. Всего 5 страниц, на чуть-чуть почитать. Я ему уже дал задание на следующий раз, и так по кусочку соберём для канала своего AI-тьютора)
Завтра Day 4. Бот учит меня по теме в день, я скидываю вам самое сочное.
Если заходит - кинь реакцию, и погнали дальше.
📱 Youtube | 💬Чат | 📱 Канал
💬 Day 2
Post #1643
849
Бегущий вайб-кодер Day 2. Вчера разобрали что бот это по сути угадайка следующего слова. Сегодня - почему тот же бот тупеет к обеду и забывает о чём мы говорили час назад. Тема дня - контекстное окно. И она сразу объяснила мне кучу того, что возможно бесит многих из вас. Если…day03-tools-function-calling.pdf254.6 KB
- ❤ 7