Продолжаю разбирать что у ИИ-агента происходит под капотом.
Почему даже с
temperature=0 ответы могут немного отличаться? Почему нужный факт точно был в контексте, но модель его как будто не увидела?Особенно весело, когда этот факт лежал где-то в середине огромной простыни текста :)
В этой части разобрал трансформер и KV-кэш — откуда берётся задержка и почему длинный контекст так быстро съедает токены и деньги.
Ещё внутри:
🔹 четыре слоя безопасности модели и основные способы обхода ограничений
🔹 RAG, инструменты, MCP и guardrails с рабочим кодом
🔹 ReAct, Plan & Execute, память и мультиагентные системы
В конце добавил большую диаграммную шпаргалку по всей архитектуре.
Первая часть была общей картой компонентов. Здесь уже разбираем почему модель потеряла факт, RAG принёс мусор, инструмент вызвался не там или несколько агентов начали мешать друг другу.
Первая часть: https://t.me/Undercode_ai/731
📂 Скачать часть II: https://disk.yandex.ru/i/4c_Gf1dKC7kuMw