Шпаргалка по современным терминам ИИ

Вокруг нейросетей постоянно появляются новые слова. На самом деле большинство из них описывают разные части одной архитектуры. Вот краткий словарь наиболее распространенных терминов.

Базовые понятия
1. LLM - большая языковая модель. Генерирует ответы на запросы пользователя
2. Prompt (промпт) - запрос, который отправляется модели. Определяет, какой ответ получит пользователь
3. System Prompt (системный промпт) - набор правил и роль модели, заданные на весь диалог. Определяет поведение модели независимо от конкретных запросов пользователя
4. Token (токен) - единица текста, по которой измеряются объем и стоимость работы модели. Используется для расчета лимитов и стоимости
5. Context Window (контекстное окно) - максимальный объем контекста, который модель может учитывать одновременно. Позволяет работать с длинными документами и историей переписки
6. Temperature (температура) - параметр, влияющий на вариативность ответов. Позволяет сделать модель более точной или более творческой
7. Hallucination (галлюцинация) - уверенный, но фактически неверный ответ модели. Одна из главных причин проверять важные ответы перед использованием
8. RAG - поиск информации перед генерацией ответа с последующим добавлением ее в промпт. Позволяет использовать актуальные документы и внутренние базы знаний
9. MCP (Model Context Protocol) - стандарт подключения внешних инструментов и источников данных к модели. Позволяет использовать один интерфейс для интеграции различных сервисов
10. Agent (агент) - система, которая самостоятельно планирует решение задачи и использует инструменты. Автоматизирует выполнение сложных сценариев

Часто встречаются
11. Tool Calling (вызов инструментов) - возможность модели вызывать внешние функции и сервисы. Позволяет работать с API, файлами и другими системами
12. Skills (скиллы) - готовые инструкции и материалы для агента, например гайд по созданию таблиц или шаблон отчета. Агент подгружает их под конкретную задачу вместо того чтобы каждый раз объяснять контекст заново
13. Few-shot / Zero-shot prompting (промптинг с примерами и без примеров) - передача примеров желаемого ответа в промпте против просто инструкции без примеров. Влияет на качество и предсказуемость ответа
14. Structured Output (структурированный вывод) - ответ модели в строго заданном формате, например JSON. Упрощает интеграцию с другими системами
15. Embeddings (эмбеддинги) - векторное представление текста для поиска по смыслу. Используются для семантического поиска
16. Vector Database (векторная база данных) - база данных для хранения embeddings. Позволяет быстро находить похожие документы
17. Workflow (воркфлоу) - заранее определенная последовательность действий. Используется для автоматизации повторяющихся процессов
18. Short-term Memory (краткосрочная память) - память текущего диалога. Позволяет модели помнить предыдущие сообщения
19. Long-term Memory (долгосрочная память) - память, сохраняющая информацию между сессиями. Позволяет учитывать прошлые взаимодействия с пользователем
20. Guardrails (гардрейлы) - ограничения и проверки, обеспечивающие безопасную работу модели. Помогают избежать нежелательных ответов и действий

Для разработки AI-приложений
21. Chunking (чанкинг) - разбиение документов на небольшие части. Повышает качество поиска и работы RAG
22. Reranking (реранкинг) - повторная сортировка найденных документов по релевантности. Помогает выбрать наиболее полезные результаты
23. Context Engineering (инженерия контекста) - подход к осознанному формированию того, что попадает в контекст модели на каждом шаге. Расширение prompt engineering для агентных систем с длинными сценариями
24. Planning (планирование) - построение плана выполнения задачи. Позволяет разбивать сложные задачи на этапы
25. Reflection (рефлексия) - самопроверка и корректировка собственного ответа. Помогает уменьшить количество ошибок
26. Multi-Agent (мультиагентность) - совместная работа нескольких специализированных агентов. Позволяет распределять обязанности между агентами
27. Subagents (субагенты) - узкоспециализированные агенты внутри одного оркестратора. Решают отдельную часть задачи и возвращают результат основному агенту
28. Orchestration (оркестрация) - управление всеми этапами работы AI-приложения. Координирует взаимодействие модели, инструментов и памяти
29. Evaluation (оценка) - автоматическая оценка качества ответов. Позволяет отслеживать качество модели после изменений
30. Harness (харнесс) - обвязка вокруг модели для тестирования, логирования и трейсинга. Используется для запуска тестов, сбора метрик и сравнения результатов
31. Benchmark (бенчмарк) - набор тестов для сравнения моделей. Позволяет объективно оценить их качество
32. Observability (обсервабилити) - мониторинг работы системы: стоимость, токены, задержки, ошибки. Используется для контроля и диагностики AI-приложений
33. Sandbox (песочница) - изолированная среда для безопасного выполнения кода. Защищает основную систему при работе с потенциально опасными операциями

Список не претендует на полноту, но именно эти термины сегодня встречаются чаще всего в статьях, документации и при разработке AI-приложений. Если понимать их значение, ориентироваться в современной экосистеме становится заметно проще.