И тут недавно ребята из издательства Питер подогнали мне чудесную книгу по System Design «нового поколения», то есть GenAI.
Книга - это попытка адаптировать классическое system design интервью под новую реальность GenAI: LLM-приложения, RAG-архитектуры, агенты, оценка качества и стоимость инференса. Полезно как структурированный чек-лист, но это скорее введение, чем глубокий инженерный разбор.
Хотя как менеджер я обожаю эту серию книг, она позволяет погрузиться во множество разных тем.
System Design для эпохи GenAI
Все привыкли к классическим вопросам на system design интервью:
- спроектируйте Twitter
- спроектируйте YouTube
- спроектируйте Uber
Но последние пару лет компании начали задавать другой тип задач:
спроектируйте AI-чат ассистента
спроектируйте RAG-поиск по документам
спроектируйте AI-копилота для разработчиков
И вот тут многие кандидаты ломаются.
Почему?
Потому что классическая архитектура (API + база + кэш) внезапно превращается в:
User → Gateway → Orchestrator → LLM → Retrieval → Vector DB → Tools → Evaluation
И вот именно эту новую архитектуру книга и пытается разобрать.Основная идея книги
Авторы говорят простую вещь:
GenAI-системы - это не просто “вызов LLM API”.
Это полноценная распределённая система.
И в ней появляются новые архитектурные компоненты.
Например.
1. Retrieval (RAG)
LLM сам по себе туповат.
Он знает интернет до даты обучения.
Поэтому почти любая реальная система делает:
Query
→ Embedding
→ Vector search
→ Context
→ LLM
Книга разбирает:как хранить embeddings
как масштабировать vector search
как строить pipeline retrieval
2. Оркестрация моделей
LLM редко работает один.
Обычно это:
Router
→ model A (cheap)
→ model B (smart)
→ tools
Причина банальная.LLM дорогой.
Поэтому архитектура всегда балансирует:
качество vs стоимость vs latency
3. Оценка качества
Самая сложная часть GenAI-систем.
В классических сервисах есть метрики:
latency
error rate
throughput
А в LLM-системах появляется ад.
Например:
- hallucination rate
- factual accuracy
- grounding
- response quality
И это очень плохо измеряется.
Книга показывает базовые подходы:
LLM-as-judge
human evaluation
golden datasets
4. Стоимость
GenAI архитектура - это экономика.
Каждый запрос стоит денег.
Поэтому появляются решения:
кэширование ответов
prompt compression
routing моделей
batching
На интервью это любят спрашивать.
Что в книге хорошо
1️⃣ Хорошая структура для интервью
Если вам задают вопрос:
Спроектируйте AI-ассистента
книга дает простой фреймворк:
User interaction
Retrieval layer
LLM orchestration
Tools
Evaluation
Cost control
Это полезно.
2️⃣ Понятный чек-лист архитектуры
После книги начинаешь автоматически думать:
где embeddings?
где кэш?
где evaluation?
где rate limiting?
3️⃣ Актуальность
Большинство книг по system design написаны до эпохи LLM.
А здесь фокус именно на GenAI-архитектуре.
Где книга слабая
1️⃣ Мало глубины.
Например vector search объясняется очень поверхностно.
Нет разбора:
HNSW
IVF
ANN tradeoffs
2️⃣ Мало production-кейсов.
Реальные системы:
Copilot
Perplexity
ChatGPT
имеют гораздо более сложные пайплайны.
3️⃣ Почти нет темы агентов
А именно туда сейчас движется индустрия.
Если раньше system design интервью проверяло:
умеешь ли ты масштабировать сервис
то теперь проверяют:
умеешь ли ты проектировать AI-системы.
И там появляются новые вопросы:
как уменьшить hallucinations
как контролировать стоимость токенов
как строить RAG
как оценивать качество
И это новый слой архитектуры.
🔥 - если читал и зашло
❤️ - если забрал в бэклог
🦄 - если читал и не зашло