Anthropic в The 4 Properties of AI рассказали, почему нейросети умеют одно и напрочь не умеют другое.

Идея простая: если понимаешь, как устроена модель под капотом — перестаёшь злиться на «тупые» ответы и начинаешь строить запросы точнее.

👉 1. Предсказание следующего токена

AI не «думает» над ответом — он предсказывает следующий токен, потом ещё один, и так по цепочке.

Важный нюанс: выдумывание фактов концентрируется в спецификах. Общие рассуждения модель держит неплохо — а вот имена, даты, URL, цифры и названия источников она уверенно угадывает там, где надо было сказать «не знаю».

Естественный текст, умеет синтезировать огромные объёмы, строит связи между идеями.

Что делать:
— Проверяйте факты, имена, даты и ссылки — всегда, независимо от уверенности модели
— Просите citations: «укажи источник» хотя бы отсеет часть выдумок
— Используйте AI для структуры и синтеза, а не как первичный источник фактуры

👉 2. Знания

Всё, что знает модель — из обучающих данных с фиксированной датой среза. За этой чертой — темнота. Причём покрытие неравномерное: популярные темы на английском — отлично, узкоспециализированные или на русском — заметно хуже.

Энциклопедически широкие знания, умеет строить связи между далёкими областями, быстро синтезирует контекст.

Что делать:
— Дополняйте актуальными данными через поиск или RAG — загружайте свежие документы, статьи, отчёты прямо в контекст
— Используйте Проекты (в JARV AI это база знаний с RAG) — тогда модель отвечает по вашим данным, а не по памяти
— Если тема узкая или свежая — явно указывайте источник в промпте, не рассчитывайте на встроенные знания модели

👉 3. Рабочая память

Модель видит только то, что влезло в контекстное окно. Это не плавное забывание — это обрыв: за краем окна информации просто нет. Плюс детали из начала и конца контекста модель держит лучше, чем из середины длинного диалога.

И между сессиями нет никакой памяти — каждый раз с нуля, если не настроено иначе.

Адаптируется под ваши документы прямо в чате, держит связность и тон внутри одной сессии.

Что делать:
— Ключевые детали и ограничения держите ближе к концу длинного промпта
— Для длинных проектов используйте файлы и Проекты Джарва вместо бесконечного диалога — RAG вытащит нужное точнее, чем перегруженный контекст

👉 4. Управляемость

Модель следует инструкциям, но не понимает намерений — она работает по паттерну «если написано X, делай Y». Буква инструкции важнее смысла: просили «кратко» — получили три абзаца, потому что «краткость» в промпте не была уточнена.

Гибко контролируется через роли, форматы и итерации — при правильных промптах результат предсказуем.

Что делать:
— Будьте конкретны: не «напиши кратко», а «напиши не больше 3 предложений»

Это архитектурные особенности, под которые стоит адаптироваться.