LLM — это не тупик. Проблема AGI в другом 🤬

Сегодня в дискуссиях о AGI (общем искусственном интеллекте) много споров: говорят, что LLM (языковые модели) могут генерировать текст только с вероятностным прогнозом, и на их основе «общий ИИ» не построишь. Однако исследователи Стэнфорда предлагают другое объяснение. Проблема не в том, что модели не могут мыслить, а в том, что в LLM нет слоя координации, который бы организовывал рассуждения — задавал цели, выбирал инструменты, проверял шаги.

LLM — это мощная база, но без дополнительного слоя, который бы координировал действия, мы не получим полноценного AGI. Авторы статьи предлагают рассматривать LLM как быстрый и эффективный System-1, но для сложных задач нужен System-2 слой координации, который позволит системе целенаправленно управлять процессом генерации.

Интересным открытием стало якорение — использование внешних источников, чтобы стабилизировать рассуждения модели. Например, добавление примеров или уточнений позволяет модели «зацепить» нужные паттерны, что существенно повышает точность. Это помогает не просто генерировать текст, а удерживать фокус на задаче и контролировать качество решений.

LLM — не тупик для AGI, а важная ступень. Проблема заключается в отсутствии системного подхода к координации рассуждений. Вместо того чтобы надеяться на масштабирование, нужно создавать дополнительные механизмы координации, которые могут «направлять» модель.

Data Science