LLM не умеют рассуждать: почему современный ИИ — это лишь интуиция

Современные языковые модели работают как «Система 1» по Канеману: они быстрые, ассоциативные и мастерски предсказывают следующий токен. Однако это не мышление, а лишь имитация. Даже популярный «chain of thought» (цепочка рассуждений) — это просто удлиненный процесс угадывания слов, а не логический анализ.

Для настоящего прогресса в науке и медицине нам нужны системы, работающие по принципу AlphaGo. Чтобы ИИ стал по-настоящему разумным, он должен обладать тремя вещами:

• Явным состоянием знаний: модель должна фиксировать гипотезы, сомнения и доказательства, которые можно проверить.
• Разделением знаний и логики: инструменты анализа должны быть отделены от базы данных.
• Прозрачностью: система обязана выдавать ход мыслей, а не придумывать оправдания постфактум.

Масштабирование моделей не сделает их мудрее — оно лишь оттачивает интуицию. Нам нужно менять саму архитектуру ИИ.