Сегодня вопрос о том, когда ИИ превзойдет человека, звучит как никогда остро. Одни ждут появления общего ИИ (AGI) в ближайшие годы, другие — ближе к середине века. Но главное яблоко раздора — в путанице понятий.
Мы до сих пор не договорились, что именно называем AGI. Победу на бенчмарках? Способность выполнять полезную работу? Или действовать автономно в открытом мире? Это три разные цели — и три разные таймлайна. Пока критерием AGI можно считать способность системы автономно заработать миллиарды долларов.
Еще больше путаницу усиливает смешение понятий интеллекта и сознания. Я уже писал о нескольких теориях сознания и о том, почему у нас до сих пор нет ответа на вопрос, что же это вообще такое. Но, возможно, продуктивнее разложить эту проблему по уровням.
Сначала система должна удерживать себя в равновесии. Затем — различать сигналы. Потом — собирать из них объекты. Далее — локализовать себя в мире. Затем — выделять главное среди множества сигналов. И только после этого возникает сцена опыта, которую мы склонны называть «сознанием».
То есть сознание — это режим работы сложной системы, в которой есть модель мира, субъект, время и механизм приоритезации. AGI не обязательно требует решения трудной проблемы сознания. Но почти наверняка требует все более глубоких уровней саморепрезентации. О теории саморепрезентаций, которую Игорь Пивоваров представил на OpenTalks AI 2026, я написал новую большую статью.
Здесь я вижу и связь с философией датаизма. Любая адаптивная система работает как цикл обработки данных: мир — это поток данных, система воспринимает информацию о нем через сенсоры, строит внутреннюю модель знаний о себе и мире, обновляет ее, прогнозирует, действует — и снова обновляет. Разница между клеткой, животным, человеком и ИИ — не в наличии или отсутствии этого цикла, а в архитектуре моделей.
В этой логике сознание — это интерфейс интеграции данных в единую сцену. Интеллект — способность работать с будущим. Самосознание — включение самой системы в собственную модель мира. И тогда вопрос AGI становится архитектурным: какие уровни саморепрезентации уже реализованы, а каких еще нет.
Но самый недооцененный уровень во всей теории — это внимание. Общий механизм внимания должен ранжировать сигналы по значимости для целей системы, удерживать приоритеты во времени, распределять вычислительные ресурсы и включать в отбор модель самой системы.
Многие знают, что человек далеко не полностью управляет собой. Например, мы не выбираем эмоции или мысли по щелчку пальцев, а большая часть процессов жизнедеятельности происходит автоматически. Но у нас есть более тонкий уровень управления: например, мы можем удержать или отпустить мысль.
Вспомним эксперименты Либета. Они показали, что мозг начинает готовить действие раньше, чем человек осознает решение. Но это не обязательно означает, что свободы воли нет. Скорее, это говорит о том, что инициация и контроль — разные уровни системы. Сам Либет допускал conscious veto: уже запущенный процесс можно остановить, изменить или перенаправить.
Для ИИ аналог свободы воли, возможно, не в генерации «собственных желаний». Гораздо важнее наличие внутреннего механизма veto, переключения и удержания приоритетов – способность не дать любому импульсу автоматически стать действием.
В этом смысле сознание — прежде всего механизм отбора. Оно определяет, что будет усилено, а что исчезнет. Поэтому в контексте AGI, возможно, правильнее будет поставить вопрос о том, появится ли у системы такой механизм внимания, который будет выбирать, что станет реальностью для самой системы?
Тут может проходить реальная граница между тем, что мы считаем автоматом, интеллектом и субъектом.
Мы можем управлять только тем, какую именно информацию мы «внимаем» из среды. Далее эта информация обновит модель мира, на основе которой будут приниматься дальнейшие решения.
Таким образом субъектность возникает, когда система начинает действовать из собственной модели себя и мира, а не только в ответ на внешние сигналы.
👉 Полная статья
#мысли
