Кто здесь думает, а кто вычисляет

Пару дней назад попалась занятная статья. «ИИ не думает, не учится и не понимает». Авторы рассуждают о том, что мы слишком легко переносим человеческие слова «думать», «понимать», «учиться» на машины.

С лингвистической точки зрения всё красиво. С технической – ребята слегка опоздали на поезд.

Главная проблема подобных рассуждений в том, что они всё ещё обсуждают ИИ примерно образца «большая языковая модель, обученная на огромном корпусе текстов и предсказывающая следующий токен». Но отрасль давно уже уехала дальше.

Современные модели всё чаще обучаются не только на данных, но и на опыте решения задач. Они пробуют стратегии, получают результат, обнаруживают ошибки, меняют стратегию, используют reinforcement learning, self-play, автоматическую проверку результатов, память и накопленный опыт. Уже существуют экспериментальные системы, которые извлекают обобщаемый опыт из собственных успешных и неудачных действий и используют его для последующего улучшения модели. И вот здесь начинается самое интересное.

Нам говорят: модель не думает – она вычисляет. Прекрасно. А что, собственно, делаетю человеческий мозг?

Нейрон получает сигналы от других нейронов, изменяет своё состояние, передаёт сигнал дальше. Огромная динамическая сеть перестраивается под воздействием опыта, формирует устойчивые представления, прогнозирует последствия и выбирает действия.

Конечно, мозг и transformer устроены совершенно по-разному. И хотя у них есть много общего, было бы глупо утверждать обратное. Но из того, что мы знаем физический механизм процесса, совершенно не следует, что процесс нельзя назвать мышлением. Иначе можно сказать, что человек тоже не думает, а вычисляет – у него просто происходят электрохимические реакции.

Вторая проблема ещё забавнее. Мы пытаемся дать окончательное философское определение технологии, которая меняется быстрее, чем успевают выходить статьи о ней. Пока я пишу этот текст, где-нибудь в OpenAI, Google DeepMind, Anthropic, китайской лаборатории или университетской группе кто-нибудь наверняка прикручивает очередной механизм памяти, самообучения, планирования, взаимодействия со средой или накопления опыта. Да и я сам грешен этим – на этой неделе «чистил» механизм забывания памяти.

Не обязательно именно это приведёт нас к AGI. И никто сегодня толком не знает, какая комбинация архитектур и методов к нему приведёт. Но направление движения видно довольно хорошо: от системы, которая воспроизводит усвоенные закономерности, – к системе, которая действует, получает обратную связь, накапливает опыт и меняет своё дальнейшее поведение.

А спорить, можно ли назвать это «мышлением», становится всё больше вопросом определения слова, а не возможностей системы.

Одним словом, появится AGI, вот тогда и посмотрим, кто из нас думает, а кто просто вычисляет.

Хороших вам выходных!

#пятничное #AI #искусственныйинтеллект