Человек и ИИ: связка, а не противостояние

Чем больше работаешь рядом с языковыми моделями, тем настойчивее всплывают старые вопросы: что такое знание, понимание, мысль. Самый частый ход в этих разговорах: «настоящее понимание укоренено в теле, у ИИ тела нет, значит он чего-то главного не умеет». Звучит красиво, но это редукция.

В новом посте разбираю, почему сама постановка вопроса «что может ИИ сам по себе» бессмысленная, и предлагаю другую рамку.

Стартовая точка: интеллект это не телесность, а мыслительное мастерство, способность находить решения для проблем, которые раньше не встречались. Реализуется он обобщённым вычислителем: мозг плюс тело плюс экзокортекс (компьютер, программы, инструменты). Тело здесь один из носителей, а не источник смысла. Эйнштейн представлял луч света не потому, что у него была «телесная подложка», а потому что у него была развитая трансдисциплина (физика и математика) и навык работы с моделями.

Главный сдвиг: единица анализа это не человек и не ИИ по отдельности, а связка человек+ИИ. Спрашивать «помнит ли блокнот» бессмысленно: помнит человек, использующий блокнот, и помнит лучше, чем без него. Точно так же «удивляется» не ИИ, а человек, работающий с ИИ. И в правильном режиме он бы удивляется чаще, потому что модель быстрее показывает несоответствия между ожиданиями и данными.

Внутри связки есть два режима, и различать их важно практически.
Протез заменяет функцию. Вход: «что мне делать?», выход: готовый ответ. Задача решена, человек ничему не научился, при следующей такой же задаче снова идёт к ИИ. Навык видеть варианты атрофируется. Экзоскелет усиливает функцию. Вход: «вот что я думаю», выход: дополнение, возражение, недостающий контекст. Человек думает сам, ИИ забирает рутину, но не разгружает мышление полностью. Проблема решена, и человек вышел из взаимодействия компетентнее.

Тест простой и операциональный: может ли пользователь объяснить и защитить результат, не ссылаясь на «ИИ подсказал»? Если нет, это был протез. Если да, экзоскелет. Этим различением можно пользоваться завтра.
_______

Полный текст по ссылке в клубе.