Понимание, которого нет | Попался грамотный разбор на тему “понимает ли ИИ”. Автор, молодой профессор психологии, задает GPT вопросы, не сложные, а именно очень простые, чтобы выявить структуру, стоящую за ответами.

“Важно отметить, что смысл всего этого не в том, что GPT совершает глупые ошибки. Мы тоже совершаем глупые ошибки! Но… картина ошибок GPT предполагает, что процесс, стоящий за ними, отличается [от нашего] по своей природе — баснословная сложность без структурной целостности”.

Он считает GPT крутыми имитаторами, но без модели мира и искр интеллекта. Не закрыл вопрос, но изложил внятные доводы. Пишет легко, корректно и содержательно.

Jaron Lanier тоже не нашел в GPT ума. В эссе в New Yorker он предлагает считать их инструментом для создания коллажей из творений человеческого разума. По его мнению, генеративный ИИ, как технология, нетривиально объединяет разные фрагменты и стили из созданного нами:

“Это значительное достижение, которое стоит отметить, но его можно рассматривать как прояснение ранее скрытых соответствий между человеческими творениями, а не как изобретение нового разума”.

См. также Terrence J. Sejnowski “Большие языковые модели и обратный тест Тьюринга” — то, что кажется интеллектом у LLM, на самом деле может быть зеркалом, отражающим интеллект интервьюера, пишет Сейновски. Он считает, что наши старые представления, основанные на естественном интеллекте, неадекватны.

Словом, пока нет даже зачатков ИИ.

Правда, все рассуждения такого рода опускают возможность, что интеллект может быть не сплошным. Если понимание у машины похоже на архипелаг, то мы будем натыкаться как на глубокие и верные ответы, так и на фиаско в очевидных ситуациях. Не поставлю денег на именно этот сценарий, но вполне допускаю, что ИИ явит некие новые формы, отличные от ЕИ человека.

Насчет ЕИ тоже вопрос, так ли мы умны по отдельности: What Makes Us Smart? Разум созревает в обществе других разумов, понимание нередко распределено между ними.

Дебаты будут длиться еще долго. Но со временем их смысл может инвертироваться: понимают ли GPT, для практики их использования будет не столь важно, зато исследование этих вещей наверняка прольет свет на то, как понимают люди.