Горизонт планирования — один токен

Прочитал эссе Георгия Страхова (написано в 23 году, но всё ещё актуально) — он предлагает простой эксперимент. Посади человека в одну комнату, чатгпт в другую. Начни чат, получи ответ и просто замолчи. На час, на сутки, на месяц

Человек через час начнёт стучать: «Эй, кто там?». Через сутки — сойдёт с ума. Чатгпт будет ждать следующий промпт вечно. Вся его архитектура — предсказатель следующего слова. Буквально, на вход текст, на выход — наиболее вероятное продолжение. Одно слово за раз. Без цели, без плана, без временного горизонта. Горизонт планирования — ровно один токен

Страхов рисует двумерную карту интеллекта: «сколько можешь думать» × «сколько можешь хотеть». По первой оси GPT уже обходит большинство людей. По второй — на уровне вируса. Одно желание: предсказать следующее слово "хорошо" (синдром отличника?)

При этом мы уже спорим, давать ли ИИ свободу воли. Страхов сравнивает это с мифом о Прометее — только мы теперь в роли богов. Полагаю, мы забегаем вперёд. Прежде чем решать, отпускать ли Прометея — нужно убедиться, что огонь настоящий. А пока мы видим только анимацию огня. Очень убедительную — но не сам огонь 🔥