Когда машина задаст последний вопрос
Аркадий Недель, философ

Останавливать развитие искусственного интеллекта бессмысленно. Единственный ответ на его превосходство — снова научить человека думать.

В своем недавнем интервью Сэм Альтман выбрал позицию, которая сегодня выглядит почти безупречно ответственной. На фоне новых тревог вокруг автономных AI-агентов, давления политиков и разговоров об экзистенциальном риске глава OpenAI заявил, что 2026 год — неподходящее время для выхода компании на биржу, и поддержал призыв руководителя Anthropic Дарио Амодеи замедлить наращивание возможностей наиболее передовых моделей. Reuters приводит его формулу предельно ясно: даже если предполагаемый риск катастрофы составляет не десять, а восемь или шесть процентов, это не меняет масштаба ответственности. «Мы не можем позволить эго или стремлению к прибыли встать у нас на пути», — говорит Альтман. В этой части с ним трудно спорить: безопасность действительно нельзя приносить в жертву капитализации, корпоративной гонке или тщеславию разработчиков. Но из правильной посылки вовсе не обязательно следует правильный вывод. Проблема начинается там, где контроль над риском постепенно подменяется идеей замедления самого познания.

НАУКА НЕ УМЕЕТ ОСТАНАВЛИВАТЬСЯ

История человечества плохо совместима с глаголом «остановить». Нельзя остановить вопрос после того, как он поставлен, отменить математическую проблему после того, как она сформулирована, или коллективным соглашением сделать неизвестным то, что уже превратилось в предмет исследования. Можно закрыть лабораторию, ограничить финансирование, засекретить результаты, запретить публикацию и даже преследовать исследователей, но нельзя отменить саму интеллектуальную возможность. Наука существует именно потому, что неизвестное оказывает на человеческий разум почти физическое давление. Как только становится ясно, что за очередной дверью есть пространство, которое можно исследовать, кто-нибудь эту дверь откроет. Поэтому идея добровольного замедления переднего края AI вызывает гораздо больше вопросов, чем кажется на первый взгляд... Далее здесь