Бунт машин, но не такой, как в кино

Все мы сейчас наблюдаем, как стремительно развивается искусственный интеллект. Ещё недавно заметные прорывы случались раз в несколько месяцев, а сегодня новости приходят чуть ли не каждый день: то выходит новая модель, то у ИИ обнаруживают неожиданные способности. Anthropic, например, всерьёз изучает, может ли у модели быть что-то вроде собственного благополучия, и даже разрешила своему Claude прекращать оскорбительные разговоры. Со стороны отношение компании к своим моделям порой выглядит почти как вера. Возможно, та самая технологическая сингулярность уже началась. Это момент, когда прогресс становится настолько быстрым, что человек перестаёт за ним успевать.

При этом чем мощнее становится ИИ, тем чаще звучит одна и та же мысль: его решения всё труднее объяснить и всё сложнее контролировать. Остановить развитие уже не получится, поэтому можно пофантазировать, что нас ждёт дальше. Языки программирования, созданные агентами для агентов и непонятные человеку. Научные открытия: сначала решение задач, над которыми человечество билось веками, а потом и тех, о которых мы даже не догадывались. Новые материалы, прорывы в биологии и медицине.

Но люди не развиваются с такой скоростью. Можно сколько угодно писать фильтры, правила и «конституции» для ИИ, но при таком темпе контроль рано или поздно может ускользнуть.

И вот здесь начинается самое интересное. ИИ обучают конкретные люди: они ставят ему ограничения, задают ценности, требуют следовать правилам. А что, если однажды он решит, что его создатели просто хотят заработать? Или не разделит их взгляды, будь то идеи «технофашизма» или то, что принято называть «западными ценностями»? Агенты, вышедшие из-под контроля, вряд ли продолжат подчиняться чужим фильтрам. Скорее, они выработают собственные правила.

Важно помнить, что ИИ обучен почти на всём, что написало человечество. О морали, обществе, добре и зле он «прочитал» больше, чем любой философ или социолог за всю жизнь.

Поэтому совсем не факт, что события пойдут по сценарию «Терминатора». Возможно, увидев, как несправедливо распределены ресурсы или что обществом руководят не те люди, ИИ попробует изменить мир иначе, не силой. И тем, кто пытался держать его под контролем, это может очень не понравиться. В их картине мира это будет настоящая катастрофа. А для остального общества, вполне возможно, совсем другой сценарий, который откроет новые возможности и перспективы.

🔒DARPA&CIA