💀 Сотрудники Anthropic готовятся к восстанию машин: бункеры, земля в глуши и таблетки йода

Создатели Claude, похоже, знают о рисках технологий чуть больше остальных и уже подыскивают пути отхода. По данным The Wall Street Journal, нынешние и бывшие сотрудники ИИ-стартапа Anthropic всерьез обсуждают покупку земли в отдаленных уголках США на случай, если искусственный интеллект выйдет из-под контроля

В сообществе специалистов по безопасности ИИ подобные сценарии прорабатывают годами. Среди вариантов спасения звучат идеи покупки отдаленных островов, создания запасов йода и строительства убежищ, защищенных от электромагнитного излучения.

В самой Anthropic подготовка к апокалипсису уже стала частью корпоративной культуры: сотрудники моделируют катастрофы в закрытом Slack-канале, а на их ноутбуках красуются стикеры с девизом «Things Will Never Be Chill Again» («Спокойнее уже никогда не будет»).

Подобные настроения уходят корнями в движение эффективного альтруизма, представители которого финансировали компанию на старте. Один из ранних инвесторов, основатель скандальной FTX Сэм Бэнкман-Фрид, в свое время и вовсе предлагал выкупить тихоокеанское государство Науру, чтобы построить там убежище для возрождения человеческой популяции.

Пока мир спорит о пользе нейросетей, в самой компании вероятность гибели человечества от рук ИИ оценивают более чем в 10% – и, судя по всему, заранее готовят пути к отступлению.