В субботу гендиректор Anthropic Дарио Амодеи призвал разработчиков ИИ замедлить развитие технологий на фоне растущих рисков «сверхразумных» систем.
«Мы должны замедлить темпы наращивания возможностей моделей ИИ. Прогресс всё равно будет казаться быстрым, и нам нужно разумно распорядиться временем, которое мы выиграем», - заявил Амодеи, отметив, что ИИ несёт серьёзные риски из‑за своей мощности. Отказ от разработки, по его словам, лишит человечество выгод или отдаст ИИ авторитарным режимам, а слишком быстрый запуск безответственен. Основанная им Anthropic, создавшая Claude, пыталась идти по срединному пути, но за последние месяцы он убедился: для управления рисками нужна ещё большая осторожность.

Заявление Амодеи перекликается с более ранними призывами притормозить разработки. В конце июля глава конкурирующей OpenAI Сэм Олтман допустил, что разработчикам, возможно, придётся добровольно сбавить темп, чтобы общество успело адаптироваться. В июне более тысячи сотрудников ведущих ИИ‑компаний подписали петицию с просьбой к правительству США помочь «целенаправленно регулировать темпы развития передовых автоматизированных систем ИИ». А в начале недели тревогу забил Джейкоб Коксон, три года занимавшийся предобучением моделей: сначала он работал в OpenAI, затем перешёл в Anthropic, считая её более осторожной. «Ни одна из этих компаний не ведёт себя ответственно. Они мчатся прямо к самоулучшающемуся сверхразуму и играют нашими жизнями», - заявил он во вторник, добавив, что создатели ИИ всерьёз считают: технология может убить всех к концу десятилетия.

Публичные призывы глав ИИ-компаний к регулированию собственной деятельности стоит разъяснить. Работы в компаниях идут полным ходом, но не достигают ожидаемых экономических, а главное технических целей. Публичный алармизм руководителей и специалистов дает возможность объяснить инвесторам задержки и освоить новые бюджеты. Вторая явная цель этого шума - создать видимость «общественного контроля» работы ИИ. Она даст необходимую компаниям юридическую амнистию и размывание ответственности в судах от уже проявившихся негативных последствий деятельности ИИ. Больше всего руководители ИИ -компаний боятся разочарования инвесторов, т.к. для них это сопоставимо с выключением двигателя летящего самолета. Они готовы придумывать истории прогресса в работе ИИ и выкатывать новые версии своих моделей. Готовы привлекать внимание рынка громкими событиями по переманиванию специалистов и обвинять друг друга в краже идей и ресурсов в надежде этими событиями пролонгировать терпение инвесторов.