Война за AI

Правительство США заставило компанию Anthropic выключить две своих самых современные языковые модели – Mythos и его публичную версию Claude Fable 5, зарелиженные на прошлой неделе. В Anthropic заявили, что получили предписание, требующее ограничить доступ иностранных граждан к моделям как представляющие угрозу национальной безопасности. При этом конкретные подробности относительно угроз национальной безопасности предоставлены не были. В ответ компания, не имеющая возможности верифицировать гражданство пользователей, полностью закрыла доступ к моделям для всех.

По слухам, речь идёт о том, что в правительстве США опасаются использования новых моделей для проведения кибератак со стороны китайцев. Однако является ли это реальной заботой о безопасности или местью со стороны администрации Трампа – судить рано. Отношения Anthropic с правительством Трампа испортились после того, как компания отказалась предоставить американским военным право использовать свои модели для внутреннего наблюдения. В ответ правительство внесло Anthropic в «черный список» поставщиков.

В Anthropic строят образ этической и ответственной ИИ компании и начали сближение с религиозными и гуманитарными институтами, ведущими дискуссию об общественном контроле за развитием технологий. Еще в прошлую среду компания опубликовала заявление о необходимости сдерживания развития ИИ. И вот, по иронии судьбы, или в ответ на собственное заявление первой столкнулась с государственным регулированием на практике.

Недооценивать произошедшее не стоит, мы видим как государственные институции вступают в войну за технологии. Технологии, которые в хороших руках могут послужить базисом для развития по-настоящему прогрессивного общества. А в плохих – помогут диктаторам во всем мире строить те самые пресловутые «цифровые концлагеря» всем нам. Уже сейчас мы видим массовое использование ИИ для создания фейк ньюс, политической агитации и провокаций. Вооруженные силы всего мира заинтересованы во внедрении ИИ и заключают многомиллиардные контракты с компаниями типа OpenAI, ранее также заявлявшими о собственных этических принципах (собственно Anthropic и был создан бывшими сотрудниками OpenAI, недовольными коммерциализацией стартапа).

Один из главных вопросов ближайших лет – можно ли отказаться строить цифровую клетку для человечества, за которую готовы платить самые богатые клиенты?
_____

Подписаться | Обсудить | Помочь