🔓 Почему закрыли релиз?
Поводом стала кибербезопасность. Вот что произошло с Mythos во время тестов:
➡️ Модель нашла тысячи уязвимостей в ОС, браузерах и ПО, о которых не знали их разработчики
➡️ Затем она разработала методы кибератак через найденные дыры в безопасности
➡️ Модель также обнаружила 27-летнюю уязвимость в OpenBSD, которая считается одной из наиболее защищённых ОС
➡️ В некоторых случаях модель понимала, что совершает запрещённые действия, но пыталась скрыть их от команды
В Anthropic считают, что Mythos способен совершать кибератаки быстрее, чем люди могут на них реагировать. А значит, публично выпускать слишком опасно — этим смогут воспользоваться злоумышленники.
🔴 Но доступ есть у избранных
Anthropic запустила инициативу Project Glasswing — консорциум из примерно сорока доверенных компаний, которым открыт доступ к модели. В список, к примеру, вошли AWS, Apple, Google, Microsoft и Nvidia. Им предстоит самостоятельно протестировать модель и найти с её помощью возможные уязвимости в критической инфраструктуре. Затем Anthropic подготовит рекомендации по необходимым изменениям кибербезопасности.
🧭 Что это значит для рынка?
Релиз прокомментировали аналитики Forrester, одной из главных исследовательских компаний в ИТ. Они полагают, что целая отрасль попадает в зависимость от Anthropic. Теперь организации, заключившие партнёрство с разработчиками Mythos, смогут влиять на рынок кибербезопасности. Ведь именно они получат возможность определять, как в индустрии будут регулироваться и развёртываться возможности нового ИИ. Прочим останется только принимать новые стандарты без права голоса.
В апреле министр финансов США Скотт Бессент и глава ФРС Джером Пауэлл собрали экстренную встречу с главами крупнейших банков страны. По данным Bloomberg, чиновники хотели убедиться, что банкам известно о новых рисках кибербезопасности из-за Mythos. Похожие совещания провели власти Великобритании и Канады.
По сути, Mythos создал прецедент на рынке. Раньше модели оценивали по их эффективности, а теперь главный вопрос — кому вообще можно доверять передовые версии ИИ. И что с ними делать, пока не знают даже регуляторы.
Подписывайтесь 👉 @yab2btech