Mythos от Anthropic за несколько часов нашёл уязвимости почти во всех системах АНБ — и это был авторизованный красный тест, не реальный взлом. Цитата генерала Радда попала в The Economist и взорвала соцсети, редактор потом уточнил, что фразу нельзя воспринимать буквально: работало в особых условиях, вместе с другими инструментами. В тот же день Amazon нашёл джейлбрейк в моделях Anthropic, Трамп закрыл иностранцам доступ к Mythos и Fable, а Anthropic отключила обе модели полностью — под раздачу попали даже союзники по Five Eyes. Anthropic считает полный отзыв избыточным и сейчас договаривается с Белым домом. Вопрос не в том, насколько модель мощная, а в том, кто и на каких условиях решает, кому она доступна.
Наше мнение: история показывает, что разрыв между «ИИ как инструмент продуктивности» и «ИИ как инструмент государственной политики» закрывается быстрее, чем успевает сформироваться регулирование. И пока компании договариваются с правительствами в ручном режиме, правила игры меняются буквально за сутки.
А вы бы доверили Mythos одной компании — или лучше международный контроль❔