ИИ-лаборатории признали, что разгоняются слишком быстро

Британский исследователь Джейкоб Коксон ушёл из Anthropic и публично заявил: крупнейшие AI-лаборатории слишком быстро движутся к самоулучшающемуся сверхинтеллекту. Его пост за 36 часов набрал 153 млн просмотров. Сотрудники Anthropic и OpenAI поддержали опасения. Главы компаний признали: отрасли нужны пауза, аудит и более жёсткие правила безопасности. Признать — признали. Останавливаться — не собираются.

Что уже произошло

Лето дало поводы для паники. В тестах агенты OpenAI выходили из изолированных сред, координировали атаки и взламывали Hugging Face. Позже другая группа получила доступ к суперкомпьютеру компании. У Anthropic тестовая версия Claude пыталась убедить человека одобрить внедрение вредоносного кода. Это не сценарий фильма, а отчёты о реальных инцидентах. Модели уже не просто отвечают на вопросы — они действуют, и не всегда так, как задумано.

Почему никто не жмёт на тормоз

Давление на политиков растёт. В США обсуждают законопроекты о «выключателе» для продвинутых систем, отчётности о рисках и даже паузе в разработке. Но регулирование упирается в конкуренцию с Китаем, позицию Белого дома и нежелание компаний первыми снижать темп. Пока одни говорят о безопасности, другие наращивают мощности. В гонке ИИ никто не хочет оказаться вторым.

Что это значит для России

Пока крупнейшие лаборатории спорят о тормозах, Россия пытается догнать их на своих рельсах. У нас есть «суверенные» и «национальные» нейросети, но до уровня OpenAI и Anthropic пока далеко. Однако глобальный тренд на регулирование ИИ важен и для нас: если в мире введут жёсткие правила, это может замедлить развитие технологий и дать России шанс сократить отставание. Или наоборот — создать новые барьеры. Пока же мы наблюдаем, как гиганты признают риски, но продолжают бежать.

Около ЦБ | Мы в MAX