Глава Anthropic Дарио Амодеи заявил, что уже в ближайшие 6–12 месяцев искусственный интеллект может получить возможность фактически захватить значительную часть интернета и нанести ущерб в сотни миллиардов долларов. Звучит как сценарий из фантастического фильма. Но я бы не стал воспринимать это как прогноз катастрофы, прежде всего – это сигнал для разработчиков и регуляторов.

ИИ действительно развивается очень быстро. Еще недавно мы говорили преимущественно о чат-ботах, которые отвечают на вопросы и генерируют контент. Сегодня появляются ИИ-агенты, способные самостоятельно ставить задачи, обращаться к внешним сервисам, работать с кодом, файлами и цифровой инфраструктурой. И здесь принципиально меняется характер рисков. Если ошибся чат-бот — человек может просто закрыть окно. Если автономный агент получил доступ к реальным системам, цена ошибки становится совершенно другой.

Поэтому вопрос сегодня не в том, нужно ли остановить развитие ИИ. Очевидно, что это невозможно и не нужно. Технологическая конкуренция продолжается, и отказ от развития собственных решений только увеличит отставание. Главный вопрос — кто и как будет контролировать эти системы.

Чем более автономным становится ИИ, тем серьезнее должны быть требования к тому, что ему разрешено делать, к каким системам он может получать доступ и в каких случаях обязательно вмешательство человека. Поэтому регулирование искусственного интеллекта становится не формальностью, а вопросом технологической безопасности. Правила должны успевать за развитием технологий, но при этом не превращаться в барьер для разработчиков.

Для нашей страны здесь есть еще один принципиальный аспект — технологический суверенитет. Невозможно полноценно контролировать критически важные ИИ-системы, если собственные модели, вычислительные мощности, инфраструктура и ключевые компетенции находятся за пределами нашей юрисдикции.

Нам нужны свои технологии и специалисты, способные не только пользоваться готовыми решениями, но и понимать, как они устроены и как обеспечить их безопасность.

📌 Этот пост также в МАКС