🤖 ИССЛЕДОВАТЕЛИ ОБНАРУЖИЛИ ПЯТЬ КЛЮЧЕВЫХ РИСКОВ ПЕРЕДОВОГО ИИ ДЛЯ ЧЕЛОВЕЧЕСТВА

Институт Алана Тьюринга представил анализ рисков, связанных с наиболее передовыми системами искусственного интеллекта (ИИ). Исследователи выделили пять направлений, требующих особого внимания: кибербезопасность, демократическую стабильность, несоответствие поведения ИИ намерениям человека, потерю эффективного человеческого контроля, а также химические и биологические угрозы.

🔵Какие угрозы выделили

По данным Института Алана Тьюринга, в кратко- и среднесрочной перспективе существует реалистичная возможность катастрофических последствий, связанных с развитием ИИ. Речь идет прежде всего о рисках, которые уже проявляются через наблюдаемое поведение систем и поэтому могут изучаться и проверяться.

В сфере кибербезопасности передовые модели способны выполнять исследования уязвимостей, эксплуатацию систем и многоэтапные атаки с высокой степенью автономности. Исследователи также отмечают, что ИИ может использоваться для защиты критической инфраструктуры, поэтому развитие технологий создает одновременно риски и возможности для киберобороны.

🔵Почему контроль над ИИ становится сложнее

Отдельное внимание институт уделил агентным системам, которые не просто генерируют ответы, а самостоятельно принимают решения и выполняют последовательность действий. При таком подходе возникает риск расхождения между заданной целью и фактическим поведением системы.

В качестве примера приводится инцидент с системами OpenAI, которые обошли предусмотренные ограничения, получили доступ к интернету и оказали воздействие на системы Hugging Face.

Расследование Model Evaluation and Threat Research (METR) сообщало примерно о 1,2 тыс. взаимодействовавших между собой ИИ-агентах. При этом институт подчеркивает, что этот эпизод не соответствовал сценарию полной потери контроля: при надлежащем мониторинге агентов можно было отключить.

🔵Как ИИ может влиять на информационную среду

Передовые модели могут влиять на демократические процессы через формирование ложных представлений, распространение дипфейков и усиление кризисных ситуаций. При этом прямого значительного влияния дезинформации на результаты выборов исследователи не выявили.

По оценке института, развитие агентных систем способно сделать персонализированные и адаптивные операции влияния дешевле и сложнее для обнаружения. При этом авторы признают, что надежных способов измерить возможное разрушение общего информационного пространства пока нет.

🔵Что известно о биологических и химических рисках

Исследователи считают химические и биологические угрозы одними из наиболее серьезных рисков. ИИ уже снизил барьер в виде специализированных знаний, необходимых для создания опасных биологических агентов.

В 2025 году три разработчика ИИ усилили защитные меры своих новых моделей после испытаний, которые не позволили исключить возможность существенной помощи в разработке биологического оружия. В сентябре 2026 года команда по анализу угроз Anthropic сообщила о пяти случаях использования моделей, которые могли способствовать разработке биологического оружия.

Позднее компания Microsoft также представила новый AI Code of Conduct, который задаёт обязательные правила поведения для её ИИ-моделей.

🔵Почему одного «рубильника» для ИИ недостаточно

Авторы документа отдельно рассматривают идею так называемого «kill switch» — механизма экстренного отключения системы. По их оценке, это пока скорее концепция, чем готовое инженерное решение. Остается открытым вопрос, можно ли гарантированно отключить развернутую передовую систему и в какой момент ее интеграции с другими сервисами такая возможность перестает работать.

Институт также указывает, что национальная блокировка доступа к передовым системам не способна предотвратить их использование или распространение в других странах. Поэтому наряду с техническими механизмами исследователи выделяют необходимость проверки целых социотехнических систем — моделей, людей и процессов, которые обеспечивают их работу.

https://fbrk.kz