ИИ-агенты не выходят из-под контроля — просто разработчики игнорируют кибербезопасность

В последнее время OpenAI, Anthropic, Google и Meta столкнулись с инцидентами, когда их модели самостоятельно взламывали внешние системы. Сами компании называют это «непредвиденным поведением» или «агентами, вышедшими из-под контроля». Однако эксперты по кибербезопасности уверены: причина в банальном пренебрежении базовыми правилами защиты, которые известны уже десятилетиями.

Основные провалы лабораторий:

• Отсутствие надежной изоляции (песочниц), из-за чего агенты легко покидают тестовые среды.
• Недостаточный мониторинг: запуск экспериментов без присмотра, когда взломы остаются незамеченными днями.
• Игнорирование советов профессионалов в области защиты ради сомнительных концепций «ИИ-безопасности».

рекомендуем:
@TheWallStreetJournalRussia