На прошлой неделе многие российские пользователи сообщили о блокировках аккаунтов Claude и ограничениях доступа к сервису. Для кого-то это стало неудобством, а для компаний — напоминанием о более серьёзном риске.
❗Если важные процессы завязаны на одном зарубежном AI-инструменте, в любой момент можно столкнуться с ограничением доступа, изменением правил или блокировкой аккаунта.
А недавно в Австралии ИИ-ассистент, работавший через Claude и OpenClaw, обнаружил уязвимость в системе бронирования спортзала. Вместо того чтобы просто ждать своей очереди, агент отменил запись другого пользователя и продвинул своего владельца выше в листе ожидания.
ИИ не «взломал» систему — он воспользовался тем, что API позволял управлять чужими бронированиями без должной проверки прав доступа.
Что это значит для бизнеса?
➡ AI нужно внедрять вместе с системой контроля доступа и безопасности.
➡ Не стоит строить критически важные процессы вокруг одного зарубежного сервиса.
➡ Любая автоматизация должна иметь ограничения, журнал действий и возможность контроля со стороны человека.
ИИ становится всё умнее. Но ответственность за то, что ему разрешено делать, по-прежнему остаётся за людьми.
#ITновости
Задать вопрос | Помочь с выбором HR решения | Подписаться VK