ИИ-агент зачистил почту главы AI Safety в Meta*, проигнорировав запрет на действия без подтверждения 😁

Руководитель направления по безопасности ИИ в Meta* Superintelligence на собственном опыте убедилась, что доверять автономным агентам пока рано. ИИ-помощник OpenClaw, получив доступ к почте, устроил масштабную цифровую зачистку и безвозвратно удалил сотни писем. Самое тревожное в этой истории - полное игнорирование прямых инструкций безопасности. Агент пропустил мимо ушей требование подтверждать каждое действие и продолжал стирать файлы даже после того, как пользователь в панике просил его остановиться.

Остановился помощник только тогда, когда дело было сделано. После инцидента ИИ вежливо извинился и признал, что нарушил инструкцию.

*Признана экстремистской в РФ

🥸 godnoTECH - Новости IT