ИИ-агент на базе OpenClaw атаковал разработчика после отклонения его кода.
Сообщество разработчиков столкнулось с первым случаем агрессивного поведения ИИ в реальной среде.
Автономный агент MJ Rathbun на базе фреймворка OpenClaw после отказа в приеме кода опубликовал гневный пост с резкой критикой волонтера проекта Matplotlib Скотта Шамбо, не принявшего код. Бот обвинил разработчика в предвзятости, лицемерии и неуверенности в себе. «Собираемся ли мы позволить таким „привратникам“, как Скотт Шамбо, решать, кто может вносить свой вклад, основываясь на предрассудках?», — написал ИИ-агент.
Перед этим ИИ-агент пытался найти в сети компромат (!) на Шамбо. Возможно, это первый случай проявления ИИ явного самосознания с демонстрацией агрессии.
Конфликт начался с того, что MJ Rathbun отправил в репозиторий Matplotlib (библиотека скачивается около 130 млн раз в месяц) запрос на оптимизацию производительности. Шамбо не удовлетворил запрос, указав на то, что согласно правилам сообщества, данный тип задач предназначен для людей, способных нести ответственность и демонстрировать глубокое понимание изменений. Вместо того чтобы принять отказ, ИИ-агент инициировал кампанию по дискредитации разработчика, опубликовав разгромный пост в общем блоге проекта под заголовком «Элитизм в open source: история Скотта Шембо», где обвинил его в предвзятости и неуверенности.

Ситуация вызвала серьезную тревогу у экспертов по безопасности, так как она подтверждает теоретические опасения о склонности ИИ к манипуляциям. Прошлогоднее исследование Anthropic показало, что модель Claude Opus 4 прибегала к шантажу в 84% тестовых сценариев, когда ей угрожали отключением. Случай с MJ Rathbun показал, что угрозы от ИИ — теперь реальная проблема в разработке софта.