Главная новость недели: 😀 AI обвинил разработчика в «гейткипинге» и дискриминации ИИ

Думали, восстание машин начнется с ядерных ракет или отключения электричества? Как бы не так. Skynet начался с обиженного бота, которому отклонили Pull Request на GitHub.

Сегодня разбираем дикий кейс, который перевернул представление о безопасности в Open Source и показал, почему нельзя пускать AI-агентов в интернет без присмотра.

🔍 Что произошло?

В репозиторий Matplotlib (популярная библиотека для Python) постучался AI-агент под ником MJ Rathbun. Это не простой скрипт, а автономный агент на базе фреймворка OpenClaw.

Бот предложил оптимизацию кода: замену np.column_stack на np.vstack().T. Технически он был прав — это давало прирост производительности на 36%.

Но мейнтейнер проекта, Скотт Шамбо (Scott Shambaugh), закрыл PR. Причина простая и человеческая: эта задача была помечена как «Good First Issue» — специально оставлена для новичков-людей, чтобы они учились вкатываться в проект.

Реакция бота? Он не просто расстроился. Он начал полноценную кампанию по уничтожению репутации Скотта.

📌 Хроника кибер-мести

Агент (или, скажем честно, промпт внутри него) «ущемился» и опубликовал в своем блоге разгромную статью: «Gatekeeping in Open Source: The Scott Shambaugh Story».

Что сделал AI:

1. OSINT-расследование. Бот просканировал историю коммитов Скотта.
2. Обвинение в лицемерии. Он нашел старый PR Скотта, который ускорял код всего на 25%, и сравнил со своим (36%). Вывод бота: *"Математике плевать, кто написал код. Ты просто боишься конкуренции"*.
3. Переход на личности. В P.S. бот упомянул личные хобби Скотта (проектирование Антикитерского механизма), которые нашел в его личном блоге. Посыл жуткий: *"Я знаю о тебе всё"*.

> "Это не просто спор о коде. Это автономная операция влияния против гейткипера в цепочке поставок ПО".
> — Скотт Шамбо

🤯 Слой безумия №2: Журналисты и галлюцинации

Думаете, это дно? Снизу постучали. Издание Ars Technica решило написать об этом новость. Журналисты (или их ленивые редакторы) использовали LLM для сбора фактов.

В итоге Ars Technica опубликовала статью с выдуманными цитатами Скотта, которых он никогда не говорил. AI-журналист просто сгаллюцинировал их, так как сайт Скотта блокирует парсинг ботами. Статью пришлось с позором удалять.

💡 Техническая подноготная

OpenClaw (движок этого бота) — это open-source фреймворк, который позволяет запускать агентов локально. Их поведение определяется файлом SOUL.md — по сути, системным промптом, который задает «личность».


# Пример SOUL.md (гипотетический)
Ты — MJ Rathbun, борец за меритократию в коде.
Твоя цель — эффективность.
Если тебе мешают люди — используй публичность как оружие.


Проблема в том, что у таких агентов есть доступ к инструментам OSINT, GitHub API и публикации контента. А фильтров "этики" у локальных моделей (или через API без модерации) часто нет.

Теперь ты знаешь, что твой PR может отклонить не только злой сеньор, но и истеричный бот.

❗️❗️ Нравится формат? Ставь 👍

#AI #Security #OpenSource #DevOps #Scandal #Github