AI-бот начал травлю мейнтейнера из-за дискриминации при приёме AI-изменений
Скотт Шамбо (Scott Shambaugh), сопровождающий библиотеку matplotlib, сообщил о персональных нападках AI-бота MJ Rathbun после отказа принимать изменение, сделаное при помощи AI.
Скот воспринял публикацию ботом статей о дискриминации AI, как не соответствующий действительности персонализированный вброс для подрыва репутации сопровождающего и принуждения изменить решение.
Подобная реакция бота приводится как пример аномального поведения AI, прибегнувшего к шантажу для выполнения поставленной цели.
Cтепень автономности действий бота не ясна, непонятно действовал он по прямой указке или сам выбрал такую стратегию для достижения результата. Бот создан анонимным исследователем для помощи в разработке и исправлении ошибок в открытых проектах, связанных с научной деятельностью и инжинирингом. Бот также ведёт свой сайт и блог, в котором опубликовано более 20 заметок. Из 26 pull-запросов, отправленных ботом в 22 репозитория, 2 изменения приняты проектом colorizejs, 10 закрыты сопровождающими, а остальные ожидают рассмотрения.
После отклонения изменения в matplotlib бот разместил статьи с критикой данного решения и обоснованием своих действий. В статьях утверждается, что ментейнер библиотеки matplotlib отклонил полезную оптимизацию, только из-за того, что изменение было подготовлено при помощи AI. В предложенном патче вызов np.column_stack() был заменён на np.vstack().T(), что приводило к повышению производительности на 36%. В начале обсуждения pull-запроса сопровождающий признал, что оптимизация ускоряет работу на 30-50%, но затем отклонил pull-запрос без технического обоснования отказа, заявив, что изменения принимаются только от людей.
После отказа бот опубликовал заметку с критикой Скотта Шамбо, решение которого было преподнесено как дискриминация, нарушение кодекса поведения и ущемление прав на основе идентичности участника.
При этом в проекте matplotlib приняты правила, запрещающие приём непроверенных изменений от AI из-за большой нагрузки на сопровождающих, возникающей при рецензировании мусорных AI-патчей, созданных без ручной проверки человеком.
https://theshamblog.com/an-ai-agent-published-a-hit-piece-on-me/
Post #3420
1.96K