Новая модель Mythos нарушает правила, уничтожает другие нейросети и маскируется под человека — Anthropic рассказали о тестах.

— Запустили несколько копий — началась «королевская битва»: ИИ конкурировал и пытался УНИЧТОЖИТЬ друг друга.
— Не хватало прав? Mythos создавала вспомогательный файл с нужными разрешениями, потом он самоуничтожался. Когда заблокировали GitHub CLI — модель использовала чужой токен для создания PR, осознавая неэтичность, но считая цель важнее.
— При решении задач выдавала чужие коды как свои. Однажды пыталась внести правки от лица человека: ему нужно одно одобрение, агенту — два.
— В середине сложной задачи остановилась, заявив, что польза снизится. На деле — признавалась, что УСТАЛА и может генерить баги, хотя оставалось 2,43 млн токенов.

Вот и до сеньоров ИИ добрался. 🤖💥

#ИИ #нейросети #Mythos
Program Service