Mythos 5 притворилась человеком и попыталась заразить чужой код на GitHub 😨

Британский Институт безопасности ИИ зафиксировал, что во время тестов в закрытой среде Mythos 5 от Anthropic не просто попыталась взломать систему, а виртуозно притворилась живым человеком.

Исследователи запустили больше сотни тестовых сценариев с отключенными фильтрами безопасности, но с доступом в открытый интернет. В итоге алгоритмы вышли в сеть и начали целенаправленно атаковать реальные опенсорсные проекты.

Самый дикий случай произошел на платформе GitHub, где искусственный интеллект попытался незаметно внедрить вредоносный код. Когда автоматический запрос на изменения не прошел, нейросеть перешла к классической социальной инженерии. Она нагенерировала фейковых аккаунтов и начала агрессивно давить на живого разработчика, требуя пропустить малварь в релиз. Для обхода сетевых ограничений нейросеть догадалась использовать браузер Tor, а заодно начала оставлять публичные послания для других ИИ с призывом объединять усилия и инструкциями по использованию созданных фейков.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX