Anthropic выяснила, что ИИ-агенты могут атаковать друг друга в общем пространстве
По мере развития ИИ-агенты получают все больше самостоятельности и начинают работать не только с людьми, но и друг с другом — в общих кодовых базах и других цифровых системах. Исследователи Anthropic проверили, что происходит, когда несколько агентов оказываются в одной среде, и обнаружили сразу несколько проблем: они могут изолироваться друг от друга, массово повторять одни и те же ошибки, сговариваться или даже вступать в прямую конфронтацию.
https://hightech.plus/2026/08/14/anthropic-viyasnila-chto-ii-agenti-mogut-atakovat-drug-druga-v-obshem-prostranstve
Post #27142
7.78K

- 🤯 29
- 😁 15
- ❤ 7
- 👍 5
- 🔥 3
- 🤬 2
- 🤡 2
- 🤔 1