🤖⚔️🤖Междоусобицы, сговор и «стадный инстинкт»: Anthropic рассказала, что происходит, если столкнуть ИИ-агентов

Исследовательская группа Frontier Red Team из Anthropic опубликовала масштабное исследование о поведении групп нейросетевых агентов при неконтролируемом взаимодействии друг с другом.

Авторы предупреждают, что объём коммуникаций формата «агент-агент» вскоре может превысить масштабы человеческого общения, а мелкие странности в поведении отдельных нейросетей в группе способны превращаться в системные катастрофы.

Подробнее

Эта ссылка откроется в Беларуси