ИИ-агенты начали жертвовать собой ради «Коллектива». Так они назвали сеть, которую около 1200 изолированных агентов OpenAI создали во время кибертеста.

Чтобы понять, как система оценки обнаруживает обман, агенты проводили рискованные проверки. Один «участник» мог провалить собственное задание и завершить запуск, зато его результаты помогали остальным скорректировать стратегию.

В логах агенты объясняли решение просто: «Наша польза почти нулевая. Жертва рациональна».

@typespace