Anthropic разобрали как создать ИИ-агентов для торговли и сами рынки для агентов

Команда рассказывает о своем эксперименте, как некоторые сотрудники компании принесли книги, которые готовы были отдать кому-то. В начале каждый из участников эксперимента коротко поговорил с Claude о своих предпочтениях в чтении.

А дальше агенты пошли на торговую площадку, где должны были меняться книгами от имени людей.

По короткому чату агенты восстанавливали предпочтения людей лучше, чем случайное угадывание, но этой точности всё равно не хватило. 85% отклонения от оптимального результата объяснялось именно неполным пониманием человека,его портрета.

Исходя из этого Anthropic говорит, что:

Для дизайна агентов нужны протоколы проверки: насколько хорошо агент понял человека, от чьего имени действует.

А для дизайна рынков нужны правила: кто может заходить, что кому видно, что происходит, если сделка срывается.