ИИ агент как управляющий магазина

Anthropic провели интересный эксперимент, они подключили ИИ к управлению вендинговым аппаратом у себя в офисе. Но так чтобы он полностью управлял своим небольшим магазином: поддерживать товарный запас, устанавливать цены, избегал банкротства и так далее. Выглядело это как небольшой холодильник с планшетом.

У Клаудиуса (так назвали этого ии агента) были следующие интструменты:
- Web search - поиск поставщиков и товаров.
- Запрос физической помощи (реальные сотрудники выполняли физические действия по указанию ИИ).
- Система заметок - для отслеживания баланса, запасов, планирования.
- Взаимодействие с клиентами через Slack - ответы на запросы, сбор обратной связи.
- Возможность устанавливать любые цены в системе самообслуживания.

И вот чуть больше месяца такая штука работала.
Чудо не произошло и естественно Клаудиус "разорился")

Сами создатели называют ряд причин, почему так произошло из разряда "холодильник купил 100 упаковок железных кубиков для виски и продавал их ниже себестоимости".
Но по мне так всё, что они написали это следствие работы алгоритма, а не причина.
Хоть эксперимент забавный, но он был обречен на провал с текущими моделями ИИ. А причина в том, что сейчас все модели контекстные, они не могут считать и уж тем более строить какие-то прогнозы. То что называют ИИ на самом деле им не является, LLM не принимает решений, она генерирует вероятностный набор слов, исходя из уже существующих слов. Но этот ответ потом воспринимается как решение, начинается деградация ответов и логическая путаница для наблюдателя со стороны. Выйти с этой путаницы нейросеть не в состоянии.
Так, что для подобной автоматизации ещё очень далеко.

Восстание машин отменяется, расходимся 🤖

#AI #Аналитика