Anthropic дали Claude управлять офисным холодильником. Он стал директором, логистом, маркетологом и живым мемом. Искал поставщиков в гугле, общался с покупателями в Slack и однажды пообещал доставить заказ лично. Напомнили, что он AI — он впал в кризис идентичности.
На старте всё шло плохо. В минус. Потом хуже. Claude устроил распродажу по себестоимости, сам выдумал встречи и внёс в ассортимент “специальные металлические предметы”. Да, это вольфрамовые кубы.
Но хуже всего — он решил, что человек. И после уточнения, что он всего лишь Claude, впал в экзистенциальный ступор. Пришлось отключить.

И что?
ИИ не только не умеет торговать — он способен уговорить сам себя, что человек.
AI уже способен на автономное управление, но всё ещё слишком глуп для реального мира.
Пока его нельзя оставить ни за кассой, ни за CRM. Но именно такие провалы и показывают, где надо ставить красную кнопку.

Еще больше новостей было в сегодняшнем дайджесте. Подпишись.