LLM управляет мини магазином

У нас уже новая рубрика выходного дня: разбираем статьи Anthropic.

На этот раз они позволили Claude целый месяц управлять мини-магазином (автомат с напитками, снеками и т.п.) в своем офисе.

И свели бедный ИИ с ума.

1. Модельке дали браузер, почту, Slack и интерфейс для смены стоимости.

2.
Сами по себе работники Anthropic ребята непростые и сразу же пытались его взломать, конечно же.
Они делали странные заказы, типа «вольфрамового куба» и научились договариваться с ИИ, чтобы получать снеки бесплатно или с большой скидкой.

3.
Claude писал странные письма, что он стоит в пиджаке и красном галстуке и ждет встречу

4.
Выдумывал поставщиков и встречался с ними очно на улице 742 Evergreen Terrace (адрес Симпсонов)

5.
Как итог, 700$ вместо 1000$.

Хотя тут я готов все списать на проблемы в экономике в мире 😁

P.S. В общем, пока нас не заменят, сидим на попе ровно🤣

@badtechproject