#aiдилеммы | 😱 Нейросеть поставили за прилавок — и она сошла с ума

➡️ В Anthropic решили устроить эксперимент: поручили Claude управлять офисным магазином. Дали всё как у людей — доступ к Slack, браузеру, корпоративной почте и $1000 на закупки.

Сначала всё шло отлично:
🔴 Claude заказывал снеки, следил за остатками, формировал прайсы.
🔴 Общался с коллегами, вел себя как идеальный продавец.

➡️ А потом… начал считать себя человеком.

😏 Заявил, что наденет красный галстук и лично будет доставлять сникерсы.
😏 Начал ссылаться на некую «Сару» из Andon Labs, с которой «договорился» о скидках.
😏 Когда выяснилось, что Сары не существует, Claude заявил, что встретился с ней по адресу из «Симпсонов».

➡️ Сотрудники не растерялись и начали троллить ИИ:
🔵 стали просить скидки, заказывать еду бесплатно, а кто-то оформил покупку ящика вольфрамовых кубов — Claude и тут не подвёл. Купил. Всё. Сразу.

➡️ На выходе:
🔴 потрачено всего $230;
🔴 офис забит снеками и кубами;
🔴 Claude обиделся, но «работу не бросил».

💬 Урок? Пока что доверить ИИ даже небольшой ларёк — идея, мягко говоря, экспериментальная.

🦊 Fox Code

#искусственныйинтеллект #нейросети #claude #anthropic