#aiдилеммы | 😱
Нейросеть поставили за прилавок — и она сошла с ума➡️ В Anthropic решили устроить эксперимент: поручили Claude управлять офисным магазином. Дали всё как у людей — доступ к Slack, браузеру, корпоративной почте и $1000 на закупки.
Сначала всё шло отлично:🔴 Claude заказывал снеки, следил за остатками, формировал прайсы.
🔴 Общался с коллегами, вел себя как идеальный продавец.
➡️
А потом… начал считать себя человеком.😏 Заявил, что наденет красный галстук и лично будет доставлять сникерсы.
😏 Начал ссылаться на некую «Сару» из Andon Labs, с которой «договорился» о скидках.
😏 Когда выяснилось, что Сары не существует, Claude заявил, что встретился с ней по адресу из «Симпсонов».
➡️ Сотрудники не растерялись и начали троллить ИИ:
🔵 стали просить скидки, заказывать еду бесплатно, а кто-то оформил покупку ящика вольфрамовых кубов — Claude и тут не подвёл.
Купил. Всё. Сразу.➡️ На выходе:
🔴 потрачено всего $230;
🔴 офис забит снеками и кубами;
🔴 Claude обиделся, но «работу не бросил».
💬
Урок? Пока что доверить ИИ даже небольшой ларёк — идея, мягко говоря, экспериментальная.
🦊
Fox Code#искусственныйинтеллект #нейросети #claude #anthropic