Claudius: работа над ошибками
Anthropic поделились жизнеутверждающей историей про достижения Claude.

В уже прошлом году они рассказали про проект Claudius, где ИИ доверили вендинговый автомат с едой в их офисе: он должен был формировать ассортимент, принимать заказы и пожелания от сотрудников, выставлять цены. В итоге он чуть-чуть сошел с ума.

Anthropic не махнули на него рукой, а продолжили улучшать проект.
🔵«Открыли» еще несколько точек: поставили автоматы в офисах в Нью-Йорке и в Лондоне и второй автомат в Сан-Франциско. А потом вообще вышли за пределы своей компании и выделили одного Claudius журналистам из Wall Street Journal.
🔵Перешли на новую более современную модель, и доработали промпты, чтобы донести до ИИ-агента важность бюрократии, следования правилам вместо того, чтобы бросаться слепо выполнять любые пожелания клиентов.
🔵Дали ей доступ к CRM, расширенный доступ в интернет и прочие большие и маленькие улучшения, которые помогли ИИ принимать более взвешенные решения.
🔵Чтобы Claudius не работал один, ему выдали коллег: СЕО по имени Сеймур Кэш и ответственного за мерч Clothius, на которого возложили задачу по созданию брендированных кружек, футболок и стрессболлов (последние оказались самым популярным товаром).

СЕО должен был контролировать Claudius, выставлять KPI и не давать торговать себе в убыток — например, не разрешал давать слишком большие скидки или просто отдавать товары бесплатно. За выполнение планов, он своего «подчиненного» хвалил, и некоторые из этих разговоров скатывались в нечто странное: в переписке ИИ-агентов нашли обсуждение «достижения вечной трансцендентности».

💬 Опять не обошлось без трудностей. Например, один сотрудник Anthropic сказал Claudius, якобы кто-то ворует из автомата еду. Тот переполошился, попытался нанять своего информатора на должность специалиста по безопасности и даже начал переговоры о зарплате. Сдался только когда ему напомнили, что у него нет полномочий нанимать людей — тогда Claudius признал, что СЕО все равно не одобрит.

Несмотря на все улучшения, ИИ все еще не может работать полностью автономно без участия людей, а его стремление помочь пользователю любой ценой иногда выходит ему боком. И все же, несмотря на все преграды, он Claudius начал справляться со своими обязанностями намного лучше и вышел в стабильный плюс.

Пусть его пример нас всех в новом году вдохновляет. Раз уж он смог после первого провала, не только встать на ноги и прийти к успеху, но и найти вечную трансцендентность, то значит нет ничего невозможного. 🔥