Не успел утихнуть ропот по порезанным книгам, а Anthropic опять собрали хейт — на этот раз вполне публичными действиями со своим же продуктом. Компания анонсировала новую ИИ-функцию: отныне Claude буде помечать "невидимыми цифровыми вотермарками" весь контент, с которым он соприкоснется — даже, если ИИ не является автором текста или кода, а использовался для суммаризации или редактирования. И мол-де эти чудесные отметины не стереть копипастом или переводом, и попросту невозможно самостоятельно удалить, ведь их может увидеть только владелец ключей, то есть, владелец модели.

Многие граждане, утомленные нейро-слопом, приветствовали новую фичу одобрительными аплодисментами — но журналисты уже нашли, кто нет. И, хотя авторы опроса оговариваются, что отказ пользователей от платных подписок на Claude пока не принял заметного масштаба (да и времени мало прошло), те, кто проголосовал ногами, сходятся в одном: они не готовы платить за сервис, который может скомпрометировать всю их работу перед заказчиками и партнерами, ведь цифровые метки не содержат информации об объеме и форме использования ИИ. Все это разом обесценивает оригинальную идею и любые усилия, приложенные к работе человеком, и в некоторых случаях может грозить творцу вполне реальными штрафными санкциями.

Учитывая, что ИИ-инструменты во многих индустриях превратились в новую пластическую хирургию (все пользуются, но говорить об этом не принято), принудительное разоблачение, стоящее доброго имени и заработка, естественно, нивелирует всю пользу от подобной автоматизации.

Продвинутые пользователи сильно недовольны тем, что контроль за инструментом остается полностью в руках Anthropic, у которой хранятся ключи — только специалисты компании могут сказать, есть ли метки в конкретном тексте, и где именно, что вызывает вопросы к прозрачности. Кроме того, многим не нравится, что условия использования сервиса меняются компанией произвольно, без предупреждения и в одностороннем порядке — автоплатеж за кота в мешке в падающей экономике уже мало кто готов себе позволить.

Особо дотошные интеллектуалы обвиняют компанию в бесчестности: ведь в описании новой функции сказано, что цифровые метки не заметны человеческому глазу, и никак не скажутся на качестве генерации. Но критики выяснили, что еще как скажутся — ведь суть "невидимого цифрового вотермарка" в том, что он строится на частотном анализе употребления определенных слов из составленных компанией произвольного списка. То есть, поменяется сам принцип генерации: следующим словом в предложении будет не самое лучшее или общеупотребимое, им может стать слово-маркер, и вы никогда не узнаете, по какому принципу оно здесь выскочило.

Пользователи негодуют: похожие по смыслу слова — совершенно не обязательно одно и то же, и любой лингвист рассмеется вам в лицо, если вы решите доказывать, что одно слово от другого мало чем отличается. Такое пренебрежительное отношение к тексту бесит профессионалов и вызывает вопросы: почему я должен получать не самые лучшие слова в своей нетленке, а те, которые почему-то выгодно здесь вставить Anthropic? Которая что-то там с какой-то стати решила у меня за спиной. 😼

Неловко получилось на фоне очередного заявления Дарио Амодея о том, что главная ценность Anthropic — это "честность", и компания не отступится от неё даже перед лицом системного кризиса доверия к ИИ.

И вой только начался.

В общем, полез в этику, готовь панаму побольше. Обещал всем рай на земле — не забудь сам себя полечить от снобизма.

Сегодня о том, каким будет завтра.
Подписаться 🧬