Кризис доверия. Часть 1: как нейросети ломают общественный договор открытого веба

Современный веб столкнулся, пожалуй, с самой серьезной угрозой за все время своего существования. Долгое время в вебе действовал общественный договор открытой системы, когда каждый имел неограниченный доступ к любым ресурсам, но с приходом ИИ все изменилось.

Многие склонны недооценивать проблему или считать ее надуманной, но это не так. Да, боты, парсеры и краулеры были и ранее, но это были скрипты с четко заданной логикой, которые имели определенные паттерны поведения, пусть даже и сложные, по которым успешно детектировались.

Если говорить научным языком – это были детерминированные системы, которые при одинаковых входящих данных выдавали одинаковый результат. К тому же они были дороги в разработке. Написать скрипт с десятком-другим сценариев – это были недели работы программиста.

Сегодня на смену им пришли ИИ, современные боты, по сути, представляют headless-браузер под управлением LLM, который полностью имитирует поведение человека: формирует задержки, плавно перемещает курсор, прокручивает страницу и идет по визуальной структуре, а не по разметке.

Стоимость производства такого бота тоже близка к нулю, любая нейросеть напишет его вам за пару часов (с отладкой) и в итоге вы заплатите только за токены или вообще подключите его к локальной LLM.

Все это серьезно меняет правила игры и крайне негативно сказывается на экономике веба. Спектр их возможностей пугает и проще перечислить не то, что они могут, а то, чего они пока не умеют. Потому что могут они многое. Начиная с банального флуда в комментариях и парсинга контента, заканчивая перехватом билетов, товаров на распродажах и т.д. и т.п.

Также ИИ-боты несут непосредственную угрозу платформам с контентом, генерируемым пользователями, просто забивая его нейрослопом, который сегодня уже достаточно трудно отличить от контента, написанного человеком.

Они могут качественно воровать контент, на лету делая глубокий рерайт, могут накручивать голосования, генерировать отзывы и всячески искажать поведенческие факторы.

Если ничего не предпринимать, то очень скоро на каждого живого пользователя сети будет приходиться десяток ИИ-ботов. Что просто убьет экономику современного веба.

Фактически это будет реализация теории «Мёртвого интернета» (Dead Internet Theory), т.е. сети, в которой генерируют и потребляют контент боты, они же комментируют и голосуют и делать живому человеку в таком вебе нечего.

Первое, что приходит на ум – это закрыть контент с требованием обязательной аутентификации, желательно такой, которую бот не сможет пройти или проходить которую будет дорого.

Но это сразу убьет саму концепцию веба – открытой гипертекстовой сети. Во-первых, закрытый контент крайне затрудняет SEO, а требование регистрации или аутентификации негативно действует на поведенческие факторы.

Действительно, мало кто захочет оставлять данные о себе на непонятном сайте просто для того, чтобы прочитать единственную статью, тем более проходить сложную регистрацию.

Во-вторых, это резко усложняет жизнь веб-мастерам, так как они вступают на скользкую тропу операторов персональных данных и не все способны технически обеспечить необходимый уровень безопасности.

Плюс все это меньше всего нравится рекламодателям, которые просто понесут свои деньги в другое место. А нет денег – нет качественного профессионального контента. Нет контента – нет трафика, нет трафика – нет рекламы. Нет рекламы – нет денег. Круг замкнулся.

Поэтому новые времена требуют новых подходов, о которых мы поговорим в следующей части.