Недавно прочитал у Романа Нестера пост «Прощай, объективность» про то, что OpenAI планирует внедрить в ChatGPT рекламу и продвижение "партнерского" контента от избранных издателей

При условии, что эта задумка реализуется, высок риск, что ответы модели будут смещены в сторону маркетинговых интересов спонсоров. И это вызывает некоторые опасения, что реклама, интегрированная в ответы ChatGPT, будет казаться органичной частью ответа, и не вся «маркетинговая выдача» будет явно промаркирована как реклама. Тем самым это по сути усиливает манипулятивный потенциал такого ответа от LLM и скрытое влияние на пользователей.

В целом, такой шаг довольно-таки ожидаем и неизбежен. Не хочу звучать как левак, но прозвучу как типичный левак: это закономерный шаг в логике капиталистической системы, задача которой подчинять сущности некоторому императиву прибыли. ИИ-сервисы пойдут таким же путем как и в своё время поисковые системы — включать рекламу для того, чтобы окупить операционные издержки

Кажется в этой же логике может находится и открытие доступа всем желающим к GPT-4o. Видимо, в юнит-экономике монетизация через рекламу потенциально приносит существенно больше, чем платная подписка

Интересно пофантазировать к чему это вообще может привести. Увидим ли мы LLM, в которой будет через аукционную модель реализовываться возможность для рекламодателей изменять веса выходного слоя? То есть не просто рекламные вставки, а непосредственное подмешивание рекламного контента в результаты генерации. В теории это возможно, хотя и сложно, а ещё вызывает кучу этических вопросов

Я думаю, что всё это будет иметь ряд долгосрочных последствий. Попробую попрогнозировать и пофантазировать:
1. Дерьмофикация (такой новоязовский термин действительно существует) ИИ-сервисов — мы все больше будем видеть растущий класс пользователей, которые будут ругаться на обилие рекламы и «раньше было лучше»
2. Попытки со стороны регуляторов явно промаркировать рекламный контент, а также создать рамки, которые призваны бороться с манипулирование поведением потребителя через ИИ
3. Модели ИИ будут обучаться за счет данных, предоставляемых рекламодателями (возможно, как часть сделки). Что в перспективе приведет к тому, что качество моделей будет находится в некоторой корреляции от количества рекламодателей
4. Создание инструментов, которые позволяли бы проверять «объективность» ответов от ИИ — то есть нужны будут какие-то алгоритмы, чтобы чекать некоторый bias моделей в сторону наличия рекламного контента (тут можно дальше уйти и вообще пофантазировать о том, что появятся анализаторы контента, которые будут определять некоторое «намерение» самого контента по отношению к пользователю, например, чтобы чекать политическую пропаганду)
5. Появление аналога адблокеров для LLM
6. Рост open-source моделек как попытки сделать «чистый ИИ». Но тут вопрос опять же о том, что такое этот самый «чистый ИИ» и как может быть ИИ вне идеологии. То есть фантазии об объективном ИИ — это всегда будут некие фантазии на тему объективности, а не объективность
7. Разные виды API. Если OpenAI предложит два вида API - с рекламными механизмами и без них - то вторые могут стоить существенно дороже. Это повысит порог входа и затраты на ИИ для бизнеса.

Внедрение рекламы в ИИ-сервисы, подобно поисковым системам, неизбежно повлечёт за собой значительные изменения в их функционировании и восприятии пользователями. Тут возникает много этических вопросов и открывает путь к новому витку борьбы за "чистый" и объективный контент (хах, верните старый интернет по диалапу). Так что в будущем мы точно ещё увидим интересные события в ходе балансирования между коммерциализацией и прозрачностью и объективностью.

AI FORGE