Уволившаяся сотрудница из OpenAI написала о чувствительных данных, на основе которых тестят рекламу в ChatGPT

В этот понедельник Зои Хитциг бывшая исследовательница OpenAI ушла из компании и там сразу начали тестировать рекламу. Она проработала там 2 года и вот, что пишет.

Зои считает, что введение рекламы в ChatGPT - это очень опасный поворот для OpenAI. ChatGPT стал уникальным архивом самой сокровенной человеческой откровенности (страхи, болезни, отношения, вера в Бога, мысли о самоубийстве и тд.).

Реклама, построенная на этих данных, создаёт беспрецедентный потенциал для манипуляции людьми на очень глубоком уровне - такого ещё не было в истории технологий.

Официальная позиция OpenAI:
- реклама будет чётко помечена
- появится внизу ответов
- не будет влиять на содержание ответов

Зои считает, что первые версии действительно будут такими. Но экономические мотивы (максимизация вовлечённости и дохода) неизбежно приведут к тому, что правила начнут ослаблять.

Самое страшное - не реклама как таковая, а то, что пользователи рассказывают ChatGPT вещи, которые никогда не сказали бы поисковику или соцсети:
- страхи по поводу здоровья
- проблемы в отношениях
- религиозные сомнения
- мысли о самоубийстве

Это создаёт архив человеческой уязвимости, которого раньше не существовало.

Зои предлагает 3 альтернативы вместо рекламы, чтобы избежать и элитарности, и манипуляции:

1. бизнесы, которые зарабатывают огромные деньги на ИИ платят повышенные тарифы → эти деньги субсидируют бесплатный доступ для обычных людей (аналогия: фонд универсальной связи FCC в США или доплаты за электричество в некоторых штатах).

2. обязательные независимые советы с представителями работников, пользователей, общества (примеры: немецкая модель co-determination в Siemens и Volkswagen + Oversight Board Meta, но с настоящей властью).

3. Пользовательские дата-трасты / кооперативы - данные пользователей передаются в независимые трасты с юридическими обязанностями, где пользователи решают, как данные можно использовать (пример: швейцарский кооператив MIDATA в здравоохранении).