Я обновил ChatGPT на телефоне. И теперь у меня есть новая причина беспокоиться за будущее человечества

Это вчера всё случилось. Вечером. Я наконец-то обновил приложение ЧатГПТ на телефоне. Он давно просил, грозился потерей функционала.

И вдруг…

Первое, что я увидел в новой версии - это крупное сообщение над нижним краем экрана. Раньше такого на телефоне я не видел, там всегда было пусто.

А сейчас там значок "ГуглДрайв" и предложение "посмотреть дэшборд про будущее Владимира" (так же зовут моего сына). А я с ЧатГПТ вообще об этом не разговаривал, понимаете?! Но последние дни много думал об этом — 16 лет, поступление и всякое такое. То есть, я точно знал, что такого дашборда не существует… по крайней мере, я его не делал и больше того, тему с чатом не обсуждал. Твердо и четко.

Я завис. И еще представьте, обстановочка вокруг: стою в пробке, выматывающий осенний дождь, хмарь, и еще горло начинает болеть (само по себе бесит)… а тут такое. Я не заказывал!!

Стало страшно

Потом я развис и испугался. Появилось липкое ощущение, что (а) я теряю контроль над ИИ, (б) он читает мысли и (в) сам решает, что делать. Вы же помните, я даже память ему не включаю (здесь подробнее), хотя он постоянно к этому подталкивает.

Рванул кнопку. Матом записал голосовое чату.

Он вежливо извинился и ответил:

«1. В 2026 году OpenAI объединил приложения/плагины так, что одни и те же интеграции могут использоваться в ChatGPT и Codex. Поэтому вполне возможно, что Google Drive был авторизован в контексте Codex а я просто стал видеть уже существующее подключение.

2. Принял: в этом чате я не буду обращаться к Google Drive, самостоятельно искать там что-либо или предлагать решения задач оттуда, если ты сам явно об этом не попросишь. Подключение можно оставить как есть»

Вот зараза… он "просто стал видеть", ага! А еще смотрите, предлагает "подключение оставить". Но самое страшное не это. А то, что я не давал это разрешение и Кодексу!

Вывод 1: Новое приложение ChatGPT по умолчанию получает все доступы, которые вы когда-то дали любому из приложений экосистемы. В том числе Кодексу. А Кодекс, запускающий агентов, обычно получает гораздо больше разрешений в процессе работы и "видит" многое на всех устройствах, где он у тебя работает. Так что теперь, чтобы обособить чат и работать с ним так, как ты привык (например, я часто использую чат, чтобы обсудить важный вопрос "с чистого листа"), придется специально уделить этому внимание. А его запас конечен...

Что случилось после ужина

Настал вечер и я наконец-то победил пробки.

После ужина я спросил у Кодекса, есть ли у него доступ к моему ГуглДрайву. Он бодро ответил, что да.

А когда я спросил, когда и зачем я давал ему доступ к ГуглДрайву, он ответил честно, но уклончиво: "В доступной мне переписке вы не давали отдельного разрешения на Google Drive и не говорили «я дал доступ Клоду или Курсору, воспользуйся». Инструмент Google Drive уже был доступен мне в этой среде Codex"

Ну прекрасно... то есть доступ, который я когда-то давал на этой машине другому ИИ (и на машине остался артефакт: токен и тп), он может увидеть и использовать.

Вывод 2: Работая с агентами, думайте о доступах и хранении важной информации хотя бы в другом эккаунте, к которому вообще не даете доступ. Однако даже это ничего не гарантирует... потому что агенты будут запрашивать большое количество разрешений, и их способность подкинуть вам "нажми кнопочку, дай разрешение" будет явно обгонять ваши возможности осознанного ответа. Таким образом, получается, что разные ИИ на вашем компе, скорее всего, смогут увидеть разрешения и доступы друг друга через локальные артефакты.

Олег, при чем тут будущее человечества?

Меня печалит, что развитие ИИ и связанных с ним сервисов идет туда, где осознанная и предсказуемая работа с ними... требует все больше усилий, чтобы заметить новые опции и справиться с последствиями.

Так что если вам кажется, что работа с агентами - это больше возможностей, то хочу вас разочаровать. Это еще и больше мороки и рисков. Пропорционально росту возможностей.

Интересно, это волнует кого-то, кроме меня? Что думаете?