Кто будет управлять голосом в нашей голове?

«Скоро потомок ChatGPT будет постоянно следить за вашим экраном, сидеть с вами на каждой встрече, записывать каждый звонок — он будет идеально понимать контекст вашей жизни», — говорит Сэм Альтман.

Частично мы уже живем в прозрачной для ИИ реальности. Например, ИИ-транскрибация рабочих звонков и совещаний — это новая норма. Насколько это полезно и удобно — вопрос открытый. Но это только начало.

«И вот вы что-то делаете, а ИИ говорит: “Эй, вот идея получше”. Или “Мне кажется, ты совершаешь ошибку — подумай вот о чем”. Или “Я могу вот так тебе помочь”», — продолжает Альтман. То есть ИИ будет уже не только понимать, но и формировать нашу реальность, причем без спроса.

Многие сейчас напрягаются из-за того, что нейросети следят за их работой, обучаются их скилам и в итоге заменят их. Но что, если финальный босс — это не ИИ-дубль и даже не ИИ-надзиратель, а персональный ИИ-диктатор?

Как должны выглядеть наши отношения с ИИ, который во многом знает нас лучше нас самих и может вмешиваться в ход нашей жизни? Для начала этот ИИ должен полностью принадлежать человеку и делать только то, что ему говорит его владелец.

Если то, как и когда ИИ вмешивается в жизнь пользователя и к чему именно его склоняет, будут решать корпорации или, еще хуже, государства, то люди превратятся в рентабельных идеологизированных эхоборгов.

Но кому бы ни принадлежал ИИ, все равно можно превратиться в эхоборгов, если не прокачать агентность и уверенность в своих ценностях. Потому что сложно сказать «нет» голосу в голове, который все про вас знает и чье имя начинается с приставки «супер». Особенно если он делает жизнь удобной и приятной.