Словарь технотопии: Эхоборг

Эхоборг — это человек, чьи действия и слова целиком или частично определяются искусственным интеллектом. Такой человек отказывается от собственной агентности и автономии и функционирует как биологический интерфейс для реализации действий, слов и решений, просчитанных и сформулированных ИИ.

Слово «эхоборг» происходит от микса слов «эхо» и «киборг» (сокр. от «кибернетический организм»). В отличие от классического киборга, олицетворяющего волю к власти и преодоление человеческих ограничений с помощью технологий, эхоборг олицетворяет волю к удобству и опасность, что человек готов превратить свой ум в эхо-камеру для алгоритмов в обмен на эффективность и простоту.

Термин «эхоборг» в 2014 году придумали социальные психологи Кевин Корти и Алекс Гиллеспи. Но по-настоящему актуальным он стал с появлением ИИ-систем вроде ChatGPT в 2022, способных частично превращать людей в эхоборгов: например, при сдаче экзаменов, прохождении собеседований или на свиданиях. Дальнейшее развитие ИИ и устройств коммуникации с ним (в идеале — нейроимплантов) поспособствует популяризации эхоборгов.

В философском смысле, эхоборги поднимают вопрос о человеческой агентности, авторстве и ответственности. Кто на самом деле говорит, если человек озвучивает слова, сгенерированные машиной? Чье намерение на самом деле реализуется, если высказывания исходят от человека, но возникают вне человеческого сознания, и кто отвечает за их последствия?

Концепция эхоборга также поднимает вопрос о границах доверия человека к ИИ, который в таких, по крайней мере, частично отношениях отвечает за идентичность человека. Может ли человек, действующий как эхоборг, быть уверенным, что диктуемые ИИ-системой слова и действия отражают именно его интересы, а не интересы создавшей ИИ-систему корпорации или правительства, регулирующего корпорацию?