Человек как API в ИИ-экосистеме: какую цивилизацию мы строим? (2/3)

Локальная спецификация. Перевод целей владельцев и управляющих инфраструктурой в локальные ограничения, промпты, разрешения и метрики.

Заметьте, чего в списке нет. Ни в одной из трёх функций нет постановки собственных целей - третья прямо это и называет: чужое целеполагание на входе, промпты и метрики на выходе. Это не упущение спецификации. Это и есть спецификация.

Так что все призывы "освойте ИИ, чтобы не потерять работу" - если называть вещи честно - это призывы успеть квалифицироваться на данную вакансию. Не "станьте хозяином нейросетей": хозяева уже есть, места заняты, наверх не переводят. А "станьте хорошим переходником".

Причём - временным. Интерфейс ценен ровно до тех пор, пока его нельзя заменить более удобным интерфейсом. Метафора API содержит собственный приговор: методы версионируют, устаревшие отключают. Спойлер: с вами не посоветуются, вы узнаете постфактум.

Чей критерий?

Нам часто говорят, что технология нейтральна. Нейтральным может быть молоток. Инфраструктура, которая классифицирует людей, распределяет внимание и определяет допустимые действия, нейтральной не бывает — ранжировать без критерия невозможно. А в критерий неизбежно зашито представление о нормальном поведении, желательном будущем, допустимом риске и смысле человеческой жизни.

Кто это представление выбирает? Формально - все мы, конечно. Фактически - человек двадцать, и вы с ними не знакомы.

Зато они знакомы с вами. И убеждений своих не скрывают - публикуют, буквально в жанре символа веры. Манифест Марка Андриссена так и устроен: десятки абзацев, начинающихся с "мы верим". А врагов он перечисляет отдельным списком, и в списке не Скайнет - в списке "этика технологий" и "устойчивое развитие". Это не пересказ злых критиков, это его собственный текст, гуглится за секунду. Любимый мем этой среды вы тоже знаете: NPC, "неигровой персонаж", человек-статист без внутреннего света. Мем смешной - пока не вспомнишь родословную: у древних гностиков такие назывались "гилики", люди из мяса, без искры. Фон. Материал.

Отсюда и соблазн, старый как ересь. Узкий круг начинает воспринимать себя носителем знания о направлении истории - и потому вправе перепроектировать реальность ради будущего, которое сам объявил благом. Несогласные в этой оптике - не носители иных ценностей, а legacy-системы, которые просто ещё не поняли неизбежность прогресса. Человеческая природа - не предел, который уважают, а исходный материал: сознание алгоритмизировать, тело модифицировать, поведение скорректировать, убеждения перенастроить, свободу заменить персонализированным выбором из заранее сформированного датасета. А физический мир для них - грязный код.

Расплата

Теперь представьте, что ваш профиль с критерием не совпал. Изгнания не будет. Ваш эндпоинт просто начнут вызывать реже.

- Вас не запретят - вас перестанут рекомендовать.
- Вам не запретят говорить - вашу речь перестанут маршрутизировать.
- Вам не запретят работать - ваш профиль не пройдёт автоматический отбор.
- Вам не запретят верить - ваша вера окажется за пределами признаваемой системой реальности.

Вас не объявят ненужным - инфраструктура просто перестанет замечать ваше существование.

Формально при этом никто ничего не сделал. Жаловаться некому и не на что. Не репрессия - управляемая невидимость. Согласитесь, элегантнее оруэлловского сапога.

Главный вопрос

Главный вопрос не в том, сумеем ли мы встроиться в эту реальность. Он в другом: кто определит её ценности?

Радикальный техно-прогрессистский авангард, убеждённый, что доступ к капиталу, вычислительной мощности и специальному знанию даёт ему право перепроектировать человека?

Или мы успеем установить пределы, за которыми свобода совести, свобода мысли, свобода веры и тайна внутренней жизни не подлежат оптимизации - даже ценой меньшей эффективности?

Мы уже строим эту систему. Но ещё не решили, кому она должна служить - и что в человеке она не вправе изменять.

В нормальной документации это первый раздел.