Иллюминации-2026: «Онтология AI-ассистента» — предел обещания прозрачности
Часть 1.

Технический воркшоп Альберта Бранда и Тимура Щукина был сформулирован как проектирование «чёрного ящика наоборот» — AI-ассистента, показывающего источники, сомнения и логику вывода. Сила формулы состояла в отказе принимать гладкий ответ за конечный объект. Слабость — в слове «наоборот».
Языковую модель нельзя просто вывернуть наизнанку и получить её публичное рассуждение. Трансформер не хранит готовую цепочку оснований, скрытую интерфейсом. Генерация — распределённый вычислительный процесс, а текстовое объяснение часто создаётся дополнительно. Оно может быть полезным, но не тождественно причинной истории ответа. Поэтому обещание прозрачности легко превращается в театр рациональности: система убедительно объясняет свой ответ и добавляет второй слой правдоподобия к первому.
Более строгим требованием является реконструируемость. Нам не обязательно видеть «мысль машины»; необходимо восстановить условия, при которых результат приобрёл форму и статус. Какой запрос действовал? Какой контекст был доступен? Какие источники извлечены и какие фрагменты действительно попали в окно модели? Какие инструменты использованы? Где человек изменил или одобрил результат? Что остаётся принципиально невидимым?
Здесь следует различать причинную прозрачность, процедурную трассируемость и нормативное оправдание. Первая в полном виде, вероятно, недостижима. Вторая технически проектируема: журналы запросов, версии контекста, граф происхождения утверждений, фиксация инструментальных вызовов. Третья требует человеческой и институциональной работы. Полностью трассируемый ответ всё равно может быть неуместным, несправедливым или основанным на ошибочном критерии.

Чертёж Кентавра
«Чертёж Кентавра» разворачивал эту логику по уровням. Ответ рассматривался не как автономное суждение, а как след траектории. Затем восстанавливались поверхности, по которым она проходит: язык, жанр, роль, память, источники, интерфейс и ожидания пользователя.
Вводилось понятие семантического разрешения — способности конкретной человеко-машинной конфигурации удерживать различия в данной операции. На этой основе строились карты условий, происхождения, швов, делегирования, доверия и состояния связки «человек—AI».
Философски значимым был отказ от оппозиции «машина знает / машина не знает». Одинаковый по форме ответ может быть источниково подтверждённым утверждением, реконструкцией, вероятностной достройкой, жанровой склейкой или неподдержанным синтезом. Его статус определяется происхождением и способом употребления. Гладкость не сообщает статус; уверенность не сообщает основание; цитата не гарантирует корректного переноса.
Отсюда понятие шва — места, где связность компенсирует недостаточность основания. Шов не всегда является ошибкой: переход может быть эвристически продуктивен. Но он требует маркировки и отдельного права на употребление. Критическая система должна не только обнаруживать швы, но иногда сохранять их: закрытие разрыва способно уничтожить важное различие.
Объяснимость тем самым переносится из психологии машины в политику интерфейса. Что пользователь видит как источник? Может ли он отличить документ от пересказа? Доступна ли история изменения запроса? Сохраняются ли отвергнутые версии? Есть ли место для нерешённого?
Интерфейс не является нейтральным окном: он распределяет видимость, а вместе с ней — возможность критики. Кнопка «источники» способна усиливать доверие, даже если документы не подтверждают вывод. Панель «сомнения» может превратить неопределённость в декоративный элемент. Поэтому подотчётность требует не максимума информации, а правильной типологии: что указывает на происхождение, что — на вероятность, что — на конфликт источников, человеческое решение или ограничение модели. Прозрачность без различений становится новой непрозрачностью, перегруженной данными.