Секретные кнопки гос-ИИ

Когда-то один известный проповедник произнёс воодушевляющую речь: "I have a dream: что однажды чиновник и ИИ возьмутся за руки, словно братья и сёстры, и государственное управление станет разумным, справедливым и эффективным. ИИ будет объективно судить, где в стране беда и какой аким плохо работает. Машина соберёт бюджеты, обращения через e-Otinish, аварии и выплаты, а раз в неделю раскрасит области в зелёный, жёлтый и красный. Не начальник решил - машина посчитала. И всякий дол возвысится, всякая гора и холм понизятся, пути кривые выпрямятся, и явится слава ЖАҢА ҚАЗАҚСТАН, и узрит её всякая плоть".
 
Перевод немного неточный, но мечта достойная. А теперь о том, как это будет работать на самом деле.
 
Что будет решать ИИ, а что - люди, стоящие рядом с ним?
 
За каждым "так решил ИИ" стоит не один человек с тайной кнопкой, а цепочка человеческих решений: о целях, данных, порогах, толкованиях и исключениях. Отсюда Правило секретной кнопки: машина считает внутри заданной рамки, а власть получает тот, кто задаёт рамку и связывает результат с последствиями. Кнопки - это места, где рамку задают; каждая из них умеет тихо объяснить машине, в какую сторону думать.
 
Кнопка первая: что считать важным. Прежде чем ИИ начнёт считать, кто-то решает, что весит больше - жалобы, освоение бюджета, безработица или аварийность. Крутнул в одну сторону - красным загорелись одни области. В другую - совсем другие. Машина посчитала честно; просто значение слова "хорошо" ей задал человек. Там же выставляют и границу: с какого значения жёлтый становится красным. Если сравнивают не с нормативом, а друг с другом, красный будет всегда - кто-то обязан оказаться последним, даже если везде стало лучше.
 
Кнопка вторая: что ИИ вообще увидит. Машина судит только по тому, что в неё завели. Не подал район сведения вовремя - и проблемы будто не было. Так целую беду можно сделать невидимой: не спрятать, а просто не показать системе. И панель уверенно рисует зелёное там, где она слепа.
 
Кнопка третья: что значит цифра. В одной области резко выросли жалобы. Плохо? А может, люди поверили в цифровой канал и начали писать, а акимат не мешает регистрировать обращения. Одно число можно прочесть и как провал, и как успех. ИИ не читает - он показывает то чтение, которое ему выбрали.
 
Кнопка четвёртая - та самая секретная. Иногда результат оказывается политически неудобным. На этот случай нужна ручная поправка: паводок, приток населения, сбой данных - красный можно временно сделать жёлтым "по объективным обстоятельствам". Функция честная и необходимая, машина ведь всего не знает. Но она же самая мощная: вопрос уже не в алгоритме, а в человеческом праве его отменить. И если журнала нет - кто запросил исключение, кто одобрил, видел ли начальник исходный результат, - ИИ остаётся в роли беспристрастного судьи, а решение тихо принимает тот, чей палец на кнопке.
 
И есть пятая кнопка: что следует за цветом. Пока красный - просто сигнал на экране, это аналитика. Когда он запускает проверку, влияет на трансферты, попадает в кадровую оценку акима или становится первым пунктом совещания, начинается власть.
 
Так что же решает - машина или человек? Машина действительно считает. Иногда она даже обнаруживает закономерности, которых никто заранее не ожидал. Но цели, данные, пороги, допустимые объяснения и последствия задаёт аппарат. ИИ превращает эту сложную цепочку решений в цифру, выглядящую объективной. Раньше акиму говорили: "Нам кажется, у тебя плохо", - и он спорил. Теперь скажут: "Так показала система", - и спорить станет гораздо труднее.
 
Кнопки по большей части нужны честно: критерии кто-то должен выбрать, данные - очертить, границу - провести, исключения - предусмотреть. Беда начинается, когда кнопок не видно и непонятно, кто за них отвечает.
 
Машина чиновника не заменит. Но между тем, что произошло в стране, и тем, что увидит руководство, встанет новый слой: куратор системы, владельцы данных, архитекторы модели и держатель права исключения. Их аппаратный вес и будет расти. Именно они решат, какая версия страны попадёт наверх под видом того, что "объективно показал ИИ".