Рассуждая о системах надзора, подобных Palantir, стоит отметить, что критика их исходит не от луддизма автора и не от страхов обывателей о том, что робот поработит человечество. Как и в случае с любой технологией – проблема заключается не в ней, а в людях, которые ее контролируют (ибо все, что мы видим сейчас и близко не заслуживает гордого термина «искусственный интеллект», как его понимали фантасты – это лишь исполнители чужой воли, цифровые инструменты, подобные станку с ЧПУ).

Любая технология несет и зло, и благо – даже цифровые системы социального контроля. Их зло заключается не в самом факте контроля, а в том, что это потенциальный инструмент злоупотребления бюрократией и властью в непредставимых до того масштабах. История уже знает огромное количество примеров того, что бывает, когда политики, имеющие свои виды на то, кто является высшей расой, а кто нет, получают в руки могущественные вычислительные инструменты и ставят их на службу кафкианскому кошмару. Вспомним, например, табуляторы IBM, без мощи которых Rasseamt-SS и близко не смог бы обеспечить эффективные аресты и отправки в концлагеря.

С сальвадорским экспериментом, о котором мы писали ранее (знаменитая «цифровая тюрьма» CECOT для которой Palantir играл роль и присяжных, и прокурора и адвоката) тоже далеко не все гладко. Да, она помогла убрать с улиц тысячи преступников, против которых традиционные меры были бессильны десятилетиями (хотя остаются весьма спорные вопросы о связях могущественных картелей с правительствами и Сальвадора и США). Однако, вместе с убийцами и наркоторговцами за решетку угодили и тысячи людей с просроченными штрафами за парковку 15-летней давности и иными «опасными преступлениями». И обращались с ними, не делая разбора между правыми и виноватыми.

До Сальвадора многим дела нет, Латинская Америка далека от информационного мейнстрима. Однако, как мы видим, то, что вчера было проблемами Третьего Мира – сегодня становится проблемой Ближнего Востока. Нет никаких ограничений к тому, чтобы это стало проблемой Балкан, Восточной Европы или ЕС в целом. Как известно, чем дольше в руках молоток – тем больше любая проблема походит на гвоздь.

Нет никаких технических препятствий (и, как видим, все меньше моральных) к тому, чтобы подобные системы могли применяться к чему угодно и кому угодно. Вплоть до того, что отправка денег домой типовым российским релокантом из Европы в анализе Palantir спокойно пройдет как «финансовая поддержка путинской военной машины», за которой последует перемещение в какой-нибудь «гуманитарный лагерь для интернированных лиц» в Албании. Не стоит надеяться, что операторам системы будет по каким-то причинам хотеться различать сорта презренных «восточных дикарей», будь то палестинцы или жители постсоветского пространства.

@atomiccherry 💯