Отслеживание “мыслепреступлений” – тот самый ИИ, которого все опасались, – кажется, вовсю разрабатывается, и это уже не Оруэлл к сожалению. На днях в New York Times вышла статья о китайской компании Geedge Networks (работает на рынке технологий цифрового контроля, отслеживания интернет-трафика и т.д.) Согласно исследованию журналистов NYT, компания с 2024 году создает новое поколение систем наблюдения, предназначенных для построения поведенческих профилей граждан и прогнозировании того, кто из них может стать источником политического риска в будущем. Заметим - не нынешних критиков режима, а тех кто возможно будет иметь такое намерение в будущем!
Планируется использовать широкий круг данных: социальные сети, историю перемещений, контакты, интернет-активность – вплоть до того, какие фильмы смотрит человек, какие книги читает. То есть оценивается не текущая активность человека, а – на основе неясных алгоритмов – его возможные протестные настроения и политические несогласия в будущем. Кажется это тот самый момент, когда полностью отменяется презумпция невиновности, и человек признается неблагонадежным или даже наказывается (мы не знаем пока, как будет реализована система) задолго до того, как сделал что-либо противоправное или даже публично выразил свою позицию.
Конечно, авторы статьи отмечают: пока нет доказательств того, что технология разработана или внедрена на практике. Однако сам факт работ в этом направлении уже свидетельствует, что мы сильно ближе к антиутопии, чем хотим думать.