Прослушка в туалетах и дроны: как американские школы защищают учеников с помощью ИИ-слежки

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Американские школы активно оснащают кампусы ИИ-системами наблюдения, пишет Forbes: умными камерами, датчиками звука и даже дронами. Это в том числе реакция на случаи массовой стрельбы в образовательных учреждениях и другие угрозы. Доказательств того, что ИИ поможет снизить число трагедий, нет — зато есть острые вопросы о границах приватности, на которые у школ пока нет внятных ответов.

Что происходит

Только в этом году на территориях школ от огнестрельного оружия погибли 49 человек. В 2024-м — 59, в 2023-м — 45. С 2000-го по 2022 год в американских школах были убиты 131 человек и ранены 197, большинство из них дети. На этом фоне решение администраций школ усиливать контроль выглядит почти безальтернативным. В итоге, сотни школ закупили похожие ИИ-системы для слежки в целях безопасности.

Вот как это устроено на примере школы Беверли-Хиллз в Калифорнии:

◽️ На входе и по всей территории установлены камеры с распознаванием лиц и анализом поведения с помощью ИИ. Если алгоритм считает, что на кадре есть огнестрельное оружие, он отправляет уведомление полиции.

◽️ На въезде на парковку стоят камеры с распознаванием номеров.

◽️Есть и готовые к запуску дроны, которые в случае необходимости подключают к сбору информации с воздуха.

◽️В туалетах установлены отдельные устройства — внешне похожие на датчики дыма, они реагируют на крики о помощи, выстрелы и другие тревожные звуки.

Спорная эффективность

Правозащитники относятся к широкому наблюдению в школах с большим скепсисом и считают, что ИИ-технологии вряд ли сильно снизят количество масс-шутингов, но подорвут доверие учащихся.

В докладе Американского союза защиты гражданских свобод (ACLU) говорится, что восемь из десяти крупнейших случаев стрельбы со времен кровавого расстрела в «Колумбайне» (1999 год) наблюдались в тех американских школах, где системы наблюдения уже были. И даже с появлением ИИ нет доказательств того, что новые технологии лучше предотвращают инциденты, считают авторы.

Участники рынка приводят собственные данные. Компания ZeroEyes, чье ПО для обнаружения оружия используется в школах, утверждает, что с 2023 года ее системы зафиксировали больше тысячи случаев. В одном из эпизодов — в Техасе в начале этого года — полиция задержала подростка с винтовкой до того, как кто-либо мог быть застрелен. Хотя генеральный директор ZeroEyes Майк Лахифф признает, что в большинстве инцидентов люди с оружием, вероятно, и не планировали стрелять в учеников. 

Ложная тревога

Технологии часто ошибаются. Система обнаружения оружия Evolv, которую используют больше 800 школ в США, не раз принимала за пистолеты ноутбуки и бутылки с водой. В 2024 году FTC вынесла компании предупреждение за вводящие в заблуждение заявления о том, что ее технология способна распознавать любое оружие. А в 2022 году система, наоборот, не обнаружила 18-ти сантиметровый нож, которым позже был ранен ученик.

Последний громкий инцидент с неисправной работой системы произошел в октябре: ИИ-алгоритм компании Omnilert принял за огнестрельное оружие упаковку чипсов в кармане 16-летнего школьника, приехали полицейские:

На меня направили оружие <...>, заставили встать на колени, заломили руки за спину и надели наручники. Потом обыскали и ничего не нашли.

После этого, по словам семьи, подросток перестал чувствовать себя в безопасности в собственной школе.

То же исследование ACLU показало, что 32% школьников в возрасте от 14 до 18 лет чувствуют, будто за ними постоянно наблюдают. В фокус-группах подростки признавались, что из-за слежки им сложнее обращаться к учителям с проблемами, будь то состояние психического здоровья или домашнее насилие.

📍 Подписаться на канал The Bell Tech