​​Курточка спасет (?) от Терминатора

Как-то в приканальном чате процитировали заметку Сергея Карелова, к которому я отношусь с большим уважением. Заметка касалась летального автономного оружия, т.е. оружия которое самостоятельно выбирает, фиксирует и уничтожает цели. Все мы вроде бы помним системы из фильмов Терминатор (вроде дронов HK-Aerial из 1984 года, или HK-Drone из "Восстания машин") и они, условно, приводят нас в ужас.

А вот системы вроде израильских SmartShooter (ссылка) мы любим и уважаем, потому что они "уничтожают террористов", но при этом "имеют механический ограничитель прицельного сектора", значит для посторонних, невинных людей не опасны. Хотя если посмотреть отвлеченно - разницы вообще никакой, система автономно работает по цели. Как она выбирает эту цель - известно одному господу богу. Оператор? Ну да, оператор как свадебный генерал пока присутствует. Он нужен, как минимум, чтобы извлечь устройство из коробки. Вот примерно таким вопросам посвещен недавный отчет BAE Systems в журнале WIRED → Robotic Weapons Are Coming — What Should We Do About It?

Глупо и самонадеянно считать, что подобные системы могут быть только у хороших парней, а у плохих они никогда не появятся. Появятся, и не важно в роли военных трофеев, контрабанды технологий или дружеского трансфера в обмен на растворители. Немножко "закулисной магии" и вот уже израильские системы обозревают окрестности около какого-нибудь Дроздовского лесопарка в Минске.

Мысли вслух. На самом деле я хотел написать про интересную статью, >>препринт<< которой появился недавно на arxiv.org. Суть в том, что группа исследователей из университета Мэриленда пыталась подобрать т.н. "враждебный паттерн" (некий условный рисунок), который мешал бы машинному зрению из фэйсбука детектировать человека. И им это удалось. Верхний ряд рисунков на картинке - это те самые "атакующие паттерны", которые показали наибольшую эффективность в создании "невидимости" для системы распознавания и то, как они выглядели в виде принта на футболках.