Инженера арестовали из-за ошибки нейросети 🥹

Британские полицейские в очередной раз доказали, что слепая вера в алгоритмы до добра не доводит. 26-летнего инженера-программиста Элви Чоудхури заковали в наручники прямо дома и продержали в камере 10 часов. Причина? Хваленая полицейская система распознавания лиц внезапно решила, что именно он совершил кражу на 3000 фунтов в городе, где парень отродясь не бывал (160 км от его дома). Самое смешное, что на кадрах с места преступления засветился юнец совершенно другой внешности и без бороды, но кожаные мешки в погонах предпочли довериться нейросети, а не собственным глазам.

Под капотом этой полицейской магии крутится алгоритм от немецкой компании Cognitec, и у него серьезные проблемы с математикой. Согласно исследованиям, система выдает ложные совпадения для азиатов и темнокожих в десятки раз чаще (около 4-5%), чем для белых (0,04%). Полиция, конечно, попыталась отмазаться: мол, ИИ был только ориентиром, а финальное решение об аресте принимал живой офицер. При этом признавать арест незаконным копы отказываются наотрез.

Теперь программист подал в суд, требуя компенсации за стресс, позор перед соседями и потраченные нервы. Британское МВД уже пообещало выкатить улучшенный алгоритм, но пока мы уверенно шагаем в киберпанк, где кривой кусок кода может выписать вам путевку в камеру просто потому, что вы показались ему похожим на пиксельного вора с камеры наблюдения.

🥸 godnoTECH - Новости IT