Каждый раз, когда случается какой-нибудь ML-AI факап, я поражаюсь тому насколько представления об “искуственном интеллекте” у широких масс далеки от реальности. И в связи с этим насколько иногда далеки от практической пользы принимаемые чиновниками решения в этой сфере.

На прошлой неделе услышал новость об одном очень специфичном корнер-кейсе, который стоил компании-разработчику беспилотников права на перемещение их автомобилей без водителя-испытателя в одном из штатов. Что произошло? Автономный автомобиль переехал сбитого ранее другой машиной пешехода. Ситуация помимо того, что одновременно и немного комичная, и трагичная (правда, про здоровье пешехода я ничего не знаю), в любом случае довольно редко воспроизводимая.

Будучи на месте регулятора, что бы я сделал, понимая, что разработчики алгоритма просто не учли такой вот странный и очень редкий корнер-кейс? Предложил бы включить демонстрацию поведения автомобиля в такой ситуации в приемочные испытания (какие-то же должны быть и сейчас?). До такого демо приостановил бы действие их лицензии на перемещение по штату, понимая, что это больше работа с общественным мнением, чем с реальной безопасностью на дорогах. А что сделали чиновники? Просто запретили перемещение автомобилей в автоматическом режиме без страхующего водителя до лучших времен. Пусть технологии развиваются где-то там, где не нам за это отвечать, а мы потом просто ими воспользуемся, когда они, наконец, будут идеальными.

В целом, подход рабочий. Только чтобы пользоваться даже отлаженными технологиями всё равно не плохо бы понимать, как они устроены. На эту тему у меня есть любимый пример где-то десятилетней давности. Я прочитал новость о том, что в Москве начали выдавать номера с регоином 777 и написал пост в фейсбуке о том, что все, кому достались такие номера, в ближайшее время могут гонять под камерами без опасений получить штрафы, так как все их штрафы получат люди со старым номером региона 177. В комменты сразу набежало много людей, говорящих, что этого быть не может и конечно же все всё учли везде где надо. А примерно через неделю я прочитал другую статью, в которой говорилось о том, что людям со 177 регионом внезапно стали приходить чужие штрафы.

Что и требовалось доказать. Если вам поставили задачу сделать алгоритм распознавания чисел в ситуации, когда во всех трехзначных числах первая цифра 1, с вероятностью 99% вы жестко пропишите в алгоритме ограничение на то, что первая цифра может быть только 1. Более того, вы будете правы, что сделаете именно так. А то, что потом кто-то решит добавить возможность ставить вперёд семёрку и не расскажет вам об этом — это уже будет не ваша забота.