Все мы совершаем ошибки. И, думаю, никто не любит, чтобы другие замечали их и делали на их основе какие-то выводы. Особенно это справедливо для ситуаций, где от наших ошибок зависит наш статус: скажем, при сдаче экзамена или при собеседовании на работу.

В этом плане люди похожи на технические системы. Последние также совершают много ошибок. Но мы чаще всего не знаем о них потому, что в компаниях и в НИИ проводятся тесты, которые прорабатывают ошибки прежде, нежели они станут общественным достоянием.

Но вот когда технологии выходят на публичное тестирование, то ошибки могут стать заметны всем и каждому. А это чревато тем, что публика сочтет технологии попросту не способными.

Именно такая ситуация характерна для публичных тестов беспилотных автомобилей в России и мире. С одной стороны, тесты позволяют разработчикам собирать данные и оттачивать способности езды на настоящих живых улицах. С другой стороны, многие ошибки работы автомобилей видны. К примеру, с июня 2019 по октябрь 2020 года беспилотники Яндекса 9 раз нарушил ПДД и два раза попал в ДТП. За то же время беспилотники Waymo 26 раз попали в ДТП в Калифорнии (последняя ссылка работает лишь с VPN "из США")

Подобная публичность тестов создает риски для разработчиков. К примеру, представитель Яндекса говорит, что если в ходе теста происходит «катастрофа», то публика может сформировать скепсис в отношении беспилотников . Разработчики боятся, что ошибки в процессе обучения примут за ошибки системы как таковой.

Однако в публичности есть не только элемент риска для разработчиков. Недавно появилась «новая социология тестирования», которая призывает думать над тем, что происходит, когда умные системы начинают тестирования в социальной среде. Какие риски это приносит, но уже не для разработчиков и их репутации, а для разных групп, которые становятся своеобразными объектами эксперимента.

И тот, и другой риск указывает на то, что происходит нечто важное. Тест технологий систематически выходит в публичную сферу и должен как-то сживаться с теми процессами, которые там происходят. Одно из знаковых изменений – это то, что вокруг технологий становится больше PR, поскольку нужно объяснять людям, что ошибки – не ошибки, или не такие уж и серьезные. Возможно, более внимательным взглядом можно заметить и много другого интересного.