Современные автопилоты работают как «чёрный ящик»: нейросеть принимает решения, но водитель понятия не имеет, почему машина вдруг затормозила на пустой дороге — то ли она заметила реальную опасность, то ли ей что-то померещилось.

Группа учёных предложила решение — алгоритм CW-Net, который объясняет каждый манёвр через простые человеческие концепции вроде «рядом велосипедист» или «приближаюсь к стоящей машине». Система не просто оправдывает уже принятые решения, а делает эти объяснения частью самого механизма выбора траектории.

На испытаниях выяснилось, что машина порой останавливалась вовсе не потому, что заметила велосипедиста, а благодаря аварийному тормозу. Поэтому люди переставали слепо доверять автопилоту.

https://www.nature.com/articles/d41586-026-02467-8