ИИ обязан объясняться

Сегодня искусственный интеллект уже не фантастика и не эксперимент. Он принимает решения в страховании, в банковской сфере, при оценке кредитов, участвует в кадровых процессах – вплоть до рекомендаций по увольнению сотрудников.

Но если решение в отношении человека принял алгоритм – имеет ли человек право понять, почему? Сейчас часто происходит иначе. Гражданин получает отказ – в кредите, страховке, работе – и не понимает причин. В лучшем случае – формальная формулировка. В худшем – «так решила система».

Направил в Минцифры предложение о законодательном закреплении принципа объяснимости решений, принятых с использованием ИИ. Человек должен знать, использовался ли ИИ при принятии решения в отношении него. По запросу он должен получить простое и понятное объяснение причин – без технического «алгоритмического тумана». Если объяснение не предоставлено – такое автоматизированное решение не должно иметь юридической силы и должно быть пересмотрено человеком.

Речь не о запрете технологий. Напротив – о доверии к ним. Если алгоритмы влияют на судьбы людей, они не могут быть «чёрным ящиком».

Борис Чернышов