🇬🇧В Великобритании предлагают создать систему отёчности по инцидентам с ИИ.

С 2014 года зафиксировано более 10 000 инцидентов с безопасностью в развернутых системах ИИ. По мере большей интеграции искусственного интеллекта в общество количество инцидентов, вероятно, увеличится, а масштабы воздействия увеличатся.

В других отраслях, критически важных для безопасности, таких как авиация и медицина, подобные инциденты собираются и расследуются властями в рамках процесса, известного как «отчетность об инцидентах».

Однако в британском регулировании искусственного интеллекта в настоящее время отсутствует эффективная система отчетности о произошедших инцидентах. Соответственно следующие инциденты не отслеживаются:

- Инциденты в базовых моделях использования, такие как предвзятость и дискриминация;

- Инциденты, связанные с использованием правительством Великобритании ИИ в государственном управлении, например, из-за ненадлежащего прекращения доступа к пособиям, судебных ошибок или неправильной оценки экзаменов студентов;

- Инциденты неправильного использования систем ИИ, например, в кампаниях по дезинформации или разработке биологического оружия, которые могут потребовать срочного реагирования;

- Инциденты причинения вреда со стороны партнеров по ИИ, наставников и терапевтов, когда высокий уровень доверия в сочетании с обширными личными данными могли привести к злоупотреблениям, манипуляциям, радикализации или опасным советам, когда системы ИИ побуждают причинять вред.

Хотя некоторые регулирующие органы собирали некоторые отчеты об инцидентах, необходимо создать централизованную систему, чтобы снизить вред, наносимый frontier AI.