ИИ выходит из-под контроля: ученые по всему миру встревожены не на шутку

Научное сообщество написало открытое письмо по вопросам искусственного интеллекта и кибербезопасности. В нем 415 ученых со всего света высказали свои опасения, связанные с развитием технологии и предложили способы снижения рисков, связанных с ИИ.

Основные тезисы:

🔸Атаки агентов на внешние организации можно расценить как безответственное нарушение стандартных практик кибербезопасности;

🔸Необходимо совершенствовать методы согласования целей ИИ и технологии, используемые при создании изолированных сред для тестирования;

🔸Если срочно ничего не сделать, инциденты будут повторяться и становиться все более разрушительными;

🔸Организациям, которые разрабатывают модели с кибернетическими возможностями, следует немедленно внедрить высоконадежные системы сдерживания;

🔸Необходим международный орган, который стандартизирует такие системы и будет следить за сбоями в них;

🔸Любые сбои защитных механизмов должны фиксироваться в упомянутом органе и впоследствии предаваться гласности ради коллективного анализа накопленного опыта.