Международный доклад по безопасности ИИ

Доклад подготовлен лауреатом премии Тьюринга Йошуа Бенджио и более чем 100 экспертами в области ИИ, получил поддержку более 30 стран и международных организаций.

Главы:
1️⃣Что такое ИИ общего назначения, его текущие возможности и ограничения, а также факторы, которые будут определять развитие в ближайшие годы.
2️⃣Риски, связанные со злонамеренным использованием, включая использование систем ИИ для преступной деятельности ( контент, созданный ИИ, манипуляции, кибератаки, разработки биологического или химического оружия, риски, связанные с неисправностями, проблемы надежности и потеря контроля, системные риски.
3️⃣Подходы к управлению рисками и их эффективность ( технические и институциональные проблемы, методы управления рисками, технические меры защиты и мониторинг, и усилия по повышению устойчивости общества к потенциальным потрясениям и вреду от ИИ).

Эксперты сходятся во мнении, что ИИ пока не может самостоятельно выполнять многодневные проекты. НО риски усиливаются по мере того, как агентные системы ИИ становятся всё более автономными, а люди устанавливают более глубокие связи с ИИ. Авторы делают вывод о том, что люди, организации и общества по всему миру теперь сильно зависят от систем ИИ, разработанных небольшим числом компаний, и выступают за многоуровневый подход к управлению рисками общего ИИ на уровне модели, системы, организации и общества.

#AIShelf
————
@pattern_ai