ИИ-контроль: роль государства

Политолог Павел Иванов — о том, что за ростом массового внимания к искусственному интеллекту последовал новый тренд — AI Alignment, или проблема согласованности ИИ с целями и ценностями общества.

— Ученые не только обратили внимание на угрозу безработицы и социального неравенства, но и на потенциал языковых моделей для генерирования дезинформации и даже создания биологического оружия. Работа над предотвращением потенциально деструктивного влияния нейронных сетей стала не менее важным процессом, чем совершенствование функционала моделей. В контексте осуществления контроля, одним из самых влиятельных акторов остается власть. Именно на роли государства и надгосударственных структур фокусируются многочисленные доклады «фабрик мысли», посвященные проблеме AI Alignment, — отмечает эксперт.

Подробнее — на АК.