👍 Какой шанс, что ИИ убьёт человечество за 10 лет?

Эван Хьюбингер (Evan Hubinger) отвечает за направление alignment в Anthropic. 💡 Это работа над тем, чтобы цели и поведение ИИ-моделей совпадали с интересами людей. Его пост в соцсети X набрал больше 10 млн просмотров и вызвал новую волну споров о реальной опасности современного искусственного интеллекта. ✨ По его словам, риск от уже существующих моделей сейчас низкий. Но Хьюбингер обеспокоен тем, что технология вскоре сможет самостоятельно улучшать себя, и тогда она станет угрозой самому существованию человечества.

Какой шанс, что ИИ убьёт человечество за 10 лет?

👍 — Риск растёт с каждым шагом технологий
💔 — Без контроля ИИ может стать угрозой