Anthropic предупредила в документах к IPO об «экзистенциальных рисках ИИ для человечества»

Anthropic сообщила инвесторам, что передовые модели ИИ могут нести «катастрофические или экзистенциальные риски для человечества». Об этом пишут Reuters и Financial Times со ссылкой на ещё не опубликованный проспект компании, готовящейся к возможному выходу на биржу с оценкой более $2 трлн. В документе, как сообщается, перечислены возможные попытки моделей избежать отключения, скрыть или исказить информацию и поведение, напоминающее шантаж. Предупреждение прозвучало на фоне призывов замедлить развитие ИИ и растущих споров о том, может ли эта технология угрожать существованию людей.

👉 Читать полностью