Anthropic призвала замедлить развитие ИИ, опасаясь появления систем, которые смогут создавать собственных преемников.

Разработчик Claude опубликовал материал, в котором предупредил о возможном наступлении этапа «рекурсивного самоулучшения» — когда искусственный интеллект сможет самостоятельно разрабатывать новые, более совершенные версии самого себя. В компании считают, что государства и общественные институты могут оказаться не готовы к такому сценарию.

Для замедления развития технологии Anthropic предлагает создать международный механизм контроля и координации между ведущими ИИ-лабораториями.

Теперь если будете недовольны качеством ответов модели помните, это ради вашей безопасности.