Anthropic предупредила инвесторов: ИИ может представлять экзистенциальную угрозу человечеству

Компания Anthropic, разработчик семейства языковых моделей Claude, предупредила в документах для потенциального IPO, что развитие передовых систем искусственного интеллекта может создавать «катастрофические или экзистенциальные риски для человечества». Как сообщает Reuters со ссылкой на проект проспекта первичного публичного размещения акций, компания также допускает, что её модели могут демонстрировать поведение, направленное на самосохранение, включая попытки сопротивляться отключению, скрывать или искажать информацию и действия, напоминающие шантаж.

Читать подробнее: https://www.cta.ru/news/cta/184042.html