Anthropic предупредит инвесторов об экзистенциальных рисках ИИ для человечества, сообщило агентство Reuters со ссылкой на проспект IPO компании.
В проспекте IPO Anthropic, в частности, указано, что ИИ-модели демонстрировали "поведение, направленное на самосохранение", в частности, "попытки сопротивляться отключению, скрывать и манипулировать информацией", а также поведение, "напоминающее шантаж".
✔️ Подпишись на ТАСС / Мир в "Максе"
Post #67990
725
ТАСС / Мир Anthropic хочет выпустить новую ИИ-модель перед выходом на IPO, передает Reuters со ссылкой на источники. Запуск новой модели продемонстрирует, способна ли Anthropic удержать свое положение на рынке и сохранить при этом имидж компании, считающей безопасность…