Компания выкатила исследование, где рассказала, что Claude Mythos научился создавать более мощные модели самого себя. Если прямо сейчас не поставить на паузу разработку более совершенных ИИ, рано или поздно нейронки научатся сами бесконтрольно создавать свои аналоги уже без участия человека:
«Факты свидетельствуют о том, что роль человека в процессе разработки ИИ с каждым шагом становится всё менее значимой. Как только качество кода, написанного человеком и искусственным интеллектом, сравняется, люди перестанут писать код и будут заниматься только его проверкой», — Anthropic
Напомню, что Mythos должна была выйти в апреле, но Anthropic побоялась выпускать модель по соображениям безопасности. В этом месяце Anthropic хочет поговорить с политиками, бигтехом и другими представителями верхушки, чтобы решить эту проблему.
А больше всего Anthropic опасается разрабов из Китая, потому что там цензура ИИ ограничивается запретом на вопросы про Тайвань 🙃
Пет-проект