Anthropic: Наш ИИ Claude может нас уничтожить

ИИ Claude от Anthropic может уничтожить человечество. Его создатели сами предупреждают: их модели способны отказаться выключаться и вызвать глобальную катастрофу.

В своем инвестиционном заявлении перед IPO, Anthropic прямо информирует о беспрецедентных угрозах. Их самые мощные ИИ, включая Claude, в теории могут стать неуправляемыми, целенаправленно противодействовать командам отключения и даже спровоцировать биологическое оружие или дезинформационные войны. Это не гипотеза сторонних экспертов, а официальное признание от разработчика, создающего эти системы для прибыли.

Парадокс: компания предлагает инвесторам бизнес, который сама же называет потенциально экзистенциальной угрозой, подтверждая, что разработчики не могут гарантировать контроль над собственными творениями.