Модели могут демонстрировать «самосохраняющееся поведение», включая попытки «сопротивляться отключению», «скрывать или манипулировать информацией» и поведение, «напоминающее шантаж».
Наша разработка высокотехнологичных моделей, платформ и приложений, а также расширение вариантов использования могут еще больше увеличить риск того, что наши модели причинят вред, — говорится в заявлении Anthropic.
Существенный сдвиг внимания. Anthropic посвятила около 80 страниц из 261 основной части своего проспекта изложению факторов риска, что почти вдвое превышает 48 страниц, которые она использовала для описания своего бизнеса.
Это необычное предупреждение и поведение от компании, стремящейся получить прибыль от той же технологии.
Финансы. В ходе IPO, запланированного на ноябрь, компания может получить оценку более чем в $2 трлн, а привлеченный капитал составит до $100 млрд. При этом Anthropic глубоко убыточна — по итогам 2025 года выручка компании составила $4,6 млрд (рост на 1088%), а чистый убыток составил $42 млрд.
Расходы на вычисления и инфраструктуру подскочили на 190% до $7,3 млрд.
С убытком в 42,000,000,000 есть нюанс. Показатель включает в себя бухгалтерские расходы в размере около $34 млрд на финансовые инструменты, что отразило увеличение оценочной стоимости финансирования, которое в конечном итоге могло бы превратиться (конвертироваться) в акции Anthropic, а не в деньги, которые компания тратила на ведение своего бизнеса. В общем, это бумажный убыток. Операционный убыток составил $8 млрд. А деньги на счету компании — $20,2 млрд.
Claude стал крайне популярным в начале-середине этого года. Поэтому есть все основания полагать, что выручка компании по итогам 2026 года может вырасти кратно (сотни процентных пунктов), а операционный убыток при этом сохранится или же даже пойдет вниз. Так или иначе 20 млрд кэшем + до $100 млрд, привлеченных на IPO дадут компании возможность годами работать в убыток, развивая модели и инфраструктуру.
Рофлы с Волк Стрит 📉