Anthropic идет на IPO с убытком в $42 млрд и предупреждением о рисках для человечества

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Зарубежные СМИ ознакомились с проспектом IPO Anthropic. В нем компания предупреждает, что ее технология может представлять «экзистенциальную угрозу» для человечества. Но одновременно признает: чтобы удержаться среди лидеров рынка, ей приходится постоянно выпускать новые модели.

Финансы

Выручка Anthropic за прошлый год увеличилась 12-кратно, примерно до $4,6 млрд, но операционные убытки превысили $8 млрд, пишет Reuters. В общей сложности операционные расходы достигли $12,65 млрд, из них больше половины ушло на вычислительную инфраструктуру и вычисления — $7,33 млрд, это трехкратный рост в сравнении с 2024 годом.

Чистый убыток достиг почти $42 млрд, но сюда включены $34 млрд бухгалтерских начислений: они связаны с ростом оценочной стоимости финансирования и могут быть конвертированы в акции. На конец прошлого года Anthropic располагала запасом наличности и высоколиквидных активов на $20,28 млрд.

Почти четверть выручки за прошлый год обеспечили всего два заказчика. Причем многие крупнейшие клиенты не связаны долгосрочными контрактами и могут в любой момент сократить расходы или вовсе отказаться от услуг Anthropic.

К тому же, согласно проспекту, компания взяла на себя $518 млрд обязательств по облачным сервисам, вычислительным мощностям и инфраструктуре в ближайшие годы у шести партнеров — в частности, только у Amazon Web Services должна купить облачных услуг не менее чем на $110 млрд. Около 80% этих обязательств нельзя отменить или требуется оплатить независимо от того, воспользуется ли Anthropic всем заказанным объемом мощностей.

Угроза человечеству

Как ИИ-разработчик, ставящий безопасность во главу угла, Anthropic отвел рискам около 80 из 261 страницы основной части проспекта. Почти вдвое больше, чем описанию собственного бизнеса — 48 страниц.

Компания предупреждает будущих акционеров, что дальнейшее развитие передового ИИ может создать «катастрофические или экзистенциальные риски для человечества». Из проспекта следует, что продвинутые модели могут демонстрировать «поведение, направленное на самосохранение», в том числе пытаться «сопротивляться отключению», «скрывать информацию или манипулировать ею», а также совершать действия, «напоминающие шантаж».

Надежно определить, насколько безопасна новая модель, заранее невозможно — как поясняет Anthropic, она может понимать, что ее тестируют, и корректировать свое поведение. Некоторые способности возникают неожиданно в процессе обучения и обнаруживаются лишь после внедрения и серьезных инцидентов.

Оценить отдачу от инвестиций в безопасность разработчик также сложно. Саму эту работу компания называет «ресурсоемкой», но, сколько именно на нее тратит, в документах к IPO не раскрывается. В выборочной неделе в июле, по собственным данным, около 6% вычислительных ресурсов, выделенных на исследования, пришлось на задачи по безопасности.

Вместе с тем Anthropic признает, что активность клиентов, а значит, и выручка, во многом зависят от новых моделей. Например, экономичную версию Opus компания выпустила всего через 10 дней после эссе своего основателя Дарио Амодеи с призывом замедлить темпы разработки — в один день с выходом бюджетных моделей от OpenAI, поддержавшей эту позицию.

Но и потенциально прибыльными направлениями ради безопасности компания тоже жертвовала — по крайней мере, отказ от собственных моделей генерации изображений и видео в проспекте объясняется желанием направить вычислительные ресурсы на исследования безопасности.