Возможно, мы все умрем - Anthropic готовится выйти на IPO

Anthropic (разработчик Claude) претендует на оценку более $2 трлн. И делает ставку на то, что ИИ изменит мировую экономику сильнее, чем индустриализация, электрификация и интернет.

Интересно посмотреть на коммуникацию при размещении.

Мы все уже более чем прогреты на тему возможностей ИИ. Поэтому Anthropic нам их не продает.

Почти половина их проспекта про то, что технология компании может представлять экзистенциальный риск для человечества. 80 страниц - про риски, 48 - про бизнес.

Модели способны на самосохраняющееся поведение, могут сопротивляться отключению, скрывать или искажать информацию, шантажировать. Оценивать безопасность моделей сложно, потому что они, возможно, понимают, когда их тестируют, и подстраиваются под это. Технология потенциально опасна для человечества - такая формулировка, возможно, впервые появляется в базе SEC.

Дарио Амодеи, глава компании, неоднократно призывал замедлить выпуск новых возможностей ИИ из-за угроз безопасности. Но замедление это ловушка. Если притормозят Anthropic и OpenAI, вперед вырвется Китай.

И вот здесь, мне кажется, основной коммуникационный ход.

Когда технология действительно прорывная, ее не нужно прогревать обещаниями. Спрос есть. Инвесторы годами ждали возможности вложиться в ИИ. Дефицит здесь не интерес, а доверие. Вопрос не в том, купят ли акции. Вопрос - смогут ли управлять тем, что создали?

Поэтому вместо питча про рост здесь питч про ответственность. И раздел с рисками это не стандартный дисклеймер от юристов, а способ сказать, что мы очень серьезно относимся к тому, что делаем. Мы сами говорим как это может пойти не так.

Риск здесь работает как знак качества. Только очень мощная технология заслуживает такого объема предостережений.