Весь западный интернет смеется с Дарио Амодеи, основателя компании Anthropic, который переживает, что новые сотрудники его компании работают только за деньги, а совсем не за великую и прекрасную идею. Мол, наивный мальчик, а за что же еще им работать? Но мы утверждаем, что Дарио, которого многие считают классическим сумасшедшим ученым, говорит дело.

Для тех, кто не в курсе, создатели Антропика в своё время ушли из OpenAI под двумя соусами.
Публично, они утверждали, что OpenAI недостаточно заботится о предотвращении зомби-апокалипсиса из-за AGI, а потому недостоин быть лидером ИИ-гонки.
Непублично считалось, что Антропик на тот момент просто собрал всех хейтеров Сэма Альтмана, персонажа действительно весьма неоднозначного.

С тех пор хейтеры не только догнали, но и перегнали объект хейта. Модели от Anthropic считаются на данный момент самыми передовыми, а, благодаря ставке на корпоративный ИИ где денег больше, чем у физиков, Антропик сейчас растет быстрее OpenAI.

Поэтому главная мысль, которую Дарио вряд ли когда-нибудь скажет вслух, на самом деле звучит так: “мы боимся, что компания перестанет быть сектой и станет просто бизнесом”.

Слово “секта” мы используем без оценки - исключительно в смысле “группа людей, объединенная общими религиозными убеждениями”.
Антропик, например - это секта свидетелей опасного AGI, и убеждение это основано не столько на фактах (объект изучения настолько сложен, что плохо поддается бесспорному доказательству). сколько на вере, что “если за этой штукой не присматривать, то рано или поздно долбанет. А мы - как раз те люди, которые делают так, чтобы и человечеству было хорошо, и не долбануло”.

Любой нормальный CEO должен мечтать о роли лидера секты. Не из-за “темной триады”, а потому что секта - значительно более удобный и эффективнывй объект управления, чем обычный бизнес.

Для начала членов секты не переманишь к конкурентам просто деньгами, им нужно предложить более убедительную религию, чем у них есть. А это по-настоящему сложно.
Кроме того, в секте проще внедрить определенные принципы поведения. Например, одна из версий того, почему передовые модели Антропика сейчас номер один в мире - это как раз искреннее стремление сотрудников соблюдать принципы максимальной безопасности в разработке ИИ.

И, наконец, если ваши религиозные убеждения совпадают с потребностями (а лучше страхами) ваших клиентов - это помогает продавать. Корпоративные ИТ-начальники со значительно большим рвением купят у людей, помешанных на безопасности, потому что провал в безопасности - это ночной кошмар любого корпоративного айтишника.

Не поймите нас неправильно - в Антропике работают не альтруисты - платят им так же хорошо, а то и лучше, чем и в компании, которую они хейтят. Но вера страхует от переманивания персонала, обеспечивает нужную культуру и помогает продавать.
Потерять все эти преимущества, если культура размоется с приходом тысяч новых людей - по-настоящему страшно для бизнеса. Так что мы вполне понимаем Дарио.