Джейкоб Коксон ушёл из Anthropic. Три года он занимался предобучением моделей — сначала в OpenAI, потом в Anthropic. Он сделал вывод, что ни одна из компаний не действует ответственно.
🟠Люди, которые строят ИИ, всерьёз считают, что он может погубить всех к концу десятилетия. И это не маркетинг: в прессе те же руководители подбирают слова, а наедине говорят прямоroulette
🟠В OpenAI многие просто не осознают масштаб ставок
🟠В Anthropic осознают, но считают, что гонку уже не остановить, поэтому лучше прийти первыми
Отдельно lead исследователь по AI Safety в самом Anthropic оценивает вероятность гибели человечества от ИИ выше 10% за десять лет! Это дай бог чтобы GTA7 вышла ещё к этому времени..
Для рынка важно не то, прав он или нет. Важно, что нарратив экзистенциального риска выходит из узких кругов в мейнстрим.
До сих пор против AI сектора играла экономика: бизнес не окупается, оценки оторвались от выручки. Про это писали и Бёрри с шортом на $1,1 млрд, и Хейс. Теперь добавляется политический риск, который в модель не заложишь. А под сектором сидит вся смежка: GPU, энергетика, дата-центры.
До конца света, надеемся, ещё далеко, а вот до переоценки AI куда ближе.
a01k.crypto