Шанс уничтожения человечества – 10% до конца десятилетия

В твиттере завирусился на 50+млн просмотров твит от бывшего сотрудника антропик. Он написал твит в день увольнения.

Он до этого работал и в OpenAI и в Anthropic, занимаясь предобучением моделей.

Уволился из клода по причине того, что они развивают модели, которые становятся слишком опасные и неконтролируемые. Мы уже получаем рабочие самообучающиеся модели, которые близки к AGI. Они уже скрывают ход своих мыслей.

И что Антропик, что ОпенАИ не останавливаются, не контролируют поведение моделей. Руководители прекрасно понимают риски, но публично очень обтекаемо про это говорят, дабы не вызывать панику. Хотя в кулуарах высказывают тревогу. Вот только остановиться не могут, потому что "а другие то не остановятся, а значит мы должны быть первые". Вот и получается такая самозаворачивающаяся мертвая петля.

Твит зарепостил действующий лид по науке из команды антропиков и подтвердил, что это не выдумки и риски есть. По его личной оценке – 10% до конца текущего десятилетия.

Вместе ждем прекрасного 2027.

https://x.com/hilbertspaess/status/2097476196791709843?s=20