«Это будет одним из самых важных чтений в вашей жизни». Исследователь Anthropic Джейкоб Коксон уволился из компании и заявил, что больше не хочет участвовать в гонке за сверхинтеллектом — его твит собрал более 30 млн просмотров за 8 часов. Последние три года он занимался обучением моделей в OpenAI и Anthropic и теперь утверждает, что обе компании слишком быстро двигаются к ИИ, способному самостоятельно улучшать самого себя.

По словам Коксона, внутри лабораторий риск воспринимают гораздо серьёзнее, чем говорят публично: некоторые исследователи действительно допускают сценарий, при котором сверхмощный ИИ может стать угрозой человечеству уже до конца десятилетия. При этом в Anthropic, как он утверждает, опасность понимают, но продолжают гонку из логики «если не мы, то это сделает кто-то другой».

Сам Коксон призывает крупнейшие ИИ-компании договариваться о замедлении разработки, а при необходимости даже временно запретить дальнейшее усиление моделей. По его мнению, запускать такую гонку силами нескольких частных компаний — слишком большая ставка для всего человечества.

Как-то страшно 😐