«Компании несутся напролом к самоулучшающемуся сверхразуму, играя в рулетку с нашими жизнями», — исследователь Джейкоб Коксон уволился из Anthropic и написал огромный тред о рисках ИИ.

Главное:

🟢 Последние три года он занимался исследованиями предобучения сначала в OpenAI, а затем в Anthropic. По его словам, ни одна из компаний не действует достаточно ответственно.

🟢 Более того, многие люди, непосредственно создающие передовые модели, всерьёз допускают, что ИИ может привести к гибели человечества уже через пару лет.

🟢 При этом остановиться компании не могут: в Anthropic, по словам Коксона, риски хорошо понимают, но продолжают гонку, потому что считают, что иначе сверхмощный ИИ первой создаст менее ответственная лаборатория.

🟢 Поэтому да, скоро нас ждет терминатор ИИ, который способен взламывать что угодно, перевернуть любую область за ночь и обрести реальную власть и ресурсы по желанию.

Страшно 💀

@xor_journal