⚡️ Разрабы ИИ буквально «играют в рулетку с нашими жизнями» — об этом написал Джейкоб Коксон. Недавно он уволился из Anthropic, а после выкатил тред о рисках, которые нам готовит AGI.

За минуту пересказывает главные тейки:
🔅 Компании слишком безответственно подходят к созданию абсолютного ИИ;
🔅 Три года Джейкоб занимался исследованиями предобучения в OpenAI и Anthropic — человек знает, что говорит;
🔅 Большинство людей, ответственных за передовые модели, допускают, что ИИ уничтожит человечество уже через пару лет;
🔅 Поводом для остановки они это не считают. В Anthropic гонку объясняют тем, что хоть риски известны, всё равно выиграть надо, ведь иначе сверхмощный ИИ первой создаст менее ответственная лаборатория.

🔤🔤🔤🔤

Компании всерьёз готовят мощнейший ИИ, который взломает что угодно, перевернёт любую область и возьмёт реальную власть за ночь. Они целиком осознают, что делают, и всё равно это делают...

Думаем.

🙂 Не баг, а фича