«Большинство людей может умереть из-за ИИ», — так считает новый член совета OpenAI Пол Кристиано 👀

Кристиано — один из известных исследователей, которого сегодня назначили в совет OpenAI Foundation и комитет по безопасности компании. И да, именно он считает, что при создании суперинтеллекта человечество не на шутку рискует потерять над ним контроль. При этом нынешних мер безопасности, по его мнению, недостаточно ни у OpenAI, ни у других лабораторий. А главное, что никто даже не встает на путь «снижения этой угрозы».

Звучит обнадёживающе, да? Самое жуткое, что он не один разгоняет этот устрашающий нарратив:

— На днях другой исследователь ушёл из Anthropic, сказав, что ИИ может уничтожить человечество уже к концу десятилетия.

— Его поддержали сразу несколько коллег, заявив, что разработку нужно замедлить.

— А глава направления Alignment Science в Anthropic вообще оценил вероятность того, что ИИ уничтожит человечество в ближайшие 10 лет, более чем в 10%.

🚬🚬🚬