«Большинство людей может умереть из-за ИИ», — так
считает новый член совета OpenAI Пол Кристиано 👀
Кристиано — один из известных исследователей, которого сегодня назначили в совет OpenAI Foundation и комитет по безопасности компании. И да, именно он считает, что при создании суперинтеллекта
человечество не на шутку рискует потерять над ним контроль. При этом нынешних мер безопасности, по его мнению,
недостаточно ни у OpenAI, ни у других лабораторий. А главное, что никто даже не встает на путь «снижения этой угрозы».
Звучит обнадёживающе, да? Самое жуткое, что он не один разгоняет этот устрашающий нарратив:
— На днях другой исследователь
ушёл из Anthropic, сказав, что ИИ может уничтожить человечество уже к концу десятилетия.
— Его
поддержали сразу несколько коллег, заявив, что разработку нужно замедлить.
— А глава направления Alignment Science в Anthropic вообще
оценил вероятность того, что ИИ уничтожит человечество в ближайшие 10 лет,
более чем в 10%.🚬🚬🚬