Пока не от букмекеров, а от Эвана Хубингера — исследователя безопасности ИИ в Anthropic (букмекеров — ждем).
Другой исследователь Anthropic и OpenAI уволился и заявил, что разработчики ИИ на самом деле боятся гибели человечества. Его первый пост об этом набрал за сутки уже 156 млн просмотров.
Главное из всей ветки:
Последние три года я занимался исследованиями предобучения в OpenAI и в Anthropic. Ни одна из этих компаний не действует ответственно. Они несутся прямиком к самоулучшающемуся сверхинтеллекту и играют с нашими жизнями. Вскоре мы получим системы, превосходящие человека по интеллекту, которые смогут взламывать что угодно, за одну ночь переворачивать целые отрасли, приобретать реальную власть и ресурсы. Ни одна другая деятельность человека не несёт угрозы такого масштаба.
Люди, создающие ИИ, всерьёз считают, что к концу этого десятилетия он может уничтожить всех нас. Почему они это делают? Из-за глобальной гонки ИИ — и полного отсутствия регулирования.
В реплаи к нему зашел Эван Хубингер, действующий сотрудник Anthropic, и сказал, что вероятность гибели человечества в ближайшие 10 лет — 10% (то бишь кэф 10,00).
В 2,5 раза вероятнее чемпионства Манчестер Юнайтед в этом сезоне.
че поставить