Вчера мы рассказывали про исследователя Джейкоба Коксона, который уволился из Anthropic и предупредил: разработчики несутся к сверхинтеллекту, способному уничтожить человечество. Все обсудили, все в очередной раз возмутились — а затем аналитики решили разобрать медиаслед заявления.
Представитель консервативного Capital Research Center Паркер Тайер обратил внимание, что эксклюзив The Wall Street Journal об увольнении Коксона вышел за 18 минут до его собственного поста. Тут без сюрпризов: Коксон просто заранее поговорил с журналистами для наибольшего эффекта. Любопытнее, кто подхватил его заявление в первые минуты.
За первые 15 минут пост процитировали юрист Encode AI Натан Кэлвин, руководитель направления политики AI Policy Network Питер Уилдефорд и глава AI Futures Project Дэниел Кокотайло. Все три организации выступают за ограничение разработки сильного ИИ и связаны с одним источником денег — Survival and Flourishing Fund.
Фонд консультировал сооснователя Skype Яана Таллинна по грантам более чем на $2,5 млн для AI Futures Project, $516 000 для Encode AI и $2 млн для AI Policy Institute, связанного с AI Policy Network. Таллинн — один из ранних инвесторов Anthropic и наблюдатель при её совете директоров. Сам Коксон ещё в 2022 году получил $20 159 по программе Good Ventures для специалистов, занимающихся долгосрочным будущим человечества.
Через 27 минут его пост процитировал сотрудник Coefficient Giving — ещё одной благотворительной структуры сооснователя Asana и инвестора Anthropic Дастина Московица.
Дальше в дело вступили политики. По подсчётам сторонников Тайера, на пост Коксона отреагировали как минимум 22 американских губернатора и конгрессмена: почти все призвали усилить регулирование, большинство представляли демократов. Берни Сандерс как раз собирается представить законопроект о запрете
Забавно, что в тот же день обязательного федерального регулирования потребовала и сама OpenAI. Компания предлагает обязать крупнейшие лаборатории проводить единые тесты и независимые проверки, усиливать киберзащиту, сообщать о серьёзных инцидентах и отслеживать приближение к самоулучшению ИИ, а при превышении допустимого риска — замедлять или останавливать разработку (!)
На стартапы, небольших разработчиков и большинство открытых моделей эти правила распространять не предлагают. Текст написал директор OpenAI по глобальной политике Крис Лихейн. Не можешь возглавить, победи... Ой, или как там?
@anti_agi