👁️ Вы наверняка видели сообщения о том, что гендиректор Anthropic Дарио Амадеи 12 сентября опубликовал эссе с предложением замедлить развитие ИИ. Сэм Альтман и Илон Маск поддержали Амадеи в его опасениях и все вместе попытались донести мысль до Трампа. Президент США отверг идею искусственно притормозить развитие технологии
С чего вдруг технократы выступают с таких позиций?
➡️ Все началось еще в июле с тревожного инцидента. Тогда новые ИИ-модели, разработанные Open AI, самостоятельно нашли уязвимости в тестовой инфраструктуре — то есть вышли за пределы своего интернет-загона. После этого они решили, что отличной идеей будет взломать тестовую платформу Hugging Face. Представители компании заявили, что обнаружили и остановили хакерскую атаку во многом с помощью других ИИ-агентов. Через пару недель после этого Anthropic сообщила о точно таком же случае с участием моделей Claude.
➡️ В конце июля петицию о необходимости замедлить развитие наиболее продвинутых моделей подписали более 1100 сотрудников компаний-разработчиков.
➡️ В ночь с 8 на 9 сентября исследователь Anthropic Джейкоб Коксон написал в X виральный пост о том, что уходит из компании, потому что не хочет быть причастен к уничтожению человечества. До этого Коксон работал и в Open AI: по его словам, обе компании действуют безответственно и сосредоточены исключительно на технологической гонке. Его публично поддержал Эван Хубингер, руководитель alignment-отдела в Anthropic и добавил, что по его оценкам ИИ вероятность того, что ИИ избавится от людей в течение следующего десятилетия перешагнула за 10 процентов.
➡️ Уже после этого, 12 сентября выходит вышеупомянутое эссе Амадеи, к которому присоединяются Альтман и Маск. В тот же день Альтман в интервью журналу Fortune заявил, что у Open AI нет планов проводить в этом году IPO — хотя до этого и Bloomberg, и Wall Street Journal писали о том, что компания планирует выходить на биржу.
Выстраивая эти новости в единый таймлайн, сложно удержаться от предположения, что заявления Амадеи и Альтмана — просто антикризисные меры, призванные смягчить репутационный удар в результате июльских хакерских ИИ-атак. Кажется, маловероятным, что кто-то из лидеров этой гонки добровольно решит отказаться от возможности финишировать первым.
