Последние три года специалист по машинному обучению Джейкоб Коксон занимался предобучением моделей ИИ в OpenAI и его главном конкуренте, компании Anthropic, но 9 сентября уволился по собственному желанию, о чем сообщил в соцсети X (бывший Twitter). За сутки серию его постов прочитали более 140 млн раз, а стартовый твит набрал почти 720 тысяч лайков.
Джейкоб Коксон: «Они [OpenAI и Anthropic] стремительно движутся к созданию самосовершенствующегося сверхинтеллекта и играют нашими жизнями. Люди, создающие ИИ, искренне считают, что к концу десятилетия их разработка может нас всех погубить. Это не маркетинговый ход — если уж на то пошло, руководители компаний и ведущие исследователи, говоря с прессой, будут смягчать формулировки, чтобы показаться более благоразумными. Однако в частных разговорах они делятся своими страхами. Никакая другая деятельность человека сегодня не представляет такой опасности».
Что этому предшествовало?
📍Еще в 2023 году один из создателей ChatGPT Илья Суцкевер прогнозировал, что они «определенно получат возможность» создавать «полностью автономных субъектов, преследующих свои собственные цели», поэтому «очень важно, особенно если такие субъекты будут намного умнее людей, чтобы их цели совпадали с нашими». С тех пор обсуждения угрозы слишком быстрого развития искусственного интеллекта то затихали, то начинались с новой силой.
📍В конце 2025 года руководитель проекта AI Futures Project Йонас Фольмер заявил журналистам, что, по его мнению, ИИ уничтожит человечество с вероятностью один к пяти.
📍А в феврале 2026-го глава направления Safeguards Research в Anthropic Мринанк Шарма ушел в отставку, заявив следующее: «Я постоянно пытаюсь осмыслить ситуацию, в которой мы оказались. Мир находится в опасности».
«Мы не знаем, как сделать их безопасными», «пока нет плана решения проблемы»
В итоге это одни из главных тезисов, которые звучат сейчас от действующих лиц, кажется, надвигающейся на нас ИИ-революции и ее исследователей. Рассказываем все, что об этом известно — в большом материале на сайте Собака.ru.
⭐ Telegram | MAX | VK