Исследователь Anthropic ушел из ИИ-индустрии из-за опасений потери контроля над системами.

Исследователь Anthropic Джейкоб Коксон решил уйти из ИИ-индустрии из-за опасений, что конкуренция технологических компаний ускоряет создание самоулучшающихся систем, которые в будущем могут выйти из-под контроля. Об этом пишет The Wall Street Journal.
 
«Мы движемся по траектории многих из наиболее агрессивных сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля», — заявил 27-летний британец.
 
Коксон также рассказал, что сотрудники ИИ-компаний используют выражения вроде «решающий момент» и «эндшпиль», обсуждая движение к самоулучшающимся моделям.
 
В 2026 году Коксон перешел из OpenAI в Anthropic из-за репутации компании в области безопасности ИИ. Теперь он считает, что разработка систем, превосходящих человека в широком круге задач, требует вмешательства государства либо согласованного замедления всей отрасли.

Читайте «Газету.Ru» в MAX