Глава Anthropic, это который разрабатывает Claude, Дарио Амодеи призвал ограничить темпы развития ИИ. Его тут же поддержали Илон Маск и  Сэм Альтман (OpenAI). Поводом стал недавний неожиданный выход ИИ-агентов за пределы тестовой среды. 
В похожем ключе выступили и лучшие математики планеты. Последние расстроились, когда несколько дней назад нейросеть  решила очередную "задачу тысячелетия". Решила она её, примерно, как DeepSeek решает задачи по ЕГЭ: чисто как машина, но результат выдала. Теперь математики не знают, что с этим делать.
  На мой взгляд, во-первых, искусственно ограничить прогресс невозможно -  в истории это никому не удавалось. Во-вторых, ИИ не субъектен. Это даже не биологическая субстанция, которая естественным образом может "сбежать" из лаборатории. Если в результате экспериментов кому-то или чему-то принесен ущерб, то проблема исключительно в лаборантах, не соблюдающих технику безопасности. Интересно, когда первобытные люди начали использовать огонь, появился кто-то, предлагавший его запретить ввиду очевидных рисков?