"Цели этих компаний и цели математического сообщества глубоко расходятся. Мы рассматриваем это как часть более широкой проблемы согласования целей, затрагивающей и другие научные и творческие профессии, а также общество в целом".

Кто определяет цели - тот и главный.
По сути претензия к разработчикам ИИ - "а почему вы решили что это вы главные?".

Единственный содержательный ответ, который будет озвучен - "потому что у нас капитализм, и у нас больше денег".
(То же что и в "частной космонавтике".)

Могут быть и другие ответы, в духе политического поворота от человека к не человеку, от право (индивидуализм) /лево (коллективизм) к "верх" (пересаживание сознания в машину) / "низ" (радикальные зеленые и экологисты). Но пока что до такого общество еще не дозрело.