ИИ-специалисты отказываются работать с ИИ. Причина прозаична — слишком много политики мешает делать все по уму, особенно это касается протоколов безопасности.

Исследователь Джейкоб Коксон покинул компанию Anthropic и индустрию ИИ, предупредив, что жесткая конкуренция между разработчиками и китайскими стартапами заставляет идти на компромиссы в вопросах безопасности. Модели со способностью к самосовершенствованию могут выйти из-под контроля и вытеснить человечество уже к концу следующего года,

Если по-человечески, то следует написать так — противостояние США и Китая в области нейронок само по себе отрицает какие-либо ограничения. В искусственно интеллектуальной геополитической схватке двух сверхдержав ограничить себя=проиграть, конкуренция не терпит моральных дилемм.

И, если в случае космоса их особо и не было, за исключением этики отправки зверушек в стратосферу, то вот развитие ИИ задает очень много этически спорных вопросов. Но отвечать на них некогда, потому что пока ты решаешь, как нейронка переключит рычаг в дилемме вагонетки, конкуренты уже вовсю интегрируют ее в БПЛА.

Ирония в том, что о контроле над ИИ будут говорить, но в реальности такое требование — наивность и фантастика.

Компании не скованы рамками морали из-за хайпа и конкуренции на ИИ-рынке, правительства заняты вопросом получения преимущества над конкурентами, и, если ради демонстрации своего величества нужно создать что-то вроде Скайнета, то это явно не проблема правительства, что путь к доминации лежит через создание экзистенциальной угрозы всему человеческому.