В Кремниевой долине происходят интересные вещи – те кто ещё вчера соревновался в скорости создания всё более мощного искусственного интеллекта, теперь заговорили о необходимости его торможения.
Глава Anthropic Дарио Амодеи призвал снизить темп, а Сэм Альтман из OpenAI его поддержал, аргументируя тем, что развитие наиболее мощных систем придётся замедлять, чтобы общество и системы контроля успевали за технологиями.
К лагерю сторонников этой идеи примкнули Илон Маск и руководитель Google DeepMind Демис Хассабис. Губернатор штата Калифорния (именно тут разрабатываются самые передовые модели) Кэвин Ньюсом подписал законопроекты, которые ограничивают использование ИИ в киноиндустрии и начал проработать обязательный «kill switch» для передовых ИИ-моделей, по сути кнопку аварийного отключения моделей.
Против согласованного замедления выступили Марк Цукерберг из Meta и Дженсен Хуанг из Nvidia. Они опасаются что сторонники замедленного развития просто хотят создать конгломерат и контролировать имеющиеся технологии в обход конкурентов. Ну и разумеется. дискуссию об ИИ в США никто не рассматривает в отрыве от вопроса конкуренции с Китаем.
«Те, кто твердит, будто искусственный интеллект погубит мир, а дата-центры вредят вашему району, это те же самые люди, которые совсем недавно уверяли, что мир погибнет из-за “изменения климата”», написал Трамп в Truth Social.
В интервью изданию Politico сенатор-республиканец от Техаса Тед Круз заявил более откровенно:
«Проблема в том, что мы не можем это делать. Это невозможно. Потому что знаете кто не ограничивает? Китай. Они не остановятся... Если будут роботы-убийцы, то пусть лучше будут американские роботы-убийцы, а не китайские».
Нет сомнений, что развитие ИИ необходимо контролировать и те темпы, с которыми мы начинаем полагаться на ИИ сильно опережают темп развития человечесткого общества и политической системы. Важно кто и как будет осуществлять этот контроль. У этой дискуссии есть довольно очевидное классовое измерение. Решение о скорости технологии, способной перекроить рынок труда, образование, медиа и распределение власти, обсуждают владельцы крупнейших технологических корпораций или политические лидеры с диктаторскими замашками. А общество оказывается перед довольно страшным выбором: либо довериться тем же компаниям, которые разгоняли гонку ИИ, либо позволить им самим определить правила её торможения. При этом уже очевидно, что из военной индустрии и индустрии контроля за обществом ИИ уже никто не уберет. Вопрос сегодня не только в том, нужно ли замедлить ИИ. Не менее важен другой: кто сегодня вообще имеет право решать, с какой скоростью должно меняться будущее миллионов людей?
_____
Подписаться | Обсудить | Помочь