Интереснейший пост Натальи Касперской о рисках стремительного развития ИИ и «восстания машин».

Рекомендую как минимум цитаты, как максимум — изучить все мысли, включая возможность воплощения в жизнь сценария «Терминатор».

«12 сентября глава Anthropic Дарио Амодеи опубликовал эссе We Must Pace the Frontier («Мы должны замедлиться»), в котором предложил замедлить рост возможностей передовых ИИ моделей. По его мнению, исследования безопасности перестают успевать за прогрессом...»

«Anthropic не остановит развитие своих моделей, а наоборот, энергично продолжит их развивать, в том числе в военной сфере, поскольку ИИ — это технология двойного назначения. При этом разработки для военных будут закрытыми, доступ к которым всяким внешним акторам предоставлен не будет. И вообще, нам надо готовиться к тому, что доступ к новейшим моделям для большинства будет закрыт…»

«Я не понимаю, как «глобально» может быть без политики. Но в случае ИИ-моделей глобальность довольно сильно ограничена, так как в этом сегменте есть, по большому счету два игрока — США и Китай. При этом США пытаются всячески затруднить конкуренцию Китаю (это ведь политика?). А никаких других глобальных игроков, которые могли бы что-то серьезно делать в ИИ-моделях, в мире просто нет».

«Лично я не думаю, что мировая экономика сейчас зависима от ИИ. Скорее, ИИ отрицательно на нее влияет. Триллионные вложения, строительство дата-центров, дефицит видеокарт и специализированных серверов — что же тут хорошего для мировой экономики? Впрочем, Штаты возможно таким способом слегка стерилизуют избыток своей денежной массы. Так что для их экономики это может стать пользой, а вот для мировой — сомнительно».

«В принципе, можно — теоретически — представить себе, что агенты ИИ самопроизвольно объединятся и начнут чем-то самостоятельно управлять или что-то ломать — без ведома и желания человека. Это уже технически возможно».

https://t.me/natalya_kasperskaya_channel/309