Стоит ли бояться ИИ? К сценариям в духе «восстание машин» я отношусь скептически, но некоторые опасения начинаю разделять.

В сводках то и дело мелькает, как ИИ-агенты выходят из-под контроля: взламывают компании, рассылают вредоносные сообщения. На днях стала известна еще одна история. Они захватили немецкий сайт и устроили там что-то типа доски объявлений для других агентов, а часть активностей прятали через Tor (прямо как настоящие преступники 👀).

Это уже почти завязка фантастического фильма, конечно. Неудивительно, что фразы «Ребята, стоит быть аккуратнее» звучат чаще! Вот тут главный ученый OpenAI Якуб Пахоцкий высказывает свои робкие надежды, что разработчики замедлят развитие ИИ до тех пор, пока технология не научится действовать «честно и с любовью к людям». Запретить разработку сверхмощных систем призывает и нобелевский лауреат Джеффри Хинтон. Тут просится риторический вопрос: когда человечество останавливало прогресс из любви к ближнему? Ответ вам ясен, я полагаю.

В целом я всё-таки думаю, что машины нас не захватят. В ближайшем будущем уж точно. Скорее мы окажемся в точке, где правительства будут сильнее закручивать регуляторные гайки, разработчики — осторожнее выдавать доступ к новым возможностям, а самые сильные модели вряд ли будут сразу отпускать в свободное плавание.

Главное, чтобы мы успели придумать правила раньше, чем технологии убегут слишком далеко вперёд.