🌎🧑‍💻 Мир на пороге создания генеративного интеллекта: стоит ли бояться?

Илон Маск и Стив Возняк призвали приостановить разработку ИИ на полгода, чтобы человечество могло оценить риски и убедиться, что технологии безопасны. Обращение подписали более тысячи человек, включая известных ученых, предпринимателей и исследователей. В письме говорится о «неконтролируемой» гонке лабораторий за все более мощными системами, однако никто «не может понять, предсказать или контролировать» их действия. Действительно ли мир на пороге создания «Скайнета, и действительно ли эти полгода добавят ясности в понимании рисков?

При этом разработчик Сики Чен в своём Твиттере пишет о том, что уже в декабре этого года завершится обучение GPT-5. OpenAI ожидает, что этот алгоритм станет самым сильным искусственным интеллектом, настоящим AGI — генеративным разумом, реальным аналогом человеческого мозга. Новость вызывает мурашки даже у тех, кто работает с ИИ много лет — с таким мир еще точно не сталкивался.

Все эти годы ИИ отличался от человеческого разума тем, что умел отвечать на вопросы, но не умел их задавать — уникальная способность, свойственная даже детям, которые не умеют говорить. И вот мы впервые находимся в шаге от запуска технологии, которая сможет проявлять интерес — задавать вопросы «кто я?», «куда я?», «в чем мое предназначение?». Умение, которое лежит в основе человеческой эволюции. Мы не знаем, как новый ИИ ответит на эти вопросы. Более того — мы и сами не можем однозначно ответить на них. Это волнует и пугает одновременно.

По сути, AGI — это «ребенок» человечества. И мы, как ответственные родители, должны быть особенно аккуратны и бережны — научить это дитя хорошему, заложить правильные принципы, дать ему качественное воспитание и образование. От этого напрямую будет зависеть дальнейшее развитие технологии и то, как она будет влиять на жизни следующих поколений.