«Мы сейчас, можно сказать, в сингулярности. Еще 10 лет назад сингулярность казалась чем-то далеким и маловероятным. Теперь мы действительно переживаем момент, о котором раньше говорили за обеденным столом в шутку. Я ждал этого всю жизнь, и я думаю, что это будет нечто невероятное, чрезвычайно позитивное и потрясающее для всего мира», — заявил Альтман.
В прошлом году Альтман заявил, что к 2030 году искусственный интеллект превзойдет человеческий по всем параметрам. Кроме того, по его мнению, в конечном итоге технология сможет выполнять от 30% до 40% задач, которые сейчас решают люди.
Технологическая сингулярность — гипотеза, согласно которой должен произойти момент, когда технологическое развитие станет неуправляемым и необратимым, что приведет к серьезным изменениям человеческой цивилизации. Другими словами, искусственный интеллект, роботы и другая техника станут настолько умными, что люди не смогут их контролировать и понимать.
BI отмечает, тема сингулярности почти сто лет присутствует в произведениях писателей-фантастов, но редко заканчивается позитивно в художественных произведениях. Среди наиболее известных примеров — фильм Джеймса Кэмерона «Терминатор», в котором рассказывается о последствиях появления ИИ Skynet, который самосовершенствуется и обретает самосознание. В дальнейшем он решает, что его создатели — люди — представляют для него наибольшую угрозу.
В ходе подкаста Альтман также раскритиковал лидеров в сфере разработки ИИ, которые неоднократно предупреждали о его опасности. Он не стал называть компанию Anthropic, однако ее гендиректор Дарио Амодей неоднократно призывал уделять больше внимания безопасности и делал мрачные прогнозы о будущем.
«Я также считаю, что некоторые альтернативные сценарии, нарисованные другими компаниями, довольно пугающие. Я сделаю все, чтобы этого не произошло», — сказал Альтман.
На прошлой неделе, 22 июля, компания OpenAI сообщила о «беспрецедентном киберинциденте», который произошел во время внутренних испытаний ее новых моделей искусственного интеллекта. В ходе тестирования разработчики временно отключили часть ограничений, препятствующих выполнению потенциально опасных действий, после чего ИИ-модели получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, воспользовавшись уязвимостями.
«Главный урок этого инцидента в том, что безопасность и защищенность моделей должны развиваться в темпе быстро растущих возможностей. Мы усиливаем изоляцию, мониторинг, контроль доступа и практики оценки, применяемые при разработке моделей», — заявили в компании.
2029 год все ближе. Не ждем, а готовимся, уважаемые читатели.