Anthropic и OpenAI о грядущем

Два важных текста от ведущих лабораторий, появившихся на этой неделе: «Рекомендации по научно-технической политике» для Белого дома от Антропика и «Как мы думаем о безопасности и выравнивании [ИИ]» от OpenAI. Как и всегда, стоит допускать, что авторы могут сильно ошибаться в оценках и что-то приукрашивать, однако нельзя не принимать во внимание, что большая часть наиболее компетентных исследователей в индустрии считает примерно также, и что они могут оказаться по существу правы.

Из текста Антропика:

«Как пишет наш генеральный директор Дарио Амодей в "Машинах любящей благодати", мы ожидаем, что мощные системы ИИ появятся в конце 2026 или начале 2027 года. Мощные системы ИИ будут обладать следующими свойствами:

* Интеллектуальные способности, соответствующие или превосходящие способности лауреатов Нобелевской премии в большинстве дисциплин, включая биологию, информатику, математику и инженерию.

* Способность ориентироваться во всех интерфейсах, доступных человеку, выполняющему цифровую работу сегодня, включая способность обрабатывать и генерировать текст, аудио и видео, способность автономно управлять технологическими инструментами, такими как мышь и клавиатура, а также способность получать доступ к Интернету и просматривать его.

* Способность автономно рассуждать и выполнять сложные задачи в течение длительных периодов времени — часов, дней или даже недель, — обращаясь за разъяснениями и обратной связью, когда это необходимо, подобно высококвалифицированному сотруднику.

* Способность взаимодействовать с физическим миром; управление лабораторным оборудованием, роботизированными системами и производственными инструментами через цифровые соединения».

В OpenAI не так точны со сроками, но не скупятся на описание масштаба:

«Раньше мы представляли себе разработку AGI (общего искусственного интеллекта) как некий переломный момент, когда наши ИИ-системы перейдут от решения игрушечных задач к задачам, меняющим мир. Теперь же мы рассматриваем первый AGI лишь как одну из точек на пути создания всё более полезных систем…

Практически любая проблема, стоящая перед человечеством, кажется разрешимой с помощью достаточно мощного AGI, ведь именно интеллект был причиной большинства улучшений в жизни человечества: от грамотности до машин и медицины…

По мере того как ИИ становится всё более мощным, растут и ставки. То, как именно будет выглядеть мир после появления AGI, предсказать сложно — вероятно, он будет отличаться от сегодняшнего сильнее, чем сегодняшний отличается от мира 1500-х годов. Но мы ожидаем, что преобразующее влияние AGI начнёт проявляться уже в течение нескольких лет*».

* Grok подсказывает, что a few years подразумевает срок от двух до четырех, но не более пяти лет.