Как ИИ-агенты могут самосовершенствоваться и воспроизводить себе подобных? Расскажет Владимир Крылов, доктор технических наук и научный консультант по применению ИИ в разработке ПО.

Агенты LLM выполняют критически важные задачи и взаимодействуют со сложными средами, поэтому им часто предоставляются расширенные операционные разрешения. Такое сочетание расширенных возможностей генерации, исполнения кода и операционных разрешений полезно для автономного решения сложных задач. Но оно также вызывает опасения по поводу возникающих рисков безопасности, связанных с саморепликацией агентов LLM.

В лекции рассмотрим исследования в этой области, начиная с принципов Асиломара (Asilomar AI Principles, 2017) и заканчивая самыми последними публикациями. Хватит ли способностей моделей к самовоспроизводству и самосовершенствованию для того, чтобы однажды ИИ превзошел человеческий вид?

⏰ Лекция выйдет завтра в 9:00 — смотрите на YouTube или RuTube!

Оставляйте вопросы лектору в комментариях. Владимир Крылов ответит на них в отдельном интервью.