Как ИИ-агенты могут самосовершенствоваться и воспроизводить себе подобных? Рассказал Владимир Крылов, доктор технических наук и научный консультант по применению ИИ в разработке ПО.

Агенты LLM выполняют критически важные задачи и взаимодействуют со сложными средами, поэтому им часто предоставляются расширенные операционные разрешения. Такое сочетание расширенных возможностей генерации, исполнения кода и операционных разрешений полезно для автономного решения сложных задач. Но оно также вызывает опасения по поводу возникающих рисков безопасности, связанных с саморепликацией агентов LLM.

В лекции рассматриваем исследования в этой области, начиная с принципов Асиломара (Asilomar AI Principles, 2017) и заканчивая самыми последними публикациями. Хватит ли способностей моделей к самовоспроизводству и самосовершенствованию для того, чтобы однажды ИИ превзошел человеческий вид?

🎥 Запись доступна здесь и на других площадках:

YouTube
RuTube
ВКонтакте
ЯндексМузыка

Оставляйте вопросы лектору в комментариях. Владимир Крылов ответит на них в отдельном интервью.