Могут ли ИИ-системы сами себя улучшать?

Позакрывал задачки к концу года, покушал салатики и снова готов делиться с вами контентом.

Задумывались ли, если ИИ-системы сегодня такие продвинутые, что им мешает самим себя улучшать? Есть такое направление Recursive Self‑Improvement (RSI), которое предполагает цикличное самоулучшение ИТ-системы.

Пример
Есть система распознавания речи (speech-to-text). Она работает, но делает ошибки. Я хочу, чтобы ИИ-система (скорее всего мультиагентная) сделала следующее:
▪️выявила типичные ошибки и тенденцию
▪️определила пути улучшения
▪️выполнила доработки (поменяла какие-то параметры, обновила алгоритмы)
▪️если необходимо, сгенерировала синтетические данные и/или добавила аугментации
▪️запустила обучение
▪️протестировала результат
▪️в случае улучшения метрик на моем тестовом датасете, обновила модель

Вау, звучит здорово, правда) Казалось бы, а в чем проблема? Ведь уже есть агенты для
✅ генерации кода
✅ генерации гипотез для обучения
✅ даже генерации синтетических данных

Да, такого рода ассистенты существуют, поэтому все еще являются помощниками для разработчиков и исследователей. А RSI предполагает полностью автономную систему (до самого production), работающую без участия человека.

А что есть сегодня?
На сегодняшний день полноценного RSI еще не достигнуто, хотя есть зачатки. Например, подход Self-Rewarding Language Models предлагает метод самостоятельной оценки ответов LLM, лучшие из которых идут в дообучение. Весьма полезно, но все еще нет полноценной автоматизации.

Исследователи говорят, что RSI «за углом». Ну что ж, будем ждать, не побоюсь этого слова, ИИ-прорыва!

P.S. Уже начали бояться за свои рабочие места? 😌