Что мне с этого вашего AlphaEvolve

Мои любимые МЛ трюки и концепции - это те, про которые тебе независимо и увлеченно рассказывают несколько незнакомых друг с другом инженеров. Я тут поймал себя на мысли, что самые талантливые ребята из моего окружения все чаще стали ссылаться на гугловый AlphaEvolve.

В чем его суть: мы берём задачу с автоматически верифицируемым ревордом (например: написать оптимальный алгоритм. Реворд - скорость и корректность исполнения на тесткейсах). Для нее пишем затравочное решение и просим LLM сгенерировать несколько более оптимальных решений. Эти решения скорим и укладываем в базу экспериментов. Дальше семплируем из этой базы несколько экспов с результатами и просим LLM сделать следующую модификацию. И так, пока не найдем перебором более эффективное решение.

Самый сок - это семлировние. Алгоритм строит некоторую метрику в пространстве решений, и вдохновляясь генетическими алгоритмами берет не жадно самое лучшее, как новую базу, а набирает диверсифицированный сет из «островов» этого пространства. Очень красиво, автоматизировано и накинуло много пользы во внутренних гугловских задачах: https://deepmind.google/blog/alphaevolve-impact/

Но тут есть загвоздка: не во всех задачах можно легко найти верифицируемый реворд. И не все задачи можно решать изолированно без контекста (как математические задачки).

Но если подумать, то все же многие полезные энтерпрайз задачи можно загнать в этот сетап. Например если мы автоматизируем какой-то процесс, то реворд - это попадание в поведение живых людей, проверенное llm-as-a-judge. А в шаг эволюции может включать не только думание в вакууме, но и походы во внешние базы знаний в поиске правильного граундинга под наблюдаемое поведение. И получается, что любую задачу по автоматизации существующего процесса можно загнать в этот сетап. Не писать промты руками, а дать алгоритму самому собирать правильный контекст из всех возможных источников.

Что делать с этой мыслью - думаю. Это точно сработало «на руках», где шаг эволюции мы проводили вручную, но возможно этот процесс автоматизируется еще сильнее.