TGViewer
fmin.xyz fmin.xyz @fminxyz · 4.71K subscribers
Post #31 7.98K
🧬 Эволюционные алгоритмы

Полтора месяца назад DeepMind выкатил AlphaEvolve, где LLM-агент генерирует, скрещивает и отбирает фрагменты кода на основе эволюционного подхода. Так появляются новые алгоритмы — от рекордов в матричном умножении до оптимальных расписаний вычислений и топологий печатных плат для TPU. Сообщество уже откликнулось опен-сорсным OpenEvolve — можно запустить тот же процесс самому и выращивать свои программы.

На анимации — пример: генетический алгоритм оптимизирует расписание светофоров. Есть улица с несколькими светофорами. Каждый дважды зажигает красный на фиксированное время, чтобы пропустить пешеходов. Если времена выбрать случайно (верхний ролик), поток машин разваливается, пропускная способность падает. Эволюция чинит это: алгоритм ищет расписание, которое пропускает больше автомобилей.

Расписание описываем вектором моментов, когда включается красный:

1-й 🚦 5 с, 35 с
2-й 🚦 7 с, 37 с

n-й 🚦 3 с, 17 с

Дальше классика:

🐱 Особь - вектор расписания светофоров
🏙️ Популяция - 256 случайно сгенерированных особей
🧑‍🧑‍🧒 Скрещивание - из двух особей создаём третью, унаследовавшую их черты
🐷 Мутация - случайно меняем часть особей и возвращаем их в популяцию
💎 Отбор - подсчёт функции приспособленности - количества проехавших машин за симуляцию в нашем случае. И выбор лучших 256 особей

🌀 Цикл «популяция → скрещивание → мутация → селекция» повторяем, и каждое новое поколение едет не медленнее предыдущего.

🧐 Легко увидеть, что на обоих частях видео все светофоры одинаково горят по 2 раза красным одинаковое время. То есть уважаемые пешеходы проходят одинаково.Этот подход к решению задачи очень наивен. Есть более продвинутые формулировки и результаты. Однако, его можно применять к очень широкому классу задач.

В свое время именно эволюционные алгоритмы заставили меня влюбиться в оптимизацию (напишу об этом в следующем посте с ещё одним примером применения таких задач). Мне кажется, что синергия методов глобальной оптимизации и языковых моделей будет очень плодотворной в амбициозных интеллектуальных задачах.
  • 🔥 81
  • 👍 9
  • 🥰 5
  • 🤝 2
  • 🦄 1
More from @fminxyz
  1. Feb 28, 2025QR алгоритм 🥸 Одна из жемчужин численных методов. Он используется для поиска собственных…
  2. Feb 12, 2025Наглядно о том, зачем нужна нормализация признаков Простая анимация, которая показывает фи…
  3. Jan 31, 2025Подбор шага с помощью линейного поиска в градиентном спуске Если нам известны характеристи…
  4. Dec 5, 2024О чем пишут на ICLR 2025 Пока все ждут результаты ревью одной из самых главных конференций…
  5. Nov 30, 2024Как ускоряли обучение GPT-2 S в 10 раз 🤩Очень интересный репозиторий Modded-NanoGPT, и на…
  6. Oct 31, 2024В начале октября вышел ежегодный отчет State of AI Report 2024 🔗Ссылка Помимо обзора прог…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →