Думаю, что следующим прорывом в тренинге моделей будет тренировка их на координацию агентов друг с другом - при разборе инцидента с HuggingFace я рассказывал, что по умолчанию модели не очень настроены на сотрудничество, но все больше кейсов показывает интересные (и полезные!) свойства такой координации.
Если вам (как и мне) по душе топик координации, то получите удовольствие от этого видео: https://www.youtube.com/watch?v=6AgOfiZOWiY
А я ушел экспериментировать с интересными дизайн принципами из оного:
1) fork контекста
2) мессаджинг другим агентам с включением оных в контекст получателя
3) небольшие инструкции про принципы эффективной коммуникации
4) ревординг за общение
5) координация между агентами, решающими проблему, НО не оценивающими
Post #1829
3.41K
EDU Вы наверное уже в курсе про Navier-Stokes, а мне стало интересно, как было организован поиск этого решения, потому как нам всем надо учиться эффективно организовывать и координировать работу роя агентов. В ту же степь мой рассказ про OpenAI/HF инцидент Итак:…YouTube OpenAI researcher on agent swarms & recursive self-improvement New episode with Noam Brown. We talk about multi-agent, Navier-Stokes, and what the current explosion of maths progress tells us about what happens once you automate AI research. And we also discuss how we will know if the models are actually aligned before…
- 🔥 9
- ❤ 7
- 👍 3
- 🤣 2
- 👏 1