Jeff Dean с апдейтом по теме ML for Systems, доклад на последнем NeurIPS.

https://x.com/nrehiew_/status/1868672595106865576

ML for Systems — это хорошая тема, она про применение ML в различных технических системах, где до этого рулили эвристики. Компиляторы, дизайн чипов, оптимизация инференса, и прочее, и прочее. В целом мы уже начали вкушать плоды этих трудов, свежие чипы типа TPU, включая те, что в телефонах, оптимизация работы Ютуба, ускоренный инференс моделей — ко всему этому ML уже приложился, но всё равно это только начало.

Аналогичный, но более длинный его же доклад по этой же теме на MLSys:
https://mlsys.org/virtual/2024/invited-talk/2592