Легенда современного ИИ Ноам Шазир: ИИ не заменит Google, но может стать вашей мамой — намёк на эмоциональные качества. Это лучшая проблема, с которой я работаю

Шазир заявил, что одним из факторов, ускоряющий развитие ИИ станет самоускорение.

ИИ будет проектировать чипы и софт, ускоряя собственное развитие. Это приведёт к прорывам в создании автономных агентов и более умных систем.

Ноам Шазир, соавтор статьи о трансформерах и лидер Google DeepMind по разработке Gemini, выступил на конференции Hot Chips. Вот, что он сказал:

LLM — лучшая проблема в истории. Он назвал языковое моделирование задачей, которая захватывает воображение. От улучшения поисковых алгоритмов Google до моделей с триллионами параметров — LLM уже меняют подход к ИИ, и это только начало. «Мы только начали», — повторил он.

1. Что хотят LLM от чипов? ИИ требует от hardware масштабируемости и энергоэффективности. Шазир выделил:
- Матричная математика и attention-механизмы: нужны чипы, оптимизированные под эти операции.
- Иерархия памяти: от DDR5 до HBM и on-chip SRAM для скорости и объёма.
- Optical I/O и chiplet-дизайны.
- Performance per watt: ключ к масштабированию моделей. Он привёл в пример Google TPU, но призвал к гибкости для мультимодальных моделей (текст, изображения, видео).

2. Самоускорение ИИ. Шазир подчеркнул, что ИИ будет помогать создавать лучшее ПО и оборудование, ускоряя прогресс. ИИ проектирует чипы, которые делают ИИ мощнее — идея, которая ляжет в основу следующей фазы развития ИИ.

3. Прогнозы на будущее:
- 1–2 года: рост энергоэффективности LLM, мультимодальные модели для текста, видео и изображений.
- 3–5 лет: автономные ИИ-агенты, решающие сложные задачи, и чипы для edge-computing.
- Долгосрочная перспектива: шаги к AGI, но с фокусом на этику и практическое применение, а не хайп.

Шазир отметил вызовы, такие как «незабывание» моделей (forgetting mechanism), и предложил улучшать attention-механизмы.

Он также добавил: «Чипы должны быть не только мощнее, но и умнее в коммуникации».