Продолжает полниться земля слухами про новую In-Device Siri на новых устройствах от Apple. На компактных локальных языковых моделях, конечно. Может, хоть так Siri станет умной )

Идея такая: есть LLM у тебя на телефоне или лэптопе, и ходит в разные бэкенды когда ей нужно. Так не требуется огромное количество железа в датацентрах для инференса, работает без интернета для базовых задач и безопасней.

Вот артиклы про компактные модели от Apple: 1, 2, 3
Вот статьи со слухами и анонсы: 1, 2, 3

Пишите в комменты ещё статьи/ссылки по теме, интересно что у Google.