Самые интересные статьи, видео и новости, связанные с iOS разработкой. Не больше трёх материалов в день.
Регистрация в РКН: https://gosuslugi.ru/snet/67b464d698a28c4e866d827a
Размещение рекламы: @tanyasanovna
Post #4402
6.02K
Детали про Foundation Model
Главная вещь, которую нужно понимать про локальную LLM, встроенную в iOS – она достаточно маленькая и слабая по современным меркам, особенно в плане размера окна контекста, всего 4096 токенов. Это значит, что относиться к ней стоит не как к карманному ChatGPT, а скорее как к умному форматтеру свободного текста в структурные данные.
Главная вещь, которую нужно понимать про локальную LLM, встроенную в iOS – она достаточно маленькая и слабая по современным меркам, особенно в плане размера окна контекста, всего 4096 токенов. Это значит, что относиться к ней стоит не как к карманному ChatGPT, а скорее как к умному форматтеру свободного текста в структурные данные.
- ❤ 19
- 👍 2










