Я обещал статьи про LLM и про GPT, вот первая

Как всегда в след постах будут хронологические ссылки, по ним можно будет прыгать.

Как "Думает" ИИ: А конкретно Большие Языковые Модели - (LLM)?
На западе хайп по ИИ уже очень давно а у нас в православной не так уж. Но зато время уже почти каждый знает что такое ChatGPT, Claude, Gemini и другие чатоподобные штуки с ИИ. Если кратко то это "умные" программы, умеющие писать тексты, отвечать на вопросы, сочинять стихи, делать исследования, писать код и много другое. Их называют Большими Языковыми Моделями (LLM - Large Language Models). Слышать слышали а что это и как это работают не все понимают, а некоторые даже даже приблизительно. Если кому интересно то попробую пояснить на примере... На аналогии животного, например зайца!

Сразу дам несколько терминов и их аналогии из мира животного, нашего зайца.
0. Модель ИИ - Это сам заяц
1. Параметры модели ИИ — Это "Замороженный опыт зайца"
2. Тренировка на данных для ИИ — Это обучение зайца или формирование "Жизненного опыта"
3. Токенизация модели или просто текст — Это цепочка шагов или последовательность действий у зайца.
4. Генерация текста в модели — Это как бы поход или бег зайца по по тропинке.
5. Механизм внимания ИИ — Это когда зайцу нужно было бы вспомнить Всё Важное Сразу при каких то событиях
6. Масштаб данных модели — Это размер и количество знаний в памяти у зайца.
7. Галлюцинации и смещения модели — Это важные Ограничения в работе мозга/памяти зайца

Теперь пояснение что есть что и как работает LLM

1. ИИ — Это "Замороженный Опыт" (Параметры Модели)
- Технический термин: Параметры нейронной сети (миллиарды/триллионы чисел внутри модели).
- Аналогия: Представьте животное, выращенное в уникальных условиях. Всю свою жизнь оно видит определенные пейзажи, слышит звуки, получает пищу в ответ на действия. Этот весь накопленный опыт формирует его мозг — его "настройки". У LLM эти "настройки" — и есть параметры. Их огромное количество (миллиарды или триллионы), и они фиксированы после обучения. Как мозг взрослого животного уже "запрограммирован" его прошлым, так и параметры LLM содержат весь ее "опыт". С людьми +- все тоже самое только в 100500 раз сложнее

Продолжение в следующем посте