🔥Продолжаем разбирать термины ИИ!😡 Ч2
чуть сложнее

🟠Токены - это единицы, на которые модель разбивает текст при обработке: слово, часть слова или даже знак препинания. Именно в токенах измеряется и объём того, что модель может "прочитать" за раз, и стоимость запроса к API - чем длиннее текст, тем больше токенов он "весит".

🟠Контекстное окно - это максимальный объём текста (в токенах), который модель способна удерживать в поле зрения одновременно: вашу переписку, загруженные документы и свой же ответ. Выйдет за пределы окна — модель начнёт "забывать" начало диалога.

🟠Промпт - это ваш запрос или инструкция для модели, сформулированная текстом. Качество ответа напрямую зависит от качества промпта: чем точнее и структурированнее вы описали задачу, контекст и желаемый результат, тем меньше вероятность, что придётся переспрашивать.

🟠Температура - это параметр, который регулирует "творческую свободу" модели при генерации ответа. Низкая температура - предсказуемые, детерминированные ответы (хорошо для расчётов и кода), высокая - более разнообразные и неожиданные формулировки (хорошо для брейншторма).

🟠Мультимодальность - это способность модели работать не только с текстом, но и с другими форматами данных одновременно: изображениями, аудио, видео, чертежами. Мультимодальная модель может, например, посмотреть на скан плана и ответить текстом по его содержимому.

🟠Галлюцинации - это ситуация, когда модель уверенно выдаёт неверную или полностью выдуманную информацию, подавая её как факт. Возникают из-за того, что LLM генерирует наиболее вероятный текст, а не проверяет его на соответствие реальности - отсюда и ценность RAG, который "заземляет" ответы на реальных документах.

🟠Файн-тюнинг (дообучение) - это донастройка уже готовой модели на вашем собственном наборе данных, чтобы она лучше решала конкретную узкую задачу или "говорила" в нужном стиле. В отличие от Skill или RAG, здесь меняются сами веса модели, а не просто добавляется инструкция или база знаний сверху.

🟠Эмбеддинги (векторные представления) - это способ превратить текст, изображение или документ в числовой вектор, отражающий его смысл. Похожие по смыслу вещи получают близкие вектора - на этом принципе строится поиск в RAG: система ищет не совпадение слов, а совпадение смысла.

#AI