Канал женщины с мужем, сыном и двумя котами. Книги, писательство, фотография, девопс, ИИ
Второй канал про родительство - https://t.me/fox_homelander
Связь со мной - @NaumenkoT
Post #890
53
LLM, База знаний и «Зерно»
Аббревиатура LLM за последние пару лет набила оскомину каждому, кто проходил рядом с нейронками. Несмотря на то, что слова все знакомые, суть термина понятна далеко не всем. Large Language Model она же Большая Языковая Модель – огромный логический словарь с начинкой из математических предсказаний. Представьте себе Безумного Шляпника, который прочитал все-все книги в этом мире. Он знает их от корки до корки, не умеет пользоваться этой информацией, но преуспел в расстановке слов в таком порядке, что его рассуждения кажутся логичными.
Конечно, нейронка - не дура. Но на одной LLM далеко не уедешь. Чтобы слова имели вес в глазах читателя, они должны быть чем-то подкреплены. И тогда иишечка обращается к базе знаний – данным по предметной области, по которым составляется наиболее точный ответ (о технологиях поиска я уже писала вот в этом посте).
А ещё ИИ-шки иногда называют псевдо-детерминированными системами. У моделек есть настройка «Температура» или «Креативность», и если её сдвинуть до нуля, то ответы будут повторяться. Кстати, за креатив отвечает число с изумительным названием – «зерно случайности» или “Seed”. Оно генерируется во время каждого запроса. Пару лет назад его использовали при создании изображений, чтобы картинки были похожи одна на другую.
Сценарии ИИ
Кристофер Букер считал, что существует всего 7 сюжетов, которыми мы рассказываем истории. А исследователи ИИ насчитали 9 сценариев, по которым работает нейронка. Из очевидных «вопрос-ответ», «рекомендации», «анализ входящих данных», «генерация контента», чуть мене очевидные, которые не используются рядовым пользователем:
🤩Co-pilot, который следит за действиями пользователя, даёт советы и предупреждает об опасности.
🤩Планинг, который активно используется разработчиками: выстраивание четкого плана, чтобы получить качественный результат.
🤩Re-Act, когда нейронка выполняет цепочку недетерминированных действий по запросу пользователя.
🤩Pro-Act, тоже самое, но не по указке пользователя, а по какому-то триггеру.
🤩Обучение. Нейронка способна выстроить план обучения и провести по нему пользователя.
Жирное НО: у каждой иишки есть свои сильные и слабые стороны. Какая-то хорошо анализирует сложные данные, но ужасно работает с изображениями, другая умеет составлять рабочие планы разработки, но генерит такой код, что лучше б не генерила…
А вот где посмотреть проверенные данные, в чем и какая нейронка хороша, я расскажу в следующий раз. Когда дойдут руки =)
#об_иишки
Аббревиатура LLM за последние пару лет набила оскомину каждому, кто проходил рядом с нейронками. Несмотря на то, что слова все знакомые, суть термина понятна далеко не всем. Large Language Model она же Большая Языковая Модель – огромный логический словарь с начинкой из математических предсказаний. Представьте себе Безумного Шляпника, который прочитал все-все книги в этом мире. Он знает их от корки до корки, не умеет пользоваться этой информацией, но преуспел в расстановке слов в таком порядке, что его рассуждения кажутся логичными.
Конечно, нейронка - не дура. Но на одной LLM далеко не уедешь. Чтобы слова имели вес в глазах читателя, они должны быть чем-то подкреплены. И тогда иишечка обращается к базе знаний – данным по предметной области, по которым составляется наиболее точный ответ (о технологиях поиска я уже писала вот в этом посте).
А ещё ИИ-шки иногда называют псевдо-детерминированными системами. У моделек есть настройка «Температура» или «Креативность», и если её сдвинуть до нуля, то ответы будут повторяться. Кстати, за креатив отвечает число с изумительным названием – «зерно случайности» или “Seed”. Оно генерируется во время каждого запроса. Пару лет назад его использовали при создании изображений, чтобы картинки были похожи одна на другую.
Сценарии ИИ
Кристофер Букер считал, что существует всего 7 сюжетов, которыми мы рассказываем истории. А исследователи ИИ насчитали 9 сценариев, по которым работает нейронка. Из очевидных «вопрос-ответ», «рекомендации», «анализ входящих данных», «генерация контента», чуть мене очевидные, которые не используются рядовым пользователем:
🤩Co-pilot, который следит за действиями пользователя, даёт советы и предупреждает об опасности.
🤩Планинг, который активно используется разработчиками: выстраивание четкого плана, чтобы получить качественный результат.
🤩Re-Act, когда нейронка выполняет цепочку недетерминированных действий по запросу пользователя.
🤩Pro-Act, тоже самое, но не по указке пользователя, а по какому-то триггеру.
🤩Обучение. Нейронка способна выстроить план обучения и провести по нему пользователя.
Жирное НО: у каждой иишки есть свои сильные и слабые стороны. Какая-то хорошо анализирует сложные данные, но ужасно работает с изображениями, другая умеет составлять рабочие планы разработки, но генерит такой код, что лучше б не генерила…
А вот где посмотреть проверенные данные, в чем и какая нейронка хороша, я расскажу в следующий раз. Когда дойдут руки =)
#об_иишки
