Раскрываю магию нейронок: часть 1

Если ты – не сеньорский задрот мл-щик, которого не пугают слова эмбеддинг и тензор, то под "нейронкой" ты подразумеваешь сайты типа chatgpt.com или midjourney.com, на которых ты в чате общаешься с нейронкой, а она делает тебе всякую магию.

Нырнём-ка чуть поглубже, чтоб это не было для тебя таким чёрным ящиком:

То, что ты называешь нейронкой, на самом деле является полезным интерфейсом над LLM.

LLM (Large Language Model) – это, собственно, и есть сама нейронка. И её задача проста: понять твой запрос, который ты ей делаешь на "natural language" (обычном разговорном языке), и на таком же языке выдать тебе ответ из своей базы данных, на которой её предварительно обучили.

LLM, как большинство из вас знает, предобучают на огромном массиве данных из интернета. Грубо говоря, LLM – это та же википедия, в которую ты загоняешь запрос и получаешь наиболее релевантный ответ. Всё. Никакой магии. Да, под капотом там куча математики, но суть такая.

Поэтому LLM не может врать, она может только ошибаться. Любой её ответ – это просто поиск в её базе данных наиболее похожего ответа на твой вопрос. И если ты формулируешь вопрос так же, как его сформулировал какой-нибудь дебил на каком-нибудь форуме – ты и получишь ответ этому дебилу на этом форуме. Но, скорее всего, в вежливом ключе (хотя, говорят, не всегда).

Следовательно, твоя задача при промптировании – максимально сузить для LLM область, в которой ей надо искать ответ – чтобы она не полезла не на тот форум. Вот и вся суть "промпт инжиниринга".

Ещё раз: у нейронки нет эмоций. Однако у неё, видимо, есть ряд топорных надстроек (например, в thinking версиях видно, что на раздражение пользователя она реагирует как на триггер к изменению подхода – ровно так же, как если бы ты вместо "да мать твою сука" написал ей "измени подход, ты ходишь кругами").

Но запомните. Сама по себе LLM, будь это чатгпт или миджорни – максимально тупой инструмент, который просто сопоставляет ваш запрос с запросами, на которых его предобучили.

Чатгпт предобучили сопоставлять символам символы, а миджорни – символам изображения.

Но каким же нахрен образом она тогда ходит на сайты и берёт оттуда инфу? Как она тогда может сходить и посмотреть мой код или мои имейлы?