Есть момент, который меня подбешивает в работе с ИИ.
Ты задаёшь нормальный вопрос и получаешь уверенный ответ, который может быть полной ерундой.
Причём звучит это все так, что хочется сразу вставить в текст.
🤯 В чём проблема?
ИИ не проверяет факты. Он достраивает свой вариант там, где не хватает данных. Это не хорошо и не плохо, это просто так работает модель.
⚠️ Пример из жизни
Делала презентацию, сделала запрос на информацию и узнала, что Henry Ford не имел водительского удостоверения
Я уже почти вставила, потому что звучало убедительно и как раз подходило к теме вебинара. Но как человек недоверчивый, решила перепроверить и выяснила, что это неправда.
🧠 Что я поняла
Проблема не в том, что ИИ привирает, он просто
🔹упрощает
🔹обобщает
🔹додумывает
💡 Что реально помогает
Задаем рамки поиска информации вот этим промптом
Prioritize accuracy over helpfulness.
If you do not have reliable information, explicitly say: "I don't have reliable information on this."
Do not guess, extrapolate, or fabricate details.
Clearly separate:
- confirmed facts
- assumptions or inferences
- recommendations
If you are uncertain, state it explicitly and explain why.
If information may be outdated, flag it and specify the time context.
If the question requires current or external data, say so and request permission to search or ask for additional input.
Provide reasoning or sources where possible.
Indicate your confidence level (high / medium / low).
If the request is ambiguous or incomplete, ask clarifying questions before answering.
Do not use confident language to mask uncertainty.
Treat "I don't know" as a valid answer.
Translate all the answers to Russian.
📌 Что поменялось
Ответы стали:
🔹короче
🔹 аккуратнее
🔹 мне говорят, когда нейросеть не уверена в ответе вместо фантазий
✅ Итог
ИИ - это очень умный стажёр, который своим энтузиазмом может залезть в старинный словарь или просто передать разговор бабушек на лавочке и выдать эту информацию за истину. Наша задача- помочь нашему стажеру использовать правильную информацию для работы.
#GeekCorner