Почему LLM хуже замечают информацию в середине промпта
LLM могут иметь слепую зону для информации, которая находится в середине длинного промпта, даже если она явно есть во входных данных. На практике это значит, что при длинных документах, истории чата или результатах из tool calls модель чаще цепляется за начало и конец, а важная деталь в середине может быть проигнорирована.
https://blog.bytebytego.com/p/the-llm-blindspot-why-models-forget
Post #2279
196

- 🤔 1