Контекстное окно — рабочая память одного диалога. Когда чат переполняется, старые сообщения начинают мешать текущей задаче.
Что находится в контекстном окне
В контекст попадают сообщения пользователя, ответы модели и добавленные файлы. Именно из этого набора модель собирает очередной ответ.
Размер окна ограничен. Когда материала становится слишком много, ранние условия учитываются хуже или начинают конфликтовать с новой информацией.
Почему длинный чат снижает точность
Частая ошибка — месяцами вести разные задачи в одном диалоге. Старые версии, обсуждения и посторонние детали продолжают влиять на результат.
Это выглядит так, будто нейросеть стала хуже. На деле проблема может быть в перегруженной рабочей памяти.
Три правила чистого контекста
Чем меньше в контексте конкурирующих условий, тем проще модели удерживать задачу.
- Новая задача — новый чат.
- Важную вводную передавайте в начале одним блоком.
- Не добавляйте материалы, которые не нужны для текущего результата.
Веб-версия структурирована для поиска и дополнена практическими пояснениями. Исходный пост опубликован .
Открыть оригинал в Telegram