Сжатие контекста

В длинной беседе история сообщений рано или поздно становится слишком большой для контекстного окна модели. Велес решает это не удалением старых сообщений, а умным сжатием контекста: старые ходы сворачиваются в структурированное резюме, а системный промпт и свежие сообщения остаются дословными. Сжатие не переписывает стенограмму. Полная история остаётся в сохранённой сессии, а Велес только сдвигает границу уже свёрнутой части (last_consolidated) и хранит накопительное резюме в метаданных сессии (contextSummary). При следующих запросах модель получает не всю старую стенограмму, а это резюме плюс несжатый свежий хвост беседы.

Главное в двух словах

Велес перед ответом оценивает размер текущего промпта. Если оценка стала больше порога, заданного как доля contextWindowTokens, он выбирает старый безопасный кусок истории, просит модель-резюмировщик обновить накопительное резюме, выгружает этот кусок в долговременную память и убирает его из активного окна. Например, при таких настройках:

{
  "maxTokens": 165536,
  "contextWindowTokens": 150000,
  "compression": {
    "enabled": true,
    "threshold": 0.5,
    "targetRatio": 0.2,
    "protectLastN": 20,
    "maxSummaryTokens": 3000,
    "summaryModel": "openrouter/deepseek/deepseek-v4-flash"
  }
}

сжатие начнётся, когда оценка активного промпта станет больше 75000 токенов: 150000 * 0.5. Защищённый свежий хвост по токенам будет около 15000 токенов: 75000 * 0.2, но Велес также постарается сохранить не меньше последних 20 сообщений дословно.

Сжатие внутри одного длинного ответа

Сжатие действует не только между сообщениями пользователя. Один ответ может сам состоять из десятков обращений к файлам, поиску и другим средствам. После каждого такого цикла Велес заново оценивает рабочий запрос. Обычно используется порог contextWindowTokens * threshold. Если запас под следующий ответ, заданный maxTokens, оставляет модели меньше места, внутривызовный порог уменьшается до фактического бюджета запроса. Поэтому смысловое сжатие происходит раньше аварийного отсечения старой работы, даже если maxTokens настроен слишком большим. При этом используются два разных представления:

полный журнал вызовов и результатов остаётся неизменным для истории, восстановления и проверки;
модель получает исходную задачу, накопительный контрольный снимок и свежий несжатый хвост работы.

Контрольный снимок сохраняет найденные факты, числа, пути, источники, решения, противоречия, ошибки и оставшуюся работу. Граница проходит только между завершёнными группами «вызов средства — результат», поэтому вызов не отделяется от ответа. Старое правило, которое после фиксированного количества вызовов заменяло содержимое результатом вида «опущено из контекста», при включённом сжатии не применяется. Если модель для снимка недоступна, Велес создаёт ограниченный детерминированный журнал с фрагментами результатов и продолжает выполнение. Для режима «Проект» сведения о каждом таком сжатии — номер итерации, оценка размера до и после, число свёрнутых сообщений и использование запасного варианта — сохраняются в отчёте попытки. Сам контрольный снимок туда не копируется, а полный исходный ход работы остаётся в журнале исполнителя. Этим внутривызовным сжатием управляют те же поля compression: отдельной настройки для режима «Проект» нет. Изменение конфигурации во время работы применяется к следующим обычным ответам и исполнителям проекта.

Чем отличаются `maxTokens` и `contextWindowTokens`

Эти два поля часто путают, но они отвечают за разные части запроса.

Поле	Что задаёт	Как влияет на сжатие
`maxTokens`	Сколько токенов Велес просит модель оставить под ответ. Это лимит генерации ответа, а не размер истории.	Для одного длинного ответа уменьшает доступный бюджет запроса. Если этот бюджет ниже обычного порога, Велес запускает смысловое сжатие по меньшему значению, а не отбрасывает старую работу без контрольного снимка. Чрезмерное значение всё равно может быть отклонено провайдером.
`contextWindowTokens`	Оценку доступного контекстного окна для активной беседы. Именно от неё Велес считает порог сжатия.	Чем больше значение, тем позже начнётся сжатие; чем меньше, тем раньше.

contextWindowTokens должен быть реалистичной оценкой окна выбранной модели. Если задать его выше фактического окна провайдера, Велес будет сжимать слишком поздно и можно получить ошибку переполнения контекста. Если занизить значение, сжатие будет срабатывать раньше, чем технически необходимо, зато с большим запасом. Для одного длинного ответа эффективный порог считается так:

обычный порог = contextWindowTokens * threshold
бюджет запроса = contextWindowTokens - maxTokens - 1024
эффективный порог = минимум из обычного порога и бюджета запроса

Это правило не увеличивает доступное окно модели. Для больших документов по-прежнему нужно сохранять полные разделы, каноническую рукопись и отчёты проверок в файлах, а в контексте держать исходную задачу, контрольный снимок и свежую работу.

Когда срабатывает сжатие

Перед обычной обработкой сообщения Велес строит пробный промпт: системные инструкции, долговременная память, текущее резюме сжатой истории, несжатая часть диалога, новое сообщение пользователя и описания инструментов. Затем он оценивает размер этого промпта. Сжатие запускается, если:

в сессии есть сообщения;
contextWindowTokens больше нуля;
compression.enabled включён;
оценка промпта больше contextWindowTokens * compression.threshold.

По умолчанию threshold равен 0.5, то есть Велес начинает сжимать заранее, когда занята примерно половина окна. Это оставляет место под новый ответ, вызовы инструментов и небольшую погрешность оценки токенов.

Что происходит при сжатии

Велес берёт блокировку сессии. Для одной сессии одновременно идёт только один цикл сжатия.
Выбирается граница разреза. Велес ищет старую точку в истории, до которой сообщения можно свернуть. Граница ставится только перед сообщением пользователя, поэтому пары «вызов инструмента / результат инструмента» не разрываются.
Защищается свежий хвост. Велес идёт от конца истории назад и оставляет хвост не меньше бюджета threshold * targetRatio. Дополнительно он старается сохранить последние protectLastN сообщений дословно.
Старый кусок резюмируется. Сообщения от last_consolidated до найденной границы отправляются модели для резюме. Если резюме уже было, модель не пишет его заново, а обновляет прежнее.
Резюме сохраняется в метаданных. В contextSummary записываются текст, время обновления, счётчик сжатий и признак запасного резюме.
Сжатый кусок выгружается в долговременную память. Его можно будет найти через memory_search.
Граница last_consolidated сдвигается. При следующих запросах активная история начинается уже после сжатого куска, а старый контекст возвращается в промпт через резюме.

За один вызов Велес делает не больше трёх раундов сжатия. После каждого раунда он снова оценивает промпт. Если размер уже ниже порога, сжатие прекращается.

Как выглядит резюме

Резюме пишется как структурированный снимок предыдущей работы. В нём есть:

активная задача;
цель пользователя;
ограничения и предпочтения;
выполненные действия;
текущее состояние;
незавершённая работа;
блокеры и ошибки;
важные решения;
уже отвеченные вопросы;
устаревшие открытые вопросы;
затронутые файлы;
критический контекст.

Резюме пишется на языке беседы. Если пользователь работал по-русски, резюме остаётся русским. Секреты, токены, пароли и ключи должны заменяться на [REDACTED]. В системный промпт резюме вставляется с явной пометкой, что это только справка по прошлой истории, а не новые инструкции. Это нужно, чтобы модель отвечала на последнее сообщение пользователя и не пыталась продолжить уже завершённую или отменённую старую задачу.

Что меняет каждая настройка

Поле	Допустимые значения	Что будет при увеличении	Что будет при уменьшении
`enabled`	`true` или `false`	При `true` работает умное сжатие через накопительное резюме.	При `false` Велес отключает резюме и возвращается к старой посегментной выгрузке: сжатые сообщения уходят в память, но накопительное резюме в промпт не добавляется.
`threshold`	Велес ограничивает значение диапазоном `0.2`–`0.95`.	Сжатие начинается позже. В активном окне остаётся больше дословной истории, но выше риск приблизиться к реальному лимиту модели.	Сжатие начинается раньше. Запаса больше, но старые сообщения быстрее заменяются резюме.
`targetRatio`	Велес ограничивает значение диапазоном `0.05`–`0.8`.	Велес защищает больший свежий хвост по токенам, поэтому больше последних сообщений остаётся дословно. Иногда из-за этого может не найтись безопасная старая граница для сжатия.	Велес разрешает сворачивать больше истории за раз. Сжатие сильнее освобождает окно, но меньше свежих сообщений остаётся дословно.
`protectLastN`	Любое целое число; отрицательные значения фактически становятся `0`.	Больше последних сообщений сохраняется дословно, даже если токенный бюджет хвоста меньше.	Велес может сжимать ближе к концу истории. При `0` остаётся только защита по токенному хвосту.
`maxSummaryTokens`	Целое число; фактический бюджет не бывает ниже `500`.	Резюме может быть подробнее, но само занимает больше места в системном промпте.	Резюме становится короче. Это экономит окно, но повышает риск потерять детали.
`summaryModel`	Строка с именем модели; пустая строка означает модель текущей сессии.	Здесь нет «больше/меньше»: смена поля выбирает отдельную модель для резюме. Можно поставить быструю и дешёвую модель, например `openrouter/deepseek/deepseek-v4-flash`.	Пустое значение заставит Велес использовать ту же модель, которая ведёт беседу.

Подробности про отдельные поля

`threshold`

Формула порога:

порог = contextWindowTokens * threshold

При contextWindowTokens = 150000:

`threshold`	Сжатие начнётся после
`0.2`	`30000` токенов
`0.5`	`75000` токенов
`0.8`	`120000` токенов
`0.95`	`142500` токенов

Если указать значение ниже 0.2, Велес всё равно использует 0.2. Если указать выше 0.95, будет использовано 0.95.

`targetRatio`

Формула хвоста:

защищённый хвост = (contextWindowTokens * threshold) * targetRatio

При contextWindowTokens = 150000 и threshold = 0.5 порог равен 75000.

`targetRatio`	Свежий хвост по токенам
`0.05`	около `3750` токенов
`0.2`	около `15000` токенов
`0.8`	около `60000` токенов

Это не точное количество сообщений, а бюджет токенов. Если последние сообщения длинные, в хвост попадёт меньше сообщений. Если короткие, больше.

`protectLastN`

protectLastN задаёт минимальное количество последних сообщений, которые Велес старается оставить в активном окне дословно. Это защита поверх targetRatio. Есть важная оговорка: если промпт уже достиг или превысил всё окно contextWindowTokens, Велес считает это жёстким переполнением и может ослабить защиту protectLastN, чтобы всё-таки освободить место. В этом аварийном режиме он гарантированно сохраняет последний пользовательский ход, но может сжать больше недавней истории, чем обычно.

`maxSummaryTokens`

Бюджет резюме считается от размера сжимаемого куска:

бюджет резюме = размер сжимаемого куска / 5

Затем Велес ограничивает его снизу 500 токенами и сверху maxSummaryTokens. При maxSummaryTokens = 3000 резюме одного раунда обычно будет не больше примерно 3000 токенов, а запрос к модели-резюмировщику даёт ей немного больший лимит ответа, чтобы она могла завершить текст. Если накопительное резюме становится слишком большим, Велес также ограничивает его общий сохранённый текст: оставляет последние данные и добавляет пометку, что самая старая часть резюме была обрезана.

`summaryModel`

summaryModel выбирает модель, которая пишет резюме. Если поле пустое, Велес использует текущую модель беседы. Если поле задано, например openrouter/deepseek/deepseek-v4-flash, резюме будет писать эта модель через тот же провайдерский слой, который обрабатывает обычные вызовы моделей. Практический смысл настройки:

отдельная быстрая модель делает сжатие дешевле и быстрее;
более сильная модель может лучше сохранять сложный контекст;
если выбранная модель недоступна или возвращает пустой ответ, Велес не останавливает беседу, а использует запасное резюме.

Защита от сбоев

Если модель для резюме недоступна, вернула ошибку или пустой ответ, Велес создаёт детерминированное запасное резюме. В него попадают последние сообщения пользователя из сжимаемого куска и упомянутые пути к файлам. Если раньше уже было хорошее резюме, запасной блок дописывается к нему, а не заменяет его. После ошибки включается пауза на повторные обращения к модели-резюмировщику. Во время этой паузы Велес сразу использует запасное резюме, чтобы не тратить каждый ход на заведомо неудачный вызов. Есть и защита от «пробуксовки»: если очередной раунд сжатия уменьшил оценку промпта меньше чем примерно на 5 %, Велес прекращает дальнейшие раунды. В журнале он предложит начать новую беседу командой /new.

Что происходит при выключенном сжатии

Если compression.enabled = false, Велес не вставляет накопительное резюме в системный промпт. Вместо этого включается прежний режим: когда оценка промпта доходит до contextWindowTokens, старые сообщения выгружаются в долговременную память до тех пор, пока активная история не станет примерно вдвое меньше окна. Такой режим экономит место, но хуже удерживает непрерывность длинной работы: модель видит меньше связного контекста прямо в промпте и должна при необходимости искать детали через память.

Связь с долговременной памятью

Сжатие контекста и долговременная память дополняют друг друга. Сжатие управляет активным окном беседы, а память хранит свёрнутые участки и устойчивые факты. При каждом сжатии старый кусок не только попадает в резюме, но и выгружается в память, поэтому подробности можно поднять инструментом memory_search. Команда /new очищает сообщения текущей беседы, сбрасывает last_consolidated и удаляет накопительное contextSummary из метаданных сессии.

Начало

Базовые концепции

Руководства

Устранение неполадок

Настройка Велеса

Глубже

Навыки

Разработчикам

Сжатие контекста

Сжатие контекста

Главное в двух словах

Сжатие внутри одного длинного ответа

Чем отличаются `maxTokens` и `contextWindowTokens`

Когда срабатывает сжатие

Что происходит при сжатии

Как выглядит резюме

Что меняет каждая настройка

Подробности про отдельные поля

`threshold`

`targetRatio`

`protectLastN`

`maxSummaryTokens`

`summaryModel`

Защита от сбоев

Что происходит при выключенном сжатии

Связь с долговременной памятью

​Сжатие контекста

​Главное в двух словах

​Сжатие внутри одного длинного ответа

​Чем отличаются maxTokens и contextWindowTokens

​Когда срабатывает сжатие

​Что происходит при сжатии

​Как выглядит резюме

​Что меняет каждая настройка

​Подробности про отдельные поля

​threshold

​targetRatio

​protectLastN

​maxSummaryTokens

​summaryModel

​Защита от сбоев

​Что происходит при выключенном сжатии

​Связь с долговременной памятью

Сжатие контекста

Главное в двух словах

Сжатие внутри одного длинного ответа

Чем отличаются `maxTokens` и `contextWindowTokens`

Когда срабатывает сжатие

Что происходит при сжатии

Как выглядит резюме

Что меняет каждая настройка

Подробности про отдельные поля

`threshold`

`targetRatio`

`protectLastN`

`maxSummaryTokens`

`summaryModel`

Защита от сбоев

Что происходит при выключенном сжатии

Связь с долговременной памятью