QwenLLM "use_cache": true
Qwen "use_sliding_window": false
在大語言模型（如Qwen系列）的生成配置中，"use_cache": true 和 "use_sliding_window": false 是兩個與模型推理效率和長文本處理相關的重要參數，具體含義如下：
1. "use_cache": true
該參數控制模型在生成文本時是否啟用 注意力機制，核心作用是加速生成過程。
在Transformer架構中，模型生成每個新token時，需要基于前文所有token計算自注意力（self-attention）。其中，注意力計算的核心是“鍵（key）”和“值（value）”的矩陣運算——這些計算結果在生成下一個token時可以復用（因為前文token的key和value不會隨新token的生成而改變）。
- 當
use_cache: true時：模型
