简介 KV Cache本质上是一种缓存机制，主要应用在Transformer架构的模型中，尤其是生成式任务的推理阶段。在Trans …