30 秒快速回答：E2S-Pruner 是 2026 年 8 月发布的两阶段证据融合视觉 Token 剪枝方法，核心思路是把”哪些 Token 该留”从”看注意力分数”升级为”综合多个注意力头和多层网络的证据投票”：第一阶段把每个注意力头当作独立证据源，评估其可靠性与头间一致性，将 Token 分为重要、不重要、不确定三类；第二阶段用 Dempster-Shafer 证据理论量化层间冲突并融合证据，配合空间新颖性约束防止剪枝扎堆。它无需辅助模型、无需训练参数、无需微调，即插即用。核心价值一句话：用”证据融合”替代码率剪枝，让多模态推理又快又准——LLaVA-1.5-7B 保留 128 个 Token 时性能保持 96.8%，吞吐量提升近 2 倍。
一、为什么剪枝不能只看注意力分数？
视觉 Token 剪枝的目标很直接：图被切成几百上千个 Token，但真正决定答案的可能只有一小部分，把无关 Token 提前删掉，预填充和 KV 缓存就省了。此前主流做法是按注意力分数剪枝——模型”看哪里”注意力高就留哪里。问题在于：注意力分数高的 Token 未必重要（模型可能盯着背景发呆），而且直接聚合所有注意力头和网络层的输出，会把”头与头矛盾”“层与层冲突”的信息糊在一起，难以判断该信谁。
E2S-Pruner 的解法是引入证据理论：不直接给 Token 打分，而是先判断”每个证据源（注意力头）可不可信”，再让可信的证据说话。
二、两阶段证据融合：从”打分”到”投票”
第一阶段：逐头评估，三态分类。 每个注意力头被视为独立的证据源。E2S-Pruner 根据两个指标估计其可靠性：证据清晰度（该头给出的重要性信号是否明确）和头间一致性（该头与其他头判断是否趋同）。然后每个视觉 Token 不再被压成一个分数，而是表示为三种状态：重要、不重要、不确定——不确定意味着当前层的证据不足，先不急着判死刑。
第二阶段：跨层融合，空间约束。 多个网络层的判断可能互相冲突，直接用平均或加权会稀释信息。E2S-Pruner 用 Dempster-Shafer 证据理论计算层间冲突，把互补证据按信度融合，输出最终的保留集合。同时引入空间新颖性约束：强制保留的 Token 覆盖图像不同区域，避免模型只盯着一个显著局部、丢掉全局信息。
三、核心流程伪代码
def e2s_prune(visual_tokens, attention_heads, layers, keep_k):
states = {} # token -> 重要/不重要/不确定
for head in attention_heads: # 第一阶段：逐头评估
clarity = evidence_clarity(head) # 证据清晰度
consistency = inter_head_consistency(head, attention_heads)
reliability = fuse(clarity, consistency) # 头可靠性
for tok in visual_tokens:
states[tok] = vote(tok, head, reliability)
belief = dempster_shafer_fusion( # 第二阶段：跨层证据融合
[layer_evidence(l, states) for l in layers])
return select_topk(visual_tokens, belief, keep_k,
spatial_novelty=True) # 空间新颖性约束
真实实现比这复杂得多，核心思想却很简单：每一层、每一头先”各自表态”，再按可靠度加权合成最终意见，而不是把所有信号直接揉成一个注意力分数。
四、实测效果：又快又稳
在 LLaVA-1.5-7B 上，当平均保留视觉 Token 为 192、128、64 时：
| 保留 Token 数 | 综合性能保留 | 吞吐量提升 |
|---|---|---|
| 192 | 98.0% | — |
| 128 | 96.8% | 1.96× |
| 64 | 90.6% | 2.09× |
剪掉一半 Token 只掉约 3 个点性能，吞吐却接近翻倍；即使只留 64 个 Token（约删 75%），性能仍守住 90%。在 Qwen2-VL-7B 上的实验同样有效，说明方法可以跨模型迁移。对比传统注意力剪枝（极端压缩时性能断崖、且易误删局部细节），E2S-Pruner 靠”不确定态兜底 + 跨层证据融合 + 空间覆盖约束”避免了这两个坑。
五、适用场景与局限
适合：高吞吐、低延迟优先的多模态在线服务；视觉问答、图片检索等对细粒度要求中等的任务；想在不微调模型的前提下立刻省算力的场景。局限：极端压缩（如只留 64 个 Token）仍有近 10% 性能损失，细粒度识别场景需谨慎；当前验证集中在 7B 级别模型，超大模型与视频场景效果待验证。代码已开源（github.com/taoyu-qian/E2S-Pruner）。
总结要点
- E2S-Pruner 把视觉 Token 剪枝从”注意力打分”升级为”证据融合投票”，更抗误删。
- 免训练、免微调、即插即用，128 Token 下吞吐提升约 2 倍、性能保持 96.8%。
- 三态分类 + 层间冲突量化 + 空间新颖性约束，是它不掉精度的三大支柱。
- 高吞吐多模态场景值得优先试用，细粒度任务需结合压缩率权衡。
延伸阅读：本教程的《什么是视觉 Token 压缩？多模态模型高效推理的核心技术全解析》讲了剪枝/合并/架构级压缩三大路线全景；《什么是 KV Cache？大模型推理提速降本的核心技术全解析》可帮你理解剪枝为什么能省显存；想对比其他 Agent 基础设施可看《什么是 MCP 协议？一文读懂 AI 的 USB 接口标准》。