返回精选
公众号:百度智能云百度智能云2026-06-10 17:436 月 10 日

百度百舸联合复旦提出LU-KV框架,被ICML 2026录用

顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA

AI 导读

百度百舸团队与复旦大学合作提出Long-horizon Utility KV(LU-KV)框架,将头级KV Cache预算分配建模为面向长程边际效用的全局组合优化问题。LU-KV通过离线画像估计注意力头边际贡献曲线,结合凸包松弛与基于边际效用的贪心求解器,在较低开销下得到接近最优的预算配置,可适配SnapKV、KeyDiff等多类压缩方法。在LongBench和RULER基准上,80%压缩比下性能损失小,降低显存占用和推理延迟。相关论文被ICML 2026录用。

来源:公众号:百度智能云 · mp.weixin.qq.com

看完资讯,聊聊你的企业

一对一,30 分钟让你的企业用 AI 推动起来。

WECHAT

添加我的微信

长按或选中下方微信号复制。