Mistral Large 4 技术报告披露 KV-Cache 压缩权衡与稀疏注意力方案

Mistral Large 4 的技术报告在 alphaXiv 发布，解释了激进压缩 KV-cache 为何损害智能体能力，以及如何通过恢复全上下文注意力并引入 DeepSeek 稀疏注意力来修复。

内容详情 · 原文链接

via AI情报局 | 全球 AI 动态简报 - Telegram Channel