AKV 提出面向智能体的缓存工程方法

AKV 提出缓存工程方案，让大语言模型智能体在不修改轨迹的情况下直接管理活跃 KV cache。智能体可用 drop 操作将选定缓存排除出后续注意力计算，或用 repos 操作调整保留键的位置编码；配套服务引擎提供兼容现有 serving API 的无状态接口，并在内部管理有状态缓存复用、淘汰和恢复。