华为AI

11 月 5 日消息，华为今日宣布，该公司针对 AI 推理加速的关键技术 —— UCM（Unified Cache Manager）推理记忆数据管理正式宣布开源。 UCM 以 KV Cache 多级缓...