岩山科技联合港科大、CMU开源EdgeRock-4B,KV Cache减少99.1%

岩山科技旗下岩芯矩阵联合港科大、CMU等高校发布并开源EdgeRock-4B,在256K上下文下KV Cache固定为72MiB,相比源模型Qwen3.5-4B减少99.1%。

🔗 阅读原文

via 无言AIGC · https://aihot.wuyanshuo.cn/items/u87i355cy9a50p0efty1cdweu