TurboQuant：KV Cache 3位量化与零精度损失
Google发布TurboQuant：PolarQuant+QJL双技术组合实现KV cache内存节省6倍、attention加速8倍，但精度真的零损失吗？
标签
optimization
4篇文章
用元工具优化AI代理工作流：AWO框架实战指南
基于arXiv论文的Agent Workflow Optimization(AWO)框架分析。通过将重复的工具调用模式编译为元工具，实现LLM调用减少12%、成功率提升4%的方法介绍。
Qwen3 Coder Next llama.cpp图级优化 — 最高38%推理加速
ggerganov重构llama.cpp计算图，使Qwen3 Coder Next 80B模型推理速度提升最高38%。详细解析优化技术与基准测试结果。
仅用CPU在1.2小时内训练LLM — MatMul-Free架构的可能性
分析仅用CPU在1.2小时内训练出1360万参数语言模型的FlashLM v3案例。深入解读消除矩阵乘法、采用三值权重的MatMul-Free架构原理，及其在内存与能耗效率、边缘AI和低成本训练方面的意义与应用前景。