GGML/llama.cpp加入Hugging Face — 本地AI基础设施的结构性转折点
ggml.ai团队加入Hugging Face，确保llama.cpp的长期可持续发展。本文分析本地AI推理生态系统的结构性变化及技术意义。
标签
llama-cpp
3篇文章
llama.cpp合并IQ*_K/IQ*_KS量化 — ik_llama.cpp的成果进入主线
ik_llama.cpp开发的IQ系量化方法正式合并至llama.cpp主线。详解IQ2_K至IQ4_KS的精度提升与本地LLM推理效率优化的技术背景。
Qwen3 Coder Next llama.cpp图级优化 — 最高38%推理加速
ggerganov重构llama.cpp计算图，使Qwen3 Coder Next 80B模型推理速度提升最高38%。详细解析优化技术与基准测试结果。