用Ollama + FastAPI搭建本地LLM API服务器 — 从开发到Docker部署完整指南
本指南完整介绍如何通过FastAPI封装Ollama REST API，逐步构建具备SSE流式传输、健康检查、Docker Compose容器化部署的生产级本地LLM服务器，并附有Llama 3.2、Mistral等主流模型的实际运行日志与完整API调用测试示例。
标签
Docker
2篇文章
Langfuse v3 自托管完整指南 — 在本地基础设施上直接构建LLM追踪
从Langfuse v3 Docker Compose安装到Python SDK 4.x代码检测和RAG管道追踪，全程实战指南。在保持数据主权的同时，在自有基础设施上部署LLM可观测性。