AI基础设施文章
围绕GPU资源管理、GPU算力调度、大模型训练、大模型推理、模型服务和AI工作负载，整理适合继续阅读的文章。
-
LLM部署本地大模型：从环境配置到推理服务上线
按环境配置、模型准备、运行时选择、API服务、观测和上线检查梳理LLM本地大模型部署路径。
-
大模型仓库：LLM模型存储、版本管理与分发
围绕大模型仓库梳理生产化建设和选型评估要点，帮助团队把模型能力纳入可治理、可观测、可复盘的AI基础设施。
-
大模型服务平台选型指南：企业级AI应用落地7个关键决策点
围绕大模型服务平台选型梳理生产化建设和选型评估要点，帮助团队把模型能力纳入可治理、可观测、可复盘的AI基础设施。
-
模型资产管理系统：模型发现、版本追踪与治理
围绕模型资产管理系统梳理生产化建设和选型评估要点，帮助团队把模型能力纳入可治理、可观测、可复盘的AI基础设施。
-
模型推理框架有哪些？主流推理框架功能对比
回答模型推理框架有哪些，按LLM服务框架、通用运行时、端侧框架和编译优化方向梳理主流选择，比较vLLM、TGI、TensorRT-LLM、ONNX Runtime、TensorRT、Ollama、llama.cpp的功能差异、适用范围、生产化缺口和平台补齐方式。
-
AI网关核心技术：模型路由、Token监测、安全治理
拆解AI网关核心技术栈，解释模型路由、Token监测、安全治理和观测如何形成闭环。
-
AI推理引擎核心能力：吞吐、延迟、显存、成本四维评估
围绕AI推理引擎核心能力，建立吞吐、延迟、显存和成本四维评估框架，说明四类指标之间的取舍关系、证据来源、验收口径和业务优先级，帮助企业用真实业务流量、尾部体验、GPU指标和运维数据完成推理引擎选型判断，而不是只依赖单次压测结果和平均值结论。
-
企业AI推理框架验证：vLLM、TGI、TensorRT-LLM怎么测
从企业验证视角比较vLLM、TGI与TensorRT-LLM，梳理环境、指标、样本和上线条件。
-
AI推理框架选型：vLLM vs TGI vs TensorRT-LLM
聚焦AI推理框架选型，比较vLLM、TGI、TensorRT-LLM在开放模型服务、生态集成、深度优化、团队投入和平台治理上的边界条件，帮助企业从业务场景、硬件约束、上线阶段、维护成本和POC证据出发做中立决策，并保留后续复盘、替换和组合使用空间。
-
AI推理平台怎么选？5个核心能力维度
围绕AI推理平台怎么选梳理生产化建设和选型评估要点，帮助团队把模型能力纳入可治理、可观测、可复盘的AI基础设施。
-
AI模型管理平台：模型仓库、版本控制与生命周期管理
围绕AI模型管理平台梳理生产化建设和选型评估要点，帮助团队把模型能力纳入可治理、可观测、可复盘的AI基础设施。
-
AI模型仓库：模型存储、版本控制与权限管理
围绕AI模型仓库梳理生产化建设和选型评估要点，帮助团队把模型能力纳入可治理、可观测、可复盘的AI基础设施。
-
AI模型服务监控指南：核心指标、告警与运维实践
围绕AI模型服务监控梳理生产化建设和选型评估要点，帮助团队把模型能力纳入可治理、可观测、可复盘的AI基础设施。
-
企业大模型部署全流程：硬件选型、框架选择、上线运维
以企业落地视角梳理大模型部署全流程，从需求、硬件、框架到上线运维和持续治理。
-
RAG应用开发：知识库与LLM检索增强
RAG应用开发的成败取决于知识库质量、权限边界和检索评估。文章用闭环视角拆解从文档治理到答案引用的关键环节，适合企业知识问答试点。
-
智能体LLM应用：从Copilot到自主Agent
智能体LLM应用不是越自主越好。文章按建议、执行、反馈和改写状态拆解从Copilot到自主Agent的边界，帮助企业谨慎规划权限和应用形态。
-
云原生机器学习平台：AML与K8s集成实践
云原生机器学习平台不能只做上层工作台，也不能只给算法团队一个K8s集群。文章拆解AML对象与K8s资源的映射关系，帮助团队打通训练到推理闭环。
-
国产GPU适配：昇腾、海光、寒武纪统一纳管方案
国产GPU适配不能停留在设备识别层面。文章用证据地图拆解硬件、驱动、运行时、框架、调度、观测和业务验收，帮助团队谨慎规划统一纳管范围。
-
机器学习工作流自动化：从开发到部署的完整闭环
机器学习工作流自动化的重点不是工具堆叠，而是让每次模型变化都能追踪来源、质量、发布状态和运行反馈。文章给出从开发到部署的闭环设计。
-
MaaS vs PaaS：模型服务与平台服务的边界在哪
MaaS vs PaaS不是替代关系。PaaS强调应用运行、交付和平台能力，MaaS强调模型目录、推理调用、用量计量和AI应用治理。企业需要看清两者的边界和组合方式。
