Tag: ray

本地大模型生产化部署：vLLM、Ray、Kubernetes 与显存策略

围绕 vLLM 与 Ray 的分布式容器化部署，整理 Kubernetes 编排、Ray Serve、张量并行、流水线并行、VRAM 分配和生产运维策略。