Tag: notes
All the articles with the tag "notes".
-
本地大模型生产化部署：vLLM、Ray、Kubernetes 与显存策略
围绕 vLLM 与 Ray 的分布式容器化部署，整理 Kubernetes 编排、Ray Serve、张量并行、流水线并行、VRAM 分配和生产运维策略。
-
本地大模型部署与调优：从 Ollama 到 vLLM
梳理本地大模型推理的核心瓶颈、量化格式选择、Ollama 的定位与限制，以及 vLLM、PagedAttention、连续批处理带来的吞吐优化。
-
AIOps 智能运维 Agent 部署、评估与小模型测试
记录智能运维助手的 Kubernetes 部署方式、使用流程、核心功能验证、MTTR、根因准确率、证据完整率和小模型测试结果。
-
AIOps 智能运维 Agent 的 LangGraph 与 MCP 编排设计
拆解智能运维助手的接口层、配置层、LangGraph 状态机、多集群联邦 Agent、调度引擎和 MCP 工具解耦方案。
-
AIOps 智能运维 Agent 总体架构设计
梳理智能运维助手 3.0 的需求分层、总体架构、技术路线、流式输出、上下文管理、自动修复和可观测性设计。
-
可观测性平台调研与实践
整理云原生可观测性平台的指标、日志、链路追踪、Langfuse、InfluxDB 优化和告警 API 相关实践。
-
Kubeflow 安装部署与使用
记录 Kubeflow 在 Kubernetes 集群中的安装部署、存储准备、Notebook、Pipeline、AutoML、多租户和模型服务化使用流程。
-
vLLM 工具调研
梳理 vLLM 的核心架构、调度机制、PagedAttention 思路，以及 CPU 环境下的安装部署和基础使用方式。