怎样在Kubernetes集群中编排部署ManusAI【高阶】

星夢妙者

星夢妙者

2026-06-30

208人浏览

原创

manusai需通过helm chart声明式部署,采用statefulset保障调度层状态持久化,service启用clientip会话亲和;deepseek使用daemonset或hpa按gpu负载弹性伸缩,并通过cert-manager实现grpc双向tls认证,配合prometheus多维度监控告警。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

怎样在kubernetes集群中编排部署manusai【高阶】

在Kubernetes集群中编排部署ManusAI,需突破单Pod裸跑限制,实现任务调度层与推理层的解耦、弹性扩缩与故障自愈。这要求严格遵循声明式编排规范,避免直接使用docker run或kubectl run临时命令。

构建ManusAI核心组件的Helm Chart结构

进入项目根目录,执行helm create manus-ai生成骨架;删除templates/tests目录——该目录在生产环境无实际用途且会干扰CI/CD流水线校验;修改Chart.yaml中的version字段为0.8.3,该版本号必须与manus-core官方发布的Helm仓库中tag严格一致,否则helm dependency update将拉取错误依赖。

values.yaml中定义关键参数:replicaCount: 3用于调度层高可用;inferenceBackend: deepseek-13b-4bit指定后端模型标识;resourceLimits.cpu: "8"memory: 32Gi需匹配A100 GPU节点的实际Allocatable资源,否则Pod将因资源不足处于Pending状态。

配置Manus调度层的StatefulSet与Service

编辑templates/manus-deployment.yaml,将Deployment改为StatefulSet:因为Manus调度器需持久化DAG执行状态,使用volumeClaimTemplates挂载PVC至/var/lib/manus/state路径;PVC的storageClassName必须与集群中已存在的SSD类StorageClass名称完全一致,例如rook-ceph-block

Service类型设为ClusterIP,并添加sessionAffinity: ClientIP——这是为了保证同一客户端的任务请求始终路由到同一调度实例,避免跨实例状态不一致引发任务重复提交或丢失。

在Pod模板中注入环境变量:MANUS_BACKEND_URL: http://deepseek-svc.default.svc.cluster.local:8000,该地址必须与后续部署的DeepSeek Service的DNS解析名完全匹配,否则调度层无法发现推理后端。

部署DeepSeek推理服务的DaemonSet+HPA组合

方法一:GPU节点专属部署
编写deepseek-daemonset.yaml,设置nodeSelectornvidia.com/gpu: "true";容器内必须挂载/dev/nvidiactl/dev/nvidia-uvm/dev/nvidia0三个设备文件,缺失任一都将导致CUDA初始化失败,Pod卡在Init:0/1状态。

方法二:按负载自动伸缩
创建deepseek-hpa.yaml,监控指标设为custom.metrics.k8s.io/v1beta1下的gpu_used_memory_bytes;触发阈值设为75%——低于此值易造成资源浪费,高于此值则可能因显存不足导致OOMKilled;最大副本数不得超过GPU节点总数,否则部分Pod将无法调度。

DeepSeek
DeepSeek

DeepSeek是一款由深度求索公司开发的免费AI助手,支持Web端和移动端使用。它拥有强大的自然语言处理能力,可进行文本对话、内容创作、代码编写、文件处理(支持图像、PDF、Word、Excel、PPT等格式)以及联网搜索。DeepSeek上下文长度达1M tokens,能一次性处理海量信息(如《三体》三部曲)。其核心优势在于完全免费、响应迅速、支持语音输入,并提供API服务,适合学习、办公和开发等多种场景。

下载

【关键前提】集群必须已安装NVIDIA Device Plugin和Metrics Server,否则HPA无法获取GPU指标,DaemonSet也无法识别GPU设备。

打通Manus与DeepSeek的gRPC双向认证链路

第一步:在cert-manager中签发证书
创建Issuer资源,使用ca类型并引用集群CA密钥;为manus-svcdeepseek-svc分别生成Certificate,Common Name必须与Service DNS名一致(如manus-svc.default.svc.cluster.local)。

第二步:挂载证书至双方Pod
在Manus StatefulSet的volumeMounts中挂载/etc/manus/tls路径,包含ca.crtclient.crtclient.key;在DeepSeek DaemonSet中挂载/etc/deepseek/tls,包含ca.crtserver.crtserver.key

第三步:启用gRPC TLS参数
Manus启动命令追加--backend-tls-cert=/etc/manus/tls/client.crt --backend-tls-key=/etc/manus/tls/client.key --backend-tls-ca=/etc/manus/tls/ca.crt;DeepSeek服务启动时添加--grpc-tls-cert=/etc/deepseek/tls/server.crt --grpc-tls-key=/etc/deepseek/tls/server.key

验证链路:进入Manus Pod执行grpcurl -plaintext -cert /etc/manus/tls/client.crt -key /etc/manus/tls/client.key -cacert /etc/manus/tls/ca.crt deepseek-svc:8000 list,成功返回服务列表即表示TLS握手通过。

配置Prometheus监控与告警规则

① 在manus-ai/templates/下创建prometheus-rules.yaml,定义以下三条关键规则:
ManusTaskQueueLength > 500:持续2分钟触发P1级告警,表明调度器吞吐已达瓶颈;
DeepSeekGPUUtilization{device="nvidia0"} > 95:持续1分钟触发P2级告警,预示显存即将耗尽;
absent(manus_scheduler_up{job="manus"}):立即触发P0级告警,表示调度器全量宕机。

② 修改prometheus-operator的ServiceMonitor,将namespaceSelector.matchNames设为["default"],确保能抓取Manus和DeepSeek所在命名空间的指标端点。

③ 在DeepSeek容器中暴露/metrics端点,需在启动参数中加入--metrics-port=9091,且容器端口映射必须与该端口一致,否则Prometheus无法采集GPU利用率等关键指标。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
Golang云原生微服务Kubernetes_Golang怎么集成Kubernetes开发云原生服务
Golang云原生微服务Kubernetes_Golang怎么集成Kubernetes开发云原生服务

Golang云原生微服务Kubernetes (K8s) 是指 使用 Go 语言(Golang)编写的云原生微服务,并利用 Kubernetes 平台进行容器化部署、自动化管理、弹性伸缩和高效编排的一整套现代应用架构方案。

2025.12.22

74

5

Go云原生应用与Kubernetes服务部署实战
Go云原生应用与Kubernetes服务部署实战

本专题围绕 Go 语言在云原生环境中的应用展开,讲解容器化部署、Kubernetes 编排、服务发现、健康检查与弹性扩缩容机制。通过真实云端案例,帮助开发者构建可扩展的云原生微服务架构。

2026.06.29

42

19

Golang云原生微服务Kubernetes_Golang怎么集成Kubernetes开发云原生服务
Golang云原生微服务Kubernetes_Golang怎么集成Kubernetes开发云原生服务

Golang云原生微服务Kubernetes (K8s) 是指 使用 Go 语言(Golang)编写的云原生微服务,并利用 Kubernetes 平台进行容器化部署、自动化管理、弹性伸缩和高效编排的一整套现代应用架构方案。

2025.12.22

74

5

Go云原生应用与Kubernetes服务部署实战
Go云原生应用与Kubernetes服务部署实战

本专题围绕 Go 语言在云原生环境中的应用展开,讲解容器化部署、Kubernetes 编排、服务发现、健康检查与弹性扩缩容机制。通过真实云端案例,帮助开发者构建可扩展的云原生微服务架构。

2026.06.29

42

19

Golang云原生微服务Kubernetes_Golang怎么集成Kubernetes开发云原生服务
Golang云原生微服务Kubernetes_Golang怎么集成Kubernetes开发云原生服务

Golang云原生微服务Kubernetes (K8s) 是指 使用 Go 语言(Golang)编写的云原生微服务,并利用 Kubernetes 平台进行容器化部署、自动化管理、弹性伸缩和高效编排的一整套现代应用架构方案。

2025.12.22

74

5

Go云原生应用与Kubernetes服务部署实战
Go云原生应用与Kubernetes服务部署实战

本专题围绕 Go 语言在云原生环境中的应用展开,讲解容器化部署、Kubernetes 编排、服务发现、健康检查与弹性扩缩容机制。通过真实云端案例,帮助开发者构建可扩展的云原生微服务架构。

2026.06.29

42

19

Manus AI使用指南大全
Manus AI使用指南大全

汇总 Manus AI 使用教程与实战案例,包含 Agent 自动化、AI 工作流、网页开发、Research 使用技巧以及新手快速入门指南。

2026.05.29

128

22

Manus AI案例汇总
Manus AI案例汇总

分享 Manus AI 企业落地案例,包括 AI 自动办公、Research、数据分析、AI 客服与企业级智能体应用解决方案。

2026.05.29

106

15

AI Agent 实战指南:从评测到落地
AI Agent 实战指南:从评测到落地

全面评测 Manus AI 与 ChatGPT、Claude、OpenAI Operator 等 AI Agent 产品,分析自动化能力、工作流与实际生产力差异。

2026.05.29

151

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
腾讯元宝使用手册
腾讯元宝使用手册

共0课时 | 0人学习

DeepSeek手册
DeepSeek手册

共0课时 | 0人学习

Manus AI多模态能力手册
Manus AI多模态能力手册

共0课时 | 0人学习