Linux怎么使用Terraform一键在私有云KVM上批量创建测试集群环境

云墨吖_4344

云墨吖_4344

2026-11-05

378人浏览

原创

Terraform无法直接在KVM上“一键”创建测试集群,因其原生不支持KVM,须通过libvirt provider桥接;而AWS/Azure等云厂商provider与libvirt生态完全隔离,资源定义、镜像管理、网络模型及自动伸缩机制均不兼容,必须手动配置本地路径、Cloud-init、隔离网络及分步生成kubeadm token才能完成集群闭环。

linux怎么使用terraform一键在私有云kvm上批量创建测试集群环境

直接用 terraform apply 无法在 KVM 上“一键”创建测试集群——因为 Terraform 本身不原生支持 KVM,必须通过 libvirt provider 桥接,且 Cloud-init 配置、网络拓扑、SSH 密钥注入这三处最容易卡住。

为什么不能直接用官方 AWS/Azure 模板套到 KVM 上

Terraform 的云厂商 provider(如 aws、azurerm)和私有虚拟化 provider(如 libvirt)是完全独立的生态。KVM 没有 REST API,libvirt provider 实际调用的是本地 virsh 命令 + QEMU/KVM 底层接口,因此:

  • resource "aws_instance" 这类资源定义在 libvirt 环境下会报错 Provider doesn't support resource
  • 所有网络、存储、镜像路径都得手动指定本地路径(如 /var/lib/libvirt/images/centos8.qcow2),不能依赖云平台自动拉取 AMI/Marketplace 镜像
  • 没有现成的 “托管节点池” 或 “自动伸缩组” 概念,需用 count 或 for_each 手动控制实例数量,再靠外部脚本或 Ansible 补齐集群初始化逻辑

必须安装并配置 libvirt provider 和基础依赖

CentOS 8.3 / Ubuntu 20.04+ 上缺一不可:

  • 装好 libvirt-daemon、qemu-kvm、virt-install,并确保当前用户在 libvirt 组里:sudo usermod -a -G libvirt $USER
  • 下载对应架构的 terraform-provider-libvirt 二进制(不是从 Terraform Registry 自动下载,它不支持自动安装),放进 ~/.terraform.d/plugins/registry.terraform.io/dmacvicar/libvirt/0.7.0/linux_amd64/ 并加可执行权限
  • provider 声明必须显式写死版本,且启用 use_remote_connection = false(本地直连):
    provider "libvirt" {
      uri = "qemu:///system"
      use_remote_connection = false
    }
  • 务必运行 sudo systemctl enable --now libvirtd,否则 terraform init 会提示 failed to connect to libvirt

Cloud-init 是批量初始化唯一可靠方式,但镜像必须预装支持

裸 CentOS 8.3 ISO 安装的镜像默认不含 cloud-init,直接启动后 SSH 连不上、hostname 不生效、磁盘不自动扩容。正确做法是:

Linux Security Scanner
Linux Security Scanner

Linux 安全审计工具,检查 SSH 配置、开放/监听端口、防火墙规则(ufw/iptables/nftables)、失败登录尝试、sudoers 权限...

下载
  • 用 virt-install 基于官方 cloud image 重打包(如 CentOS-8-GenericCloud-8.3-20200918.2.x86_64.qcow2),而非自己装系统
  • 在 libvirt_domain 资源中用 user_data 字段注入 base64 编码的 YAML:
    user_data = base64encode(templatefile("${path.module}/cloudinit.yaml", {
      ssh_pub_key = file("~/.ssh/id_rsa.pub")
    }))
  • cloudinit.yaml 必须包含 write_files 写入 /etc/hosts、runcmd 执行 kubeadm init 或 k3s server 启动命令——否则只是起了几台孤立的 VM,不算“集群”

批量创建多节点时,网络和主机名必须隔离

用 count = 3 创建三台节点,若共用一个 libvirt_network 定义且未设 mode = "nat",会导致 DHCP 分配冲突或 DNS 解析失败。关键点:

  • 不要复用同一个 libvirt_network 实例;要么用 count 创建多个隔离网络,要么只建一个 bridge 模式网络并配静态 IP
  • 每台 VM 的 domain 名称必须唯一,否则 libvirt 会拒绝启动第二台:name = "k8s-node-${count.index}"
  • 若要用 kubeadm join,主节点的 token 和 ca cert 必须在 Cloud-init 中动态生成并分发——这意味着你得先 apply 主节点,output 出 token,再用 local-exec 触发子节点 apply,不能真正“一键”完成整个集群

真正能跑通的最小闭环不是“一键”,而是:先 apply control-plane 节点 → 提取 kubeadm token create 输出 → 改写 worker 节点的 cloudinit.yaml → 再 apply worker。跳过这步,所谓“批量创建集群”只是批量起 VM 而已。

相关专题

更多
磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

2023.06.21

4410

4

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

2023.06.29

3693

10

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2023.06.30

2973

5

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

2023.07.05

7350

7

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

2023.07.06

7002

7

linux查看文件夹大小
linux查看文件夹大小

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。linux怎么查看文件夹大小呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.20

3993

8

linux查看ip命令
linux查看ip命令

本专题为大家提供linux查看ip命令相关文章内容,感兴趣的朋友可以免费下载体验试试。

2023.07.20

3485

4

linux查看cpu使用率
linux查看cpu使用率

在linux的系统维护中,可能需要经常查看cpu使用率,分析系统整体的运行情况。本专题为大家带来了linux查看cpu使用率的相关文章,感兴趣的朋友千万不要错过了。

2023.07.25

3719

6

linux查找文件命令
linux查找文件命令

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.31

297

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习