Apa itu Gitops? Panduan mudah untuk mengautomasikan pengurusan infrastruktur

gitops: mengautomasikan infrastruktur dan penggunaan aplikasi untuk llms

Anda mungkin menemui DevOps dan MLOPS untuk mengautomasikan aplikasi dan penggunaan model. Sekarang, mari kita meneroka Gitops, rangka kerja yang memperluaskan prinsip DevOps kepada automasi infrastruktur. Pos ini butiran gitops, kepentingannya, model yang berbeza, dan integrasinya ke dalam projek model bahasa yang besar (LLM).

[]

imej oleh pengarang

Meningkatkan pemahaman anda tentang DevOps dan MLOPS dengan kursus pendek kami: konsep DevOps dan konsep MLOPS.

Memahami Gitops

GITOPS adalah rangka kerja operasi mengautomasikan pengurusan infrastruktur dengan merawat konfigurasi sebagai kod (infrastruktur sebagai kod atau IAC). Ia memanfaatkan kawalan versi, kolaborasi, pematuhan, CI/CD, dan keterampilan yang dapat dilihat oleh DevOps -untuk peruntukan infrastruktur yang konsisten dan boleh dipercayai, terutama dalam persekitaran awan. Seperti pemaju menggunakan kod sumber, pasukan operasi menggunakan fail konfigurasi dalam repositori Git untuk memastikan penyebaran yang konsisten.

komponen aliran kerja Gitops penting:

1. repositori git: menyimpan kod sumber aplikasi dan fail konfigurasi infrastruktur.
2. Pipeline Penghantaran Berterusan (CD): Automasi Bangunan, Ujian, dan Menggunakan Aplikasi dan Perubahan Infrastruktur.
3. Alat Penyebaran Aplikasi: Memastikan penggunaan aplikasi yang betul dan cekap berdasarkan konfigurasi repositori Git.
4. sistem pemantauan: menjejaki prestasi aplikasi dan kesihatan untuk kebolehpercayaan sistem.

Gitops vs DevOps vs. Mlops

aspek	DevOps	gitops	mlops
Definisi	Menggabungkan pembangunan perisian dan operasi IT untuk memendekkan hayat pembangunan.	menggunakan prinsip DevOps untuk pengurusan infrastruktur menggunakan Git sebagai sumber kebenaran tunggal.	menggunakan prinsip DevOps untuk pembangunan dan penempatan model pembelajaran mesin.
Fokus Utama	mengautomasikan dan meningkatkan pembangunan perisian, ujian, dan penempatan.	mengautomasikan infrastruktur dan penggunaan aplikasi melalui aliran kerja berasaskan Git.	mengautomasikan pembangunan model ML, penempatan, dan pengurusan kitaran hayat.
Prinsip Utama	Kerjasama, CI/CD, IAC	IAC, konfigurasi deklaratif, perdamaian berterusan, kawalan versi	versi versi, pemantauan model, kebolehulangan, latihan & penempatan berterusan
Alat & Teknologi	Jenkins, Tindakan GitHub, Terraform, Ansible, Docker, Kubernetes	argo cd, fluks, kubernetes, helm, terraform, tindakan github	Mlflow, Kubeflow, Tensorflow Extended (TFX), SageMaker, Airflow
Gunakan kes	Pembangunan perisian, penggunaan aplikasi, aplikasi awan asli.	Menguruskan infrastruktur awan, penyebaran Kubernet, mengautomasikan kemas kini konfigurasi.	Latihan Model, Penyebaran, Pemantauan, dan Paip Latihan.
Skop automasi	Automasi aplikasi membina, menguji, dan digunakan untuk pengeluaran.	mengautomasikan peruntukan infrastruktur, pengurusan konfigurasi, dan penggunaan aplikasi.	mengautomasikan latihan model ML, pengesahan, penempatan, dan pemantauan.
Kawalan versi	KodBase yang dikawal versi untuk konfigurasi perisian dan aplikasi.	git adalah sumber kebenaran tunggal untuk keadaan infrastruktur dan konfigurasi.	Kawalan versi untuk model ML, dataset, dan saluran paip latihan.
integrasi CI/CD	Prinsip teras dengan ujian automatik, membina, dan menempatkan saluran paip.	sangat terintegrasi dengan saluran paip CI/CD untuk mengautomasikan kemas kini infrastruktur.	disatukan dengan CI/CD tetapi memerlukan saluran paip ML khusus untuk latihan dan pengesahan berterusan.
infrastruktur mgmt	menyokong IAC tetapi memberi tumpuan lebih kepada penggunaan aplikasi.	Menguruskan infrastruktur melalui konfigurasi dikawal versi.	menyokong infrastruktur ML dan menguruskan percubaan model dan drift.
Pemantauan & Obs.	pemerhatian melalui pembalakan, alat pemantauan.	Pemantauan berterusan dan penyembuhan diri melalui pengawal Gitops seperti Argo CD.	memberi tumpuan kepada pemantauan prestasi model, pengesanan drift data, dan pemicu latihan semula.
Cabaran	Peralihan budaya, kerjasama, kerumitan integrasi toolchain.	beralih ke infrastruktur deklaratif, skala kerumitan dalam persekitaran yang besar.	kerumitan infrastruktur yang tinggi, cabaran pengurusan data, integrasi dengan saluran paip DevOps.

mengapa memilih gitops?

Pengurusan infrastruktur manual tradisional tidak mencukupi untuk persekitaran awan moden. Gitops menyediakan infrastruktur elastik dan boleh dipercayai, membolehkan penggunaan yang cepat dan konsisten. Ia meminimumkan kesilapan manual, meningkatkan kecekapan, dan memastikan penyegerakan antara infrastruktur dan aplikasi.

Kelebihan Gitops Key:

1. Kawalan Versi: Semua perubahan dikawal versi dalam Git, memudahkan rollbacks dan audit.
2. Kerjasama yang lebih baik: Pasukan bekerjasama dengan berkesan menggunakan aliran kerja Git yang biasa.
3. Konfigurasi Konfigurasi Deklaratif Membolehkan Pemulihan Negeri Sistem Automatik.
4. Automasi: mengurangkan intervensi manual dan kesilapan manusia.
5. Keselamatan: Sejarah komit git meningkatkan keselamatan dan kebolehkesanan.

berasaskan pull vs gitops berasaskan push

Dua model Gitops utama wujud: berasaskan tarik dan berasaskan push.

berasaskan pull (tipikal gitops): pengendali gitops (fluks, argo cd) memantau repositori git untuk perubahan. Apabila mengesan kemas kini, ia menarik konfigurasi dan menggunakannya ke persekitaran sasaran. Model ini termasuk pengesanan drift dan penyembuhan diri.

berasaskan push (menggunakan alat CI/CD): alat seperti tindakan github menolak kemas kini ke kluster pada komit. Ia tidak mempunyai perdamaian yang berterusan, pengesanan drift, dan pengembalian automatik, tetapi lebih mudah untuk dilaksanakan.

Mengintegrasikan Gitops ke dalam projek LLM

Bahagian ini menggunakan pendekatan Gitops berasaskan push dengan tindakan GitHub untuk kesederhanaan. Kami akan memohon prinsip GITOPS untuk projek penempatan aplikasi LLM (serupa dengan "Cara Menggunakan Aplikasi LLM Menggunakan Tutorial Docker").

[]

Sumber: Cara Menyebarkan Aplikasi LLM Menggunakan Docker: Panduan Langkah demi Langkah

Pertimbangkan kursus kami,

membangunkan model pembelajaran mesin untuk pengeluaran dengan mindset MLOPS

, untuk latihan model, penyelenggaraan, dan skala yang berkesan. Struktur Projek:

: kod aplikasi, kebergantungan (
• ), dockerfile. app/ requirements.txt
: Konfigurasi Kubernet (mis.,
• , infra/, dev/). staging/ Automasi CI/CD CI/CD dengan tindakan GitHub (production/,
).
• .github/workflows/ ci.yaml Aliran Kerja GitHub: cd.yaml
  1. pemaju melakukan kod dan konfigurasi ke github.
  2. CI PIPELINE (ci.yaml): Membina imej Docker, secara pilihan menolaknya, dan menjalankan ujian.
  3. saluran paip CD (cd.yaml): Menggunakan kemas kini menggunakan kubectl apply atau helm upgrade.
  4. Kluster Kubernet dikemas kini.

  Gitops berasaskan push: Kelebihan dan Trade-Offs

  Kelebihan:

  • kesederhanaan: hanya memerlukan tindakan github.
  • One-Stop-Shop: Tindakan GitHub Mengendalikan Bangunan, Ujian, dan Penempatan.

  Trade-Offs:

  • tidak benar-benar pull-berasaskan: kekurangan perdamaian berterusan.
  • tiada pengesanan drift: Pengubahsuaian kluster manual tidak dibalikkan secara automatik.
  • Keselamatan: Memerlukan pengendalian kelayakan kluster yang berhati -hati dalam rahsia github.

  peralihan ke model berasaskan tarik

  Untuk projek yang lebih besar atau lebih banyak keperluan yang menuntut, model berasaskan tarik (Argo CD, Flux) menawarkan penyembuhan diri, perdamaian berterusan, dan papan pemuka visual.

  Kesimpulan

  Mulakan kecil dengan Gitops, secara beransur -ansur menggabungkan teknologinya. Mulailah dengan Docker, kemudian Kubernetes, kemudian pendekatan Gitops berasaskan push (tindakan GitHub). Akhirnya, peralihan ke model berasaskan tarik untuk kestabilan peringkat pengeluaran. Pendekatan berperingkat ini memaksimumkan manfaat Gitops untuk aplikasi awan asli. Untuk pemula AI, pertimbangkan trek kemahiran AI Fundamentals kami.

Atas ialah kandungan terperinci Apa itu Gitops? Panduan mudah untuk mengautomasikan pengurusan infrastruktur. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!