搜尋
首頁科技週邊人工智慧火山引擎彈性容器執行個體:從節點中心轉型 Serverless 化架構的利器

隨著 Kubernetes 和容器技術的日益成熟,越來越多企業正開始將他們的業務應用程式遷移到雲端。透過採用雲端原生架構,這些企業可以更好地支援業務的高速發展和穩定運作。

而隨著雲端運算朝向開發流程縱深發展,Serverless 架構的成熟讓雲端原生技術進入全新階段-Serverless 把公有雲彈性伸縮、免運維、快速接取等特性發揮到了極致,大大降低了用戶的使用成本,讓用戶和企業只需要專注於其業務邏輯,實現真正意義上的敏捷開發。

為了更好地支援企業在業務應用中實現Serverless 化的新型雲原生理念,火山引擎雲原生團隊正在全面升級和創新產品,涵蓋了理念、系統設計和架構設計等多個方面。他們致力於充分發揮 Serverless 技術的優勢和價值,以幫助企業更有效率地運行業務應用。

從節點中心到 Serverless #化架構

傳統的Kubernetes 架構通常以節點為核心,意味著團隊需要在雲端伺服器等資源節點上建立集群,並圍繞這些節點進行運維管理。傳統的 Kubernetes 叢集架構需要在不同節點上管理容器應用的部署、監控和維護,這種方式需要更多的人力和時間投入來維護整個叢集的穩定性和可靠性。然而,隨著技術的發展,出現了一種新型的 Kubernetes 架構,即基於服務網格的架構。在基於服務網格的架構中,網路功能被抽象化出來,並且透過專門的服務網格元件進行統合

隨著業務規模的擴大和節點數的增加,這種架構在容器應用的部署和運行方面通常會面臨一些挑戰,主要包括以下幾個方面:

  • 節點運維複雜:使用者需要自行管理和維護節點,具體包括節點的配置與初始化、作業系統更新與升級、安全管理、運作監控與日誌擷取分析、故障復原、網路管理、儲存管理、擴縮容、資源規劃與分配,以及資源成本管理等複雜且繁瑣的節點運作工作;
  • 資源利用率低:節點預留固定資源,即便實際工作負載所需資源量較少,也無法降低節點資源佔用;節點資源碎片率較高,分佈在各節點之上的部分未使用的資源難以被有效聚合,無法充分利用;資源過度分配,為了避免效能瓶頸,往往傾向於依照最大負載規劃資源,難以預測實際需求,可能造成大量資源閒置;
  • 資源擴容速度慢:容器應用程式可能會經歷突發流量,需要快速擴展以回應增加的負載。在傳統以節點為中心的架構中,運算資源的擴充往往需要建立和配置新的雲端伺服器節點,這個過程可能需要幾分鐘,無法實現即時擴展。

火山引擎彈性容器實例(Volcengine Container Instance,簡稱 VCI)是針對上述情況推出的新型雲端原生方案,它抽象自字節跳動內部多年雲端原生技術積累,是一種 Serverless 和容器化的計算服務——

通過Virtual Kubelet技術與火山引擎容器服務VKE緊密結合,彈性容器實例VCI可以為用戶提供靈活的計算和Kubernetes編排功能,支持快速啟動、高並發建立以及安全的沙箱容器隔離。

透過融合 Serverless 和容器的優勢,彈性容器實例 VCI 能為企業提供一個高效、可靠且安全的運作環境,使用戶能夠專注於開發和運行雲端原生架構的應用程序,而無需關心底層基礎設施的管理和維護,並且僅為業務實際運作所需的資源付費,幫助企業更合理地控制用雲成本。

基礎設施免運維、運算資源免規劃

在傳統自建 Kubernetes 叢集的架構中,無論是控制平面或資料平面,作為容器組 Pod運作的載體,節點都位於 Kubernetes 架構的核心位置,當節點運算資源不足時,需要先透過增加節點來補充運算資源,才能支援業務工作負載的部署或擴容。

在雲端上,以火山引擎容器服務 VKE 為代表的各類託管 Kubernetes 服務會取代用戶管理和維運 Kubernetes 控制平面,提供具有 SLA 保障的託管服務。而對於運行用戶實際業務工作負載的資料平面而言,則通常需要用戶自行運維工作節點,並需要根據業務特徵對節點所提供的計算資源進行提前規劃,如在業務高峰需要進行提前擴容,在業務低谷則需要縮容。

因此,在傳統以節點為核心的 Kubernetes 架構中,節點運維往往需要耗費技術團隊大量精力;同時,如何平衡資源超前規劃與資源成本問題,也成為企業進入「精細化用雲」時代後不得不思考的問題。

彈性容器執行個體 VCI 提供了 Serverless 和容器化的運算服務,每個 VCI 只會為單一 Pod 提供運作環境和運算資源,使用者無需關心底層節點的運維和容量規劃,只需要依照需部署容器應用程式即可。而在使用 VCI 部署容器應用時,可以使用原生的 Kubernetes 語義,與節點中心的架構並無差異。

在資源層面,彈性容器實例 VCI 以火山引擎運算基礎架構作為資源池,提供多種資源類型的容器運算資源,方便使用者依業務需求彈性選擇。同時,使用者也不需要關注資源容量規劃問題,VCI 提供大量運算資源,不會出現傳統節點中心架構下常見的 Pod 漂移(Drift)與重調度(Rescheduling)等現象,而進一步造成服務中斷、效能波動、數據不一致、調度延遲等問題。

最後,容器服務 VKE 與彈性容器實例 VCI 的無縫集成,不僅實現了 Kubernetes 叢集控制平面全託管,同時也為使用者提供了資料平面(即彈性容器實例 VCI)的 Serverless 化全託管、免運維、安全隔離,大大降低用戶在 Kubernetes 基礎設施上的維運成本,並且省去了容量規劃的複雜性,從而使用戶可以將更多精力聚焦於自身業務應用。

極致彈性,所需即所得

彈得省

根據 Flexera 在《2022 年雲狀態報告》揭露的調查數據,受訪企業自評估雲端成本浪費達 32%,「成本」已連續三年成為企業最關注的用雲挑戰之一——「精細化用雲」開始得到越來越多企業的重視,如何在滿足業務發展需求的同時節省雲端成本開銷,成為企業用雲端所需解決的重要挑戰。

彈性容器實例 VCI 在產品設計之初就圍繞企業「雲端成本控制」的需求,強調依照實際使用資源量精細化計費,支援多種計費模式,助力企業真正用好雲。

精進計費:彈性容器執行個體 VCI 依照使用者容器群組(Pod)實際使用的資源計費,計費資源包括 vCPU、記憶體、GPU 等。同時 VCI 實例的計費時長為其運行時長,即用戶 Pod 從下載容器鏡像開始到停止運行為止所使用的時間,精確到秒級,真正實現了按實際用量計費。

提升裝箱率:在雲端原生架構下,相較於傳統運算資源,彈性容器執行個體的另一個優點是減少閒置資源、提升裝箱率,進而降低用戶的計算資源使用成本。具體而言,Kubernetes 叢集使用雲端伺服器 ECS 作為工作節點時,需要在節點上執行 Kubernetes 所需的系統元件,因此需要預留部分運算資源,存在一定額外成本;而若使用彈性容器實例 VCI 作為運算資源,則只需為業務 Pod 實際使用資源付費:

  • 範例:執行 3 個業務 Pod,其對於 vCPU 的資源需求分為 16C、8C、8C
  • 使用 ECS:至少需要 2 台 32C vCPU 的 ECS 節點(每個節點為系統預留資源)
  • 使用 VCI:建立 3 個與 Pod 所需資源相等的 VCI 實例,即 32 C 運算資源(無任何資源閒置)

火山引擎弹性容器实例:从节点中心转型 Serverless 化架构的利器

##豐富計費方式

:目前彈性容器實例 VCI 已正式支援按量計費,並將上線搶佔式實例(Spot)付費模式的邀測活動,同時預留實例、彈性預約實例等預付費模式也有計畫支援。透過提供多種付費模式,我們希望能協助用戶進一步優化運算資源的成本管理與預算編制,針對不同業務場景選用不同付費模式,以便更能協調業務資源需求與用雲成本規劃。

彈得出#######

彈性容器實例 VCI 充分整合了火山引擎的運算資源基礎設施進行算力供給,並且根據不同的底層硬體能力提供了多種實例規格族供用戶選擇,提供差異化的計算、存儲、網絡性能,支援涵蓋多種業務應用程式和服務場景。

CPU 一般型規格族:如一般算力型 u1、一般型 n3i 等,提供了均衡的 vCPU、記憶體、網路能力,可以滿足大多數情境下的服務需求。

GPU 計算型規格族:如 GPU 計算型 gni2(搭載 NVIDIA A10 GPU 顯示卡)、GPU 計算卡)等,運算型 NVIDIA V100可在大模型訓練、文字與影像產生、任務推理等各類 AI 計算類場景下提供高性價比使用體驗。

最新推出的通用算力型 u1 實例規格族依托火山引擎資源池化技術與智慧調度演算法進行動態資源管理,能夠為企業提供穩定的算力供應,並且支援多種處理器以及處理器記憶體的靈活配比,從 0.25C-0.5Gi、0.5C-1Gi、1C-2Gi 等細粒度小規格到 24C-48Gi 、32C-256Gi 等大規格可供任意選擇,具有極高的性價比!

背靠龐大的算力資源供給,彈性容器實例 VCI 也為使用者提供了業界領先的彈性資源優先權調度策略:結合容器服務 VKE,我們支援使用者透過自定義資源策略(ResourcePolicy)將彈性調度到雲端伺服器 ECS、彈性容器實例 VCI 等不同類型算力資源池,並根據實際業務場景依照百分比閾值、優先權控制等策略進行排程分配。

這表示使用者可以將雲端伺服器 ECS 算力資源池和彈性容器執行個體 VCI 算力資源池結合使用,並享有海量火山引擎運算資源;同時,結合容器叢集中的 Cluster Autoscaler 能力和 VCI ,即便容器叢集未事先申請運算資源,使用者也能夠及時獲得彈性資源高效支撐業務應用。

彈得快

面對線上業務不可預測的業務流量洪峰,確保業務運作穩定與用戶體驗至關重要;在業務發展的關鍵時刻,快速彈出運算資源與快速啟用業務應用程式也非常關鍵。彈性容器實例同樣天然適配這些場景。

火山引擎弹性容器实例:从节点中心转型 Serverless 化架构的利器

一方面,火山引擎彈性容器實例(VCI)的彈性能力可滿足分鐘級數萬核心 vCPU 運算資源的需求,保證在業務需要時,快速彈出充足運算資源。當流量洪峰結束,業務工作負載降低時亦可迅速釋放彈性運算資源,讓用雲端成本更節省。

另一方面,容器鏡像拉取的耗時往往較長,這點在大規模 Pod 並發啟動的情況下更加嚴重。彈性容器實例 VCI 不僅具備 VKE 提供的多種容器鏡像加速能力,如容器鏡像延遲載入(鏡像懶載入)、P2P 容器鏡像分發等,也擁有容器鏡像快取能力這樣的特有加速能力,根據實際測試數據,容器鏡像快取可使容器鏡像(資料量在百 G 以內)的 Pod 的整體啟動耗時控制在十秒級別,幫助使用者大幅提升效率、降低雲端成本。

結論

自 2022 年正式上線以來,彈性容器實例 VCI 服務了許多中型企業客戶,並在字節跳動內外業務場景中得到了充分的實踐檢驗。火山引擎雲端原生團隊也基於客戶服務經驗,不斷打磨產品能力,持續提升產品服務的品質與穩定性:

  • 在生態整合方面,彈性容器實例 VCI 不僅持續增強與 Kubernetes 生態的集成,能夠與火山引擎容器服務 VKE 無縫集成,使客戶能夠更容易地在雲端原生環境中部署和管理容器應用;
  • 在分散式容器鏡像啟動加速方面,VCI 與火山引擎鏡像倉庫 CR 等產品協同改善 Dragonfly 架構,進一步增強了鏡像分發到 VCI 中的效率與可靠性;
  • VCI 所特有的容器鏡像快取加速能力,更好地解決了大規模並發、大型容器鏡像場景下的 Pod 啟動速度慢與鏡像拉取成功率低等問題,減輕鏡像倉庫壓力;
  • 在運算資源規格的多樣性方面,VCI 在 2023 年推出了更多的選用資源,如基於火山引擎自研 DPU 全卸載架構的全新通用計算型實例 n3i,屏蔽後端伺服器差異,理論具有無限資源池的通用算力型實例 u1 等。

火山引擎雲原生團隊主要負責火山引擎公有雲及私有化場景中 PaaS 類產品體系的構建,結合字節跳動多年的雲原生技術棧經驗和最佳實踐沉澱,幫助企業加速數位轉型和創新。產品包括容器服務、鏡像倉庫、分散式雲端原生平台、函數服務、服務網格、持續交付、可觀測服務等。

面向2024 年,彈性容器執行個體VCI 將持續在Serverless Kubernetes 產品架構與形態下持續精進與探索,為內部與更多客戶提供基礎架構免運維、運算資源免規劃、極致彈性的Serverless 容器化產品與服務,能夠更好地支援客戶在AIGC、生信科學運算、社交電商等業務場景的多種GPU 和CPU 的算力需求。

以上是火山引擎彈性容器執行個體:從節點中心轉型 Serverless 化架構的利器的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述
本文轉載於:机器之心。如有侵權,請聯絡admin@php.cn刪除
AI技能差距正在減慢供應鏈AI技能差距正在減慢供應鏈Apr 26, 2025 am 11:13 AM

經常使用“ AI-Ready勞動力”一詞,但是在供應鏈行業中確實意味著什麼? 供應鏈管理協會(ASCM)首席執行官安倍·埃什肯納齊(Abe Eshkenazi)表示,它表示能夠評論家的專業人員

一家公司如何悄悄地努力改變AI一家公司如何悄悄地努力改變AIApr 26, 2025 am 11:12 AM

分散的AI革命正在悄悄地獲得動力。 本週五在德克薩斯州奧斯汀,Bittensor最終遊戲峰會標誌著一個關鍵時刻,將分散的AI(DEAI)從理論轉變為實際應用。 與閃閃發光的廣告不同

NVIDIA釋放NEMO微服務以簡化AI代理開發NVIDIA釋放NEMO微服務以簡化AI代理開發Apr 26, 2025 am 11:11 AM

企業AI面臨數據集成挑戰 企業AI的應用面臨一項重大挑戰:構建能夠通過持續學習業務數據來保持準確性和實用性的系統。 NeMo微服務通過創建Nvidia所描述的“數據飛輪”來解決這個問題,允許AI系統通過持續接觸企業信息和用戶互動來保持相關性。 這個新推出的工具包包含五個關鍵微服務: NeMo Customizer 處理大型語言模型的微調,具有更高的訓練吞吐量。 NeMo Evaluator 提供針對自定義基準的AI模型簡化評估。 NeMo Guardrails 實施安全控制,以保持合規性和適當的

AI為藝術與設計的未來描繪了一幅新圖片AI為藝術與設計的未來描繪了一幅新圖片Apr 26, 2025 am 11:10 AM

AI:藝術與設計的未來畫卷 人工智能(AI)正以前所未有的方式改變藝術與設計領域,其影響已不僅限於業餘愛好者,更深刻地波及專業人士。 AI生成的藝術作品和設計方案正在迅速取代傳統的素材圖片和許多交易性設計活動中的設計師,例如廣告、社交媒體圖片生成和網頁設計。 然而,專業藝術家和設計師也發現AI的實用價值。他們將AI作為輔助工具,探索新的美學可能性,融合不同的風格,創造新穎的視覺效果。 AI幫助藝術家和設計師自動化重複性任務,提出不同的設計元素並提供創意輸入。 AI支持風格遷移,即將一種圖像的風格應用

Zoom如何徹底改變與Agent AI的合作:從會議到里程碑Zoom如何徹底改變與Agent AI的合作:從會議到里程碑Apr 26, 2025 am 11:09 AM

Zoom最初以其視頻會議平台而聞名,它通過創新使用Agentic AI來引領工作場所革命。 最近與Zoom的CTO XD黃的對話揭示了該公司雄心勃勃的願景。 定義代理AI 黃d

對大學的存在威脅對大學的存在威脅Apr 26, 2025 am 11:08 AM

AI會徹底改變教育嗎? 這個問題是促使教育者和利益相關者的認真反思。 AI融入教育既提出了機遇和挑戰。 正如科技Edvocate的馬修·林奇(Matthew Lynch)所指出的那樣

原型:美國科學家正在國外尋找工作原型:美國科學家正在國外尋找工作Apr 26, 2025 am 11:07 AM

美國科學研究和技術發展或將面臨挑戰,這或許是由於預算削減導致的。據《自然》雜誌報導,2025年1月至3月期間,美國科學家申請海外工作的數量比2024年同期增加了32%。此前一項民意調查顯示,75%的受訪研究人員正在考慮前往歐洲和加拿大尋找工作。 過去幾個月,數百項NIH和NSF的撥款被終止,NIH今年的新撥款減少了約23億美元,下降幅度接近三分之一。洩露的預算提案顯示,特朗普政府正在考慮大幅削減科學機構的預算,削減幅度可能高達50%。 基礎研究領域的動盪也影響了美國的一大優勢:吸引海外人才。 35

所有有關打開AI最新的GPT 4.1家庭的信息 - 分析Vidhya所有有關打開AI最新的GPT 4.1家庭的信息 - 分析VidhyaApr 26, 2025 am 10:19 AM

Openai推出了強大的GPT-4.1系列:一個專為現實世界應用設計的三種高級語言模型家族。 這種巨大的飛躍提供了更快的響應時間,增強的理解和大幅降低了成本

See all articles

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

PhpStorm Mac 版本

PhpStorm Mac 版本

最新(2018.2.1 )專業的PHP整合開發工具

SAP NetWeaver Server Adapter for Eclipse

SAP NetWeaver Server Adapter for Eclipse

將Eclipse與SAP NetWeaver應用伺服器整合。

MinGW - Minimalist GNU for Windows

MinGW - Minimalist GNU for Windows

這個專案正在遷移到osdn.net/projects/mingw的過程中,你可以繼續在那裡關注我們。 MinGW:GNU編譯器集合(GCC)的本機Windows移植版本,可自由分發的導入函式庫和用於建置本機Windows應用程式的頭檔;包括對MSVC執行時間的擴展,以支援C99功能。 MinGW的所有軟體都可以在64位元Windows平台上運作。

VSCode Windows 64位元 下載

VSCode Windows 64位元 下載

微軟推出的免費、功能強大的一款IDE編輯器