Volcano Engine のエラスティック コンテナ インスタンス: ノード中心のアーキテクチャからサーバーレス アーキテクチャに変換するための強力なツール

Kubernetes とコンテナ テクノロジーがますます成熟するにつれて、ますます多くの企業がビジネス アプリケーションをクラウドに移行し始めています。クラウドネイティブ アーキテクチャを採用することで、これらの企業はビジネスの迅速な発展と安定した運営をより適切にサポートできます。

クラウド コンピューティングが開発プロセスの奥深くまで発展するにつれて、サーバーレス アーキテクチャの成熟により、クラウド ネイティブ テクノロジが新たな段階に到達しました。サーバーレスは、パブリック クラウドの柔軟なスケーラビリティ、運用不要のメンテナンス、高速アクセスなどを取り入れています。ユーザーの利用コストを大幅に削減し、ユーザーや企業はビジネスロジックのみに集中し、本当の意味でのアジャイル開発を実現できます。

ビジネス アプリケーションで新しいサーバーレス クラウド ネイティブ コンセプトを実現する企業をより適切にサポートするために、Volcano Engine クラウド ネイティブ チームは、コンセプト、システム設計、アーキテクチャ設計などの多くの側面をカバーして、製品のアップグレードと革新を包括的に行っています。 。彼らは、企業がビジネス アプリケーションをより効率的に実行できるよう、サーバーレス テクノロジの利点と価値を最大限に活用することに尽力しています。

ノード センターから サーバーレス アーキテクチャ

従来の Kubernetes アーキテクチャは通常、ノードをコアとして使用します。つまり、クラウドサーバーなどのリソースノード上にクラスタを構築し、そのノードを中心に運用保守管理を行う必要があります。従来の Kubernetes クラスター アーキテクチャでは、さまざまなノード上でコンテナ アプリケーションのデプロイメント、監視、メンテナンスを管理する必要があり、このアプローチでは、クラスター全体の安定性と信頼性を維持するために、より多くの人的資源と時間の投資が必要になります。しかし、テクノロジーの発展に伴い、新しいタイプの Kubernetes アーキテクチャ、つまりサービス メッシュに基づくアーキテクチャが登場しました。サービス グリッドに基づくアーキテクチャでは、ネットワーク機能が特殊なサービス グリッド コンポーネントによって抽象化および統合されます。ビジネス規模の拡大とノード数の増加に伴い、このアーキテクチャはコンテナ アプリケーションでますます重要になります。通常、展開と実装にいくつかの課題があります。

複雑なノードの運用と保守
• : ノードの構成を含め、ユーザーが自分でノードを管理、保守する必要がある 複雑で面倒なノードの運用と保守初期化、オペレーティングシステムのアップデートとアップグレード、セキュリティ管理、稼働監視とログ収集と分析、障害回復、ネットワーク管理、ストレージ管理、拡張と縮小、リソースの計画と割り当て、リソースコストの管理などの作業; #低リソース使用率
: ノードは固定リソースを予約します。実際のワークロードに必要なリソースが少なくても、ノードのリソース使用量を減らすことができません。ノードのリソースの断片化率が高く、一部の未使用リソースをさまざまなノードに分散することが困難です。効果的に集約できず、完全に利用できない、リソースが過剰に割り当てられている パフォーマンスのボトルネックを回避するために、リソースは最大負荷に基づいて計画されることが多いため、実際の需要を予測することが難しく、多数のアイドル状態のリソースが発生する可能性があります。
• リソースの拡張が遅い
: コンテナ アプリケーションではトラフィックのバーストが発生する可能性があり、負荷の増加に応じて迅速に拡張する必要があります。従来のノード中心のアーキテクチャでは、コンピューティング リソースの拡張には、多くの場合、新しいクラウド サーバー ノードの作成と構成が必要ですが、このプロセスには数分かかる場合があり、即時の拡張は実現できません。
• Volcage Engine
Elastic Container Instance

(Volcengine Container Instance、VCI と呼ばれる) は、上記の状況のた​​めに開始された新しいクラウド ネイティブ ソリューションであり、ByteDance の内部クラウド ネイティブから抽象化されています。 Accumulation はサーバーレスでコンテナ化されたコンピューティング サービスです -

Virtual Kubelet テクノロジーと Volcano Engine コンテナ サービス VKE を通じて、エラスティック コンテナ インスタンス VCI はユーザーに柔軟なコンピューティングと Kubernetes オーケストレーション機能を提供し、高速なサポートを実現します。起動、高同時実行の作成、および安全なサンドボックス コンテナーの分離。

サーバーレスとコンテナの利点を統合することにより、Elastic Container Instance (VCI) は企業に効率的で信頼性が高く安全なオペレーティング環境を提供し、ユーザーはクラウドネイティブ アーキテクチャ アプリケーションの開発と実行に集中できるようになります。基盤となるインフラストラクチャの管理と保守を行い、実際の事業運営に必要なリソースの料金のみを支払うことで、企業はクラウド コストをより合理的に制御できます。

インフラストラクチャの運用と保守、コンピューティング リソースの計画は不要です。

従来の自己構築 Kubernetes クラスター アーキテクチャでは、コントロール プレーンであってもデータ プレーンであっても、コンテナ グループとして ポッド 実行中のキャリアとノードは Kubernetes アーキテクチャの中核に位置しており、ノードのコンピューティング リソースが不足している場合は、ビジネス ワークロードの展開または拡張をサポートするためにノードを追加することでコンピューティング リソースを補う必要があります。

クラウド上では、Volcano Engine Container Service VKE に代表されるさまざまなマネージド Kubernetes サービスがユーザーに代わって Kubernetes コントロール プレーンの管理と運用を行い、SLA 保証付きのマネージド サービスを提供します。ユーザーの実際のビジネスワークロードを実行するデータプレーンでは、通常、ユーザーは稼働ノードを自分で運用・保守する必要があり、ノードが提供するコンピューティングリソースは、ビジネスのピーク時などビジネスの特性に応じて事前に計画する必要があります。事業拡大は進むが、事業不況には縮小が必要。

そのため、従来のノード中心の Kubernetes アーキテクチャでは、ノードの運用と保守に技術チームの多大なエネルギーが必要となることが多く、同時に、リソースの高度な計画とリソースコストのバランスをどう取るかという問題も課題となっていました。 「洗練されたエンタープライズ向けアプリケーション。「クラウド 」時代の後に考えなければならない問い。

Elastic Container Instance VCI は、サーバーレスおよびコンテナ化されたコンピューティング サービスを提供します。各 VCI は、単一のポッドのオペレーティング環境とコンピューティング リソースのみを提供します。ユーザーは、基盤となるポッドの運用とメンテナンス、キャパシティ プランニングについて気にする必要はありません。コンテナ アプリケーションをデプロイするだけです。 VCI を使用してコンテナ アプリケーションをデプロイする場合、ネイティブ Kubernetes セマンティクスを使用できます。これは、ノード センター アーキテクチャと何ら変わりません。

リソース レベルでは、エラスティック コンテナ インスタンス VCI は、Volcano Engine コンピューティング インフラストラクチャをリソース プールとして使用し、複数のリソース タイプのコンテナ コンピューティング リソースを提供し、ユーザーがビジネス ニーズに応じて柔軟に選択できるようにします。同時に、ユーザーはリソース キャパシティ プランニングの問題に注意を払う必要がなく、VCI は大規模なコンピューティング リソースを提供し、従来のノード中心のアーキテクチャで一般的であった、サービスの中断をさらに引き起こすポッドのドリフトや再スケジュールなどの現象を引き起こしません。 、パフォーマンスの変動、データの不整合やスケジュールの遅延などの問題。

最後に、コンテナ サービス VKE とエラスティック コンテナ インスタンス VCI のシームレスな統合により、Kubernetes クラスター コントロール プレーンの完全なホスティングが実現されるだけでなく、ユーザーに完全なサーバーレス データ プレーン (つまり、エラスティック コンテナ インスタンス VCI) が提供されます。 、操作不要で安全な分離により、Kubernetes インフラストラクチャでのユーザーの運用および保守コストが大幅に削減され、キャパシティ プランニングの複雑さが解消され、ユーザーはビジネス アプリケーションにさらに集中できるようになります。

究極の弾力性、必要なものが手に入ります

柔軟性と節約

Flexera によると、「2022 年の現状」公開された調査データによると、インタビュー対象企業の自己評価によるクラウドコストの無駄は32%に達しており、「コスト」は企業が最も懸念しているクラウドの課題の1つとなっている。 3年連続で「クラウドの高度な利用」が注目され始めており、事業展開のニーズを満たしながらクラウドのコストをいかに節約するかに注目する企業が増えており、企業がクラウドを利用する上で解決すべき重要な課題となっている。

Elastic Container Instance VCI は、製品設計の最初から企業の「クラウド コスト管理」ニーズに焦点を当て、実際に使用されたリソース量に基づいた精緻な請求を重視し、複数の請求モデルをサポートし、企業が真に収益を上げられるよう支援します。クラウドを上手に活用しましょう。

洗練された課金: エラスティック コンテナ インスタンス VCI は、ユーザー コンテナ グループ (Pod) によって実際に使用されるリソースに応じて課金されます。課金リソースには、vCPU、メモリ、GPU などが含まれます。同時に、VCI インスタンスの課金時間は、ユーザー Pod がコンテナイメージをダウンロードしてから実行を停止するまでに使用した時間である実行時間となり、第 2 レベルまで正確で、まさに使用量に応じた課金を実現します。 。

パッキング レートの向上: クラウド ネイティブ アーキテクチャでは、従来のコンピューティング リソースと比較して、エラスティック コンテナ インスタンスのもう 1 つの利点は、アイドル状態のリソースが削減され、パッキング レートが向上し、それによってユーザー コストが削減されることです。 . コンピューティングリソースの使用コスト。具体的には、Kubernetes クラスターがクラウド サーバー ECS を動作ノードとして使用する場合、Kubernetes に必要なシステム コンポーネントをノード上で実行する必要があるため、一部のコンピューティング リソースを予約する必要があり、一定の追加コストが発生します。エラスティック コンテナ インスタンス VCI はコンピューティング リソースとして使用され、ビジネス ポッドによって実際に使用されるリソースの料金のみを支払う必要があります:

• 例: 3 つのビジネス ポッドとそのリソースの実行vCPU の要件は 16C、8C、8C
• Use ECS: 少なくとも 2 つの 32C vCPU ECS ノードが必要です (システム用にリソースを予約する必要があります)各ノードで)
• Use VCI: ポッドに必要なリソース、つまり 32 個の C コンピューティング リソースに等しい 3 つの VCI インスタンスを作成します (アイドル状態のリソースはありません) )

豊富な課金方法: 現在のエラスティック コンテナ インスタンス VCI は従量課金制を正式にサポートしており、今後リリースされます。プリエンプティブ インスタンス (スポット) 支払いモデルの招待テスト イベント、リザーブド インスタンス、フレキシブル予約インスタンスなどのプリペイド モデルもプランでサポートされています。複数の支払いモデルを提供することで、ユーザーがコンピューティング リソースのコスト管理と予算編成をさらに最適化し、さまざまなビジネス シナリオに応じてさまざまな支払いモデルを選択できるようになり、それによってビジネス リソースのニーズとクラウドのコスト計画をより適切に調整できるようにしたいと考えています。

バウンスアウト

Elastic Container Instance VCI は、Volcano Engine のコンピューティング リソース インフラストラクチャを完全に統合してコンピューティング能力を提供し、ユーザーがさまざまな基盤となるハードウェア機能に基づいて選択できるさまざまなインスタンス仕様ファミリーを提供し、差別化されたコンピューティング、ストレージ、ネットワーク パフォーマンスを提供します。 、さまざまなビジネス アプリケーションとサービス シナリオをサポートします。

CPU 汎用仕様ファミリー: バランスの取れた vCPU、メモリ、ネットワークを提供する汎用コンピューティング u1、汎用 n3i など大規模ユーザーのニーズを満たす機能、ほとんどのシナリオでのサービス要件。

GPU コンピューティング タイプ仕様ファミリー: GPU コンピューティング タイプ gni2 (NVIDIA A10 GPU グラフィックス カードを搭載)、GPU コンピューティング タイプ g1v (NVIDIA V100 GPU を搭載) など大規模モデルのトレーニング、テキストと画像の生成、タスク推論などのさまざまな AI コンピューティング シナリオで、コスト効率の高い使用エクスペリエンスを提供できます。

最新の 一般的なコンピューティング タイプ u1 インスタンス仕様ファミリー は、動的リソース管理のための Volcano エンジンのリソース プーリング テクノロジとインテリジェントなスケジューリング アルゴリズムに依存しています。企業にコンピューティング パワーの安定した供給を提供し、0.25C-0.5Gi、0.5C-1Gi、1C-2Gi から 24C-48Gi などのきめ細かい小さな仕様に至るまで、さまざまなプロセッサーと柔軟なプロセッサー メモリ比率をサポートできます。 32C-256Gi等の大型スペックも選択可能で非常にコストパフォーマンスが高い！

膨大なコンピューティング リソースの供給に支えられたエラスティック コンテナ インスタンス VCI は、業界をリードする エラスティック リソース優先スケジューリング戦略もユーザーに提供します : コンテナ サービス VKE と組み合わせることで、ユーザーをサポートします独自のリソース ポリシー (ResourcePolicy) を定義して、クラウド サーバー ECS やエラスティック コンテナ インスタンス VCI などのさまざまなタイプのコンピューティング リソース プールに柔軟にスケジュールし、パーセントしきい値、優先度制御、および実際に応じたその他の戦略に従ってスケジューリングと割り当てを実行します。ビジネスシナリオ。

これは、ユーザーがクラウド サーバー ECS コンピューティング リソース プールとエラスティック コンテナ インスタンス VCI コンピューティング リソース プールを組み合わせて、大規模な Volcano Engine コンピューティング リソースを利用できることを意味します。同時に、クラスター オートスケーラー機能と VCI をコンテナ クラスタでは、コンテナ クラスタ内でコンピューティング リソースが事前に要求されていない場合でも、ユーザーは柔軟なリソースをタイムリーに取得して、ビジネス アプリケーションを効率的にサポートできます。

bounce fast

オンライン ビジネスでは予測できないビジネス トラフィックのピークに直面し、ビジネス開発の重要な瞬間に、安定したビジネス運営とユーザー エクスペリエンスを確保することが重要です。コンピューティング リソースを迅速に起動し、ビジネス アプリケーションを迅速に有効にすることも重要です。エラスティック コンテナ インスタンスは、当然ながらこれらのシナリオにも適しています。

一方、Volcano Engine Elastic Container Instance (VCI) の柔軟な機能は、毎分 数万コアのニーズを満たすことができます vCPU コンピューティング リソース。ビジネスが必要なときに、十分なコンピューティング リソースをすぐに利用できるようにします。トラフィックのピークが過ぎ、ビジネスのワークロードが減少すると、柔軟なコンピューティング リソースがすぐに解放され、クラウドのコストがより経済的になります。

一方、コンテナイメージの取得には時間がかかることが多く、大規模な Pod が同時に起動される場合にはさらに深刻になります。 Elastic Container Instance VCIは、コンテナイメージの遅延読み込み（イメージ遅延読み込み）やP2Pコンテナイメージ配布など、VKEが提供するさまざまなコンテナイメージ高速化機能だけでなく、コンテナイメージキャッシュ機能などの独自の高速化機能も備えています。実際のテストデータによると、コンテナ イメージ キャッシュにより、コンテナ イメージ (100 G 以内のデータ量) を含む Pod の全体的な起動時間を 10 秒レベルに制御でき、ユーザーの効率が大幅に向上し、クラウド コストが削減されます。

結論

Elastic Container Instance VCI は、2022 年の正式リリース以来、多くの大規模および中規模の企業顧客にサービスを提供し、Bytedance の社内外で最大限に活用されてきました。ビジネスシナリオ、実技試験。また、Volcano Engine クラウド ネイティブ チームは、顧客サービスの経験に基づいて製品機能を継続的に磨き、製品サービスの品質と安定性を向上させ続けています。

• エコロジー統合の観点からは、Elastic Container Instance (VCI) は Kubernetes エコシステムとの統合を強化し続けるだけでなく、Volcano Engine Container Service (VKE) ともシームレスに統合できるため、アプリケーション;
• 分散コンテナ イメージの起動高速化の観点から、VCI は Volcano Engine Image Warehouse CR やその他の製品と連携して Dragonfly アーキテクチャを改善し、 VCI へのイメージ配布の効率と信頼性;
• VCI の独自のコンテナ イメージ キャッシュ アクセラレーション機能により、大規模な同時実行および大規模なコンテナ イメージのシナリオにおける Pod の起動の遅さとイメージ プルの成功率の低さの問題がより適切に解決され、画像ウェアハウスへの圧力;
• コンピューティング リソース仕様の多様性の観点から、VCI は 2023 年に、Volcano Engine の自社開発 DPU を完全にベースにした新しい汎用コンピューティング インスタンスである n3i など、より多くのオプション リソースを発売する予定です。オフロード アーキテクチャ。バックエンド サーバーの違いを保護し、理論上の無制限の機能を備えています。リソース プールの一般的なコンピューティング能力インスタンス u1 など。

Volcano Engine クラウド ネイティブ チームは、ByteDance の長年にわたるクラウド ネイティブ テクノロジー スタックの経験とベスト プラクティスと組み合わせて、Volcano Engine パブリック クラウドおよび民営化シナリオでの PaaS 製品システムの構築を主に担当しています。 、企業がデジタル変革とイノベーションを加速するのに役立ちます。製品には、コンテナ サービス、イメージ ウェアハウス、分散型クラウド ネイティブ プラットフォーム、機能サービス、サービス グリッド、継続的デリバリー、オブザーバブル サービスなどが含まれます。

2024 年に向けて、Elastic Container Instance VCI は、サーバーレス Kubernetes 製品アーキテクチャと形式の下で改善と探索を継続し、インフラストラクチャの運用と保守、コンピューティング リソースの計画が不要な、より多くの社内外の顧客に提供する予定です。サーバーレスのコンテナ化された製品とサービスは、AIGC、バイオインフォマティクス科学コンピューティング、ソーシャル電子商取引、その他のビジネス シナリオにおける顧客のさまざまな GPU および CPU のコンピューティング能力ニーズをより適切にサポートできます。

以上がVolcano Engine のエラスティック コンテナ インスタンス: ノード中心のアーキテクチャからサーバーレス アーキテクチャに変換するための強力なツールの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。