今は AI エンパワーメントの時代であり、機械学習は AI を実現するための重要な技術手段です。では、普遍的な機械学習システム アーキテクチャは存在するのでしょうか?
ベテラン プログラマの認識範囲内では、特にシステム アーキテクチャに関しては何でもありません。ただし、ほとんどの機械学習駆動システムまたはユースケースに適用できる場合、スケーラブルで信頼性の高い機械学習システム アーキテクチャを構築することは可能です。 機械学習のライフサイクルの観点から見ると、このいわゆるユニバーサル アーキテクチャは、機械学習モデルの開発から、トレーニング システムやサービス システムの運用環境への展開まで、主要な機械学習段階をカバーします。 このような機械学習システム アーキテクチャを 10 要素の次元から記述してみることができます。
1. データおよび特徴エンジニアリング パイプライン
一定時間内に高品質のデータを提供し、スケーラブルかつ柔軟な方法で有用なデータを生成する機械学習機能。一般に、データ パイプラインは特徴エンジニアリング パイプラインから分離できます。データ パイプラインは、抽出、変換、読み込み (ETL) パイプラインを指します。このパイプラインでは、データ エンジニアがオブジェクト ストレージ上に構築されたデータ レイクなどのストレージ場所にデータを転送する責任を負い、機能エンジニアリング パイプラインは生データをデータに変換することに重点を置いています。機械学習アルゴリズムがより高速かつ正確に学習する機械学習機能に役立ちます。
特徴量エンジニアリングは通常 2 つの段階に分かれています。第 1 段階では、通常、特徴量エンジニアリング ロジックは、最適な特徴セットを見つけるために、開発段階でさまざまな実験を通じてデータ サイエンティストによって作成されます。一方、データ エンジニアまたは機械学習エンジニアは、モデル トレーニング用の特徴量エンジニアリング パイプラインの作成を担当します。環境内の本番サービスは高品質の特徴データを提供します。
2. 特徴ストレージ
機械学習特徴データを保存し、バージョン管理を実行し、検出、共有、再利用に使用され、モデルのトレーニングとサービスに一貫したデータと機械学習機能を提供します。機械学習システムの信頼性を向上させます。
機械学習の特徴データに対して、特徴ストレージは特徴エンジニアリング パイプラインによって作成された永続ストレージ ソリューションです。特徴ストレージはモデルのトレーニングと提供をサポートします。したがって、これはエンドツーエンドの機械学習システム アーキテクチャの非常に重要な部分であり、重要なコンポーネントです。
3. 機械学習モデルのトレーニングと再トレーニング パイプライン
機械学習トレーニング用のさまざまなパラメーターとハイパーパラメーターを実行し、シンプルで構成可能な方法で実験を実施し、これらのトレーニングを記録しますさまざまなパラメーターとモデルのパフォーマンス指標走る。最もパフォーマンスの高いモデルを自動的に評価、検証、選択し、機械学習モデル ライブラリに記録します。
4. トレーニングとモデルのメタストレージ
パラメーター、インジケーター、コード、構成結果、トレーニング済みモデルを含む機械学習操作を保存および記録し、モデルのライフサイクル管理、モデルの注釈、モデルを提供します。発見とモデルの再利用、その他の機能。
エンジニアリング、モデル トレーニング、モデル サービスを特徴とする完全な機械学習システムの場合、データから大量のメタデータを生成できます。これらすべてのメタデータは、システムがどのように動作するかを理解するのに非常に役立ち、データ -> 機能 -> モデル -> サーバーの追跡可能性を提供し、モデルが動作しなくなったときにデバッグに役立つ情報を提供します。
5. 機械学習モデルのサービス パイプライン
フルサービスとレイテンシーの両方を考慮して、実稼働環境で機械学習モデルを使用するための適切なインフラストラクチャを提供します。
一般的に、サービス モードにはバッチ サービス、ストリーミング サービス、オンライン サービスの 3 つがあります。サービスの種類ごとに、まったく異なるインフラストラクチャが必要になります。さらに、インフラストラクチャは耐障害性があり、特にビジネス クリティカルな機械学習システムの場合、リクエストやスループットの変動に応じて自動的にスケールする必要があります。
6. 本番環境での ML モデルの監視
本番環境では、データ収集、モニタリング、分析、可視化、およびデータとモデルのドリフトや異常が発見された場合の通知機能を提供し、必要な情報を提供します。システムのデバッグを支援します。
7. 機械学習パイプライン
特定の機械学習ワークフローと比較して、機械学習パイプラインは、データ サイエンティストが高品質のコードを維持し、生産時間を短縮しながら、より迅速に開発および反復できるようにする再利用可能なフレームワークを提供します。一部の機械学習パイプライン フレームワークは、オーケストレーション機能とアーキテクチャ抽象化機能も提供します。
8. ワークフロー オーケストレーション
ワークフロー オーケストレーションは、エンドツーエンドの機械学習システムを統合し、これらすべての主要コンポーネントの依存関係を調整および管理するための重要なコンポーネントです。ワークフロー オーケストレーション ツールは、ログ、キャッシュ、デバッグ、再試行などの機能も提供します。
9. 継続的インテグレーション/継続的トレーニング/継続的デリバリー (CI/CT/CD)
継続的テストと継続的インテグレーションは、新しいデータを使用して新しいモデルを継続的にトレーニングし、必要に応じてモデルのパフォーマンスをアップグレードすることを指します。継続的に実稼働環境にサービスを提供し、安全かつ俊敏かつ自動化された方法でモデルをデプロイします。
10. データとモデルのエンドツーエンドの品質管理
エンドツーエンドの機械学習ワークフローの各段階で、信頼性の高いデータ品質チェック、モデル品質チェック、データとコンセプトのドリフトが行われます。機械学習システム自体が信頼できるものであることを保証するために、検出機能を組み込む必要があります。これらの品質管理チェックには、記述統計、全体的なデータ形状、欠損データ、重複データ、ほぼ一定の特徴、統計検定、距離メトリック、モデル予測品質などが含まれます。
上記は機械学習システムのアーキテクチャの10要素と言えます。私たちの実践では、全体的なワークフローはほぼ同じままであるはずですが、その一部の要素は微調整およびカスタマイズする必要がある場合があります。
機械学習のシステム アーキテクチャを調整するにはどうすればよいですか?
製品設計の開始時にアーキテクチャ要素を合理化するにはどうすればよいですか?
機械学習システムを導入する際に、元のシステム アーキテクチャの継続性を維持するにはどうすればよいですか?
以上が機械学習システムアーキテクチャの 10 の要素の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

译者 | 布加迪审校 | 孙淑娟目前,没有用于构建和管理机器学习(ML)应用程序的标准实践。机器学习项目组织得不好,缺乏可重复性,而且从长远来看容易彻底失败。因此,我们需要一套流程来帮助自己在整个机器学习生命周期中保持质量、可持续性、稳健性和成本管理。图1. 机器学习开发生命周期流程使用质量保证方法开发机器学习应用程序的跨行业标准流程(CRISP-ML(Q))是CRISP-DM的升级版,以确保机器学习产品的质量。CRISP-ML(Q)有六个单独的阶段:1. 业务和数据理解2. 数据准备3. 模型

机器学习是一个不断发展的学科,一直在创造新的想法和技术。本文罗列了2023年机器学习的十大概念和技术。 本文罗列了2023年机器学习的十大概念和技术。2023年机器学习的十大概念和技术是一个教计算机从数据中学习的过程,无需明确的编程。机器学习是一个不断发展的学科,一直在创造新的想法和技术。为了保持领先,数据科学家应该关注其中一些网站,以跟上最新的发展。这将有助于了解机器学习中的技术如何在实践中使用,并为自己的业务或工作领域中的可能应用提供想法。2023年机器学习的十大概念和技术:1. 深度神经网

译者 | 朱先忠审校 | 孙淑娟在我之前的博客中,我们已经了解了如何使用因果树来评估政策的异质处理效应。如果你还没有阅读过,我建议你在阅读本文前先读一遍,因为我们在本文中认为你已经了解了此文中的部分与本文相关的内容。为什么是异质处理效应(HTE:heterogenous treatment effects)呢?首先,对异质处理效应的估计允许我们根据它们的预期结果(疾病、公司收入、客户满意度等)选择提供处理(药物、广告、产品等)的用户(患者、用户、客户等)。换句话说,估计HTE有助于我

近年来,基于深度学习的模型在目标检测和图像识别等任务中表现出色。像ImageNet这样具有挑战性的图像分类数据集,包含1000种不同的对象分类,现在一些模型已经超过了人类水平上。但是这些模型依赖于监督训练流程,标记训练数据的可用性对它们有重大影响,并且模型能够检测到的类别也仅限于它们接受训练的类。由于在训练过程中没有足够的标记图像用于所有类,这些模型在现实环境中可能不太有用。并且我们希望的模型能够识别它在训练期间没有见到过的类,因为几乎不可能在所有潜在对象的图像上进行训练。我们将从几个样本中学习

本文讨论使用LazyPredict来创建简单的ML模型。LazyPredict创建机器学习模型的特点是不需要大量的代码,同时在不修改参数的情况下进行多模型拟合,从而在众多模型中选出性能最佳的一个。 摘要本文讨论使用LazyPredict来创建简单的ML模型。LazyPredict创建机器学习模型的特点是不需要大量的代码,同时在不修改参数的情况下进行多模型拟合,从而在众多模型中选出性能最佳的一个。本文包括的内容如下:简介LazyPredict模块的安装在分类模型中实施LazyPredict

译者 | 朱先忠审校 | 孙淑娟引言模型超参数(或模型设置)的优化可能是训练机器学习算法中最重要的一步,因为它可以找到最小化模型损失函数的最佳参数。这一步对于构建不易过拟合的泛化模型也是必不可少的。优化模型超参数的最著名技术是穷举网格搜索和随机网格搜索。在第一种方法中,搜索空间被定义为跨越每个模型超参数的域的网格。通过在网格的每个点上训练模型来获得最优超参数。尽管网格搜索非常容易实现,但它在计算上变得昂贵,尤其是当要优化的变量数量很大时。另一方面,随机网格搜索是一种更快的优化方法,可以提供更好的

本文将详细介绍用来提高机器学习效果的最常见的超参数优化方法。 译者 | 朱先忠审校 | 孙淑娟简介通常,在尝试改进机器学习模型时,人们首先想到的解决方案是添加更多的训练数据。额外的数据通常是有帮助(在某些情况下除外)的,但生成高质量的数据可能非常昂贵。通过使用现有数据获得最佳模型性能,超参数优化可以节省我们的时间和资源。顾名思义,超参数优化是为机器学习模型确定最佳超参数组合以满足优化函数(即,给定研究中的数据集,最大化模型的性能)的过程。换句话说,每个模型都会提供多个有关选项的调整“按钮

实现自我完善的过程是“机器学习”。机器学习是人工智能核心,是使计算机具有智能的根本途径;它使计算机能模拟人的学习行为,自动地通过学习来获取知识和技能,不断改善性能,实现自我完善。机器学习主要研究三方面问题:1、学习机理,人类获取知识、技能和抽象概念的天赋能力;2、学习方法,对生物学习机理进行简化的基础上,用计算的方法进行再现;3、学习系统,能够在一定程度上实现机器学习的系统。


ホットAIツール

Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。

Undress AI Tool
脱衣画像を無料で

Clothoff.io
AI衣類リムーバー

AI Hentai Generator
AIヘンタイを無料で生成します。

人気の記事

ホットツール

SAP NetWeaver Server Adapter for Eclipse
Eclipse を SAP NetWeaver アプリケーション サーバーと統合します。

ZendStudio 13.5.1 Mac
強力な PHP 統合開発環境

MantisBT
Mantis は、製品の欠陥追跡を支援するために設計された、導入が簡単な Web ベースの欠陥追跡ツールです。 PHP、MySQL、Web サーバーが必要です。デモおよびホスティング サービスをチェックしてください。

Safe Exam Browser
Safe Exam Browser は、オンライン試験を安全に受験するための安全なブラウザ環境です。このソフトウェアは、あらゆるコンピュータを安全なワークステーションに変えます。あらゆるユーティリティへのアクセスを制御し、学生が無許可のリソースを使用するのを防ぎます。

SublimeText3 Mac版
神レベルのコード編集ソフト(SublimeText3)

ホットトピック



