數據科學是數據的研究。它涉及收集,分析和解釋大量信息。數據科學家使用這些信息來做出決策,解決問題並預測未來的趨勢。
數據科學家使用各種工具和技術來分析和解釋複雜的數據集。這有助於企業和組織做出更好的決策。
如果您是從數據科學開始的初學者,那麼在建立適當的數據科學環境方面,您可能會面臨一些挑戰。
以下是建立數據科學環境對初學者可能具有挑戰性的一些原因:
- 軟件安裝:新手通常在安裝必要的軟件(例如編程語言(例如Python或r),庫和工具(例如Jupyter Notebooks或Rstudio))方面很難。
- 了解依賴關係:軟件通常需要其他軟件的特定版本才能正常工作。如果無法正確管理,這可能會令人困惑,並導致錯誤。
- 學習曲線:數據科學涉及學習新技能,包括編程,統計和機器學習。對於初學者來說,這可能是壓倒性的。
- 數據處理:處理數據可能很複雜,尤其是在處理大型或混亂的數據集時。了解如何清潔,存儲和處理數據至關重要,但最初可能很難掌握。
- 版本控制:跟踪代碼和數據的更改很重要,但設置和管理可能很棘手,尤其是對於諸如GIT之類的版本控制系統的人。
- 選擇合適的工具:有許多可用的工具和框架,為特定項目選擇合適的工具可能會使初學者令人生畏。
通過了解這些挑戰,初學者可以更好地準備自己,並尋求正確的資源和支持以克服它們。
對於新的數據科學家來說,最初的障礙可能具有挑戰性,但是隨著持久性和一致的學習,旅程將變得更加順利。
多虧了Canonical的數據科學堆棧(DSS) ,現在設置數據科學變得更加容易。在本教程中,我們將討論什麼是數據科學堆棧,以及如何在Ubuntu操作系統中輕鬆快速地設置數據科學環境。
目錄
什麼是數據科學堆棧(DSS)?
Canonical的數據科學堆棧(DSS)是數據科學家和機器學習工程師的開箱即用解決方案。
數據科學堆棧通過提供預先配置的環境,包括所有必要的工具和庫,用於機器學習和數據分析,從而簡化了設置過程。
通過設計用於在Ubuntu工作站上運行並優化GPU的使用,DSS可以增強機器學習模型的性能,這對計算密集型任務特別有益。
DSS允許用戶更多地關注其模型的開發和優化,而不是環境設置的技術。
這可以節省大量時間,否則將花費在安裝和配置各個組件上。
數據科學堆棧中包括什麼?
數據科學堆棧(DSS)為數據科學家和機器學習工程師提供了一個全面而整合的環境。這是它提供的:
- 預安裝的工具:DSS包括流行的開源工具,例如Microk8s , Jupyterlab和MLFlow ,這對於數據探索,模型開發和實驗跟踪至關重要。
- 機器學習框架:默認情況下,它具有兩個廣泛使用的機器學習框架, Pytorch和Tensorflow ,它們可以用於建築和培訓模型。
- 命令行接口(CLI) :DSS提供了一種直觀的CLI,用於部署這些工具和框架,從而更容易管理和擴展環境。
- 用戶界面:部署後,用戶可以訪問工具的UI,以便在無需手動設置的情況下開始從事其數據科學項目。
- 包裝依賴性:DSS處理包裝依賴性,以確保所有工具,庫和框架彼此兼容並順利進行。
- 硬件兼容性:它旨在與機器的硬件兼容,優化工具和框架的性能
- 簡化的配置:傳統上,在工作站上設置機器學習環境可能很複雜且難以逆轉。 DSS通過提供有效利用工作站的GPU的可訪問,可訪問,隔離和可重現的ML環境來解決這一問題。
- GPU配置:DSS通過包括GPU操作員來簡化GPU配置,該操作員管理GPU用於機器學習任務的設置和使用,從而有效利用其計算能力。
總體而言,DSS旨在為數據科學和機器學習提供無憂且優化的環境,使用戶可以專注於其核心任務,而不是技術設置和維護其工具。
在Ubuntu安裝數據科學堆棧(DSS)
要開始使用數據科學堆棧(DSS)進行機器學習和數據科學,請按照以下步驟設置您的環境:
先決條件
- 操作系統:確保您的系統上安裝了Ubuntu 22.04 LTS或Ubuntu 24.04 LTS。
- Internet連接:您需要一個主動的Internet連接才能下載並安裝必要的軟件。
- SNAP :確保在系統上安裝了SNAP,因為安裝Microk8和DSS所需。
設置Microk8
DSS使用Microk8作為其容器編排系統,允許工作負載訪問主機的GPU。
要在Ubuntu上安裝Microk8,請運行:
$ sudo snap安裝microk8s - 渠道1.28/穩定 - 經典
接下來,啟用所需的服務:
$ sudo microk8s啟用存儲DNS RBAC
安裝DSS CLI
數據科學堆棧通過命令行接口(CLI)管理。
使用以下命令安裝DSS CLI:
$ sudo snap install data-science-stack-通道最新/穩定
完成這些步驟後,您將安裝DSS的基礎組件並準備使用。現在,您可以繼續設置機器學習環境,並開始使用DSS CLI開始運行第一筆筆記本。
數據科學堆棧開始
安裝Microk8和DSS CLI後,下一步是在Microk8s頂部初始化DSS並準備MLFLOW以供使用。
初始化DSS和MLFLOW
要初始化DSS,您需要使用THEDSS InitializeCommand,該啟動量可以在Microk8s群集中設置必要的資源。
$ DSS初始化-kubeconfig =“ $(sudo microk8s config)”
- kubeconfigflag用於指定Microk8S生成的Kubernetes配置文件的路徑。
DSS初始化命令可能需要幾分鐘才能完成。在此期間,DSS CLI將顯示表示部署進度的消息。您會看到類似於以下信息的消息:
[INFO]等待命名空間DSS中的部署my-Tensorflow-Notebook準備就緒...
此消息表明,DSS正在等待TensorFlow筆記本電腦的部署準備就緒。在系統設置環境並確保正確配置所有組件的情況下,請耐心等待。
初始化完成後,您將看到下面的輸出:
[info]執行初始化命令 [info]存儲提供kubeconfig到/home/ostechnix/snap/data-science-stack/16/.dsss/config [INFO]等待命名空間DSS中的部署MLFlow準備就緒... [info]命名空間DSS中的部署MLFLOF已準備就緒 [INFO] DSS初始化。要創建第一個筆記本電腦運行命令: DSS創建 示例: DSS創建mynotebook -image = pytorch DSS創建mynotebook -image = kubeflownotebookswg/jupyter-scipy:v1.8.0
現在,您將準備開始使用MLFlow跟踪服務器和DSS提供的其他組件。
然後,您可以繼續在DSS環境中創建並運行第一個機器學習筆記本。
開始您的第一本Jupyter筆記本
要使用數據科學堆棧(DSS)啟動第一個Jupyter筆記本,您需要使用Thedss CreateCommand,這使您可以指定要創建的筆記本的類型。
在這裡,我們正在創建一個帶有CUDA支持的tensorflow筆記本,名為My-Tensorflow-Notebook:
$ dss創建my-tensorflow-notebook -image = kubeflownotebookswg/jupyter-tensorflow-cuda:v1.8.0
成功創建筆記本後,您將看到下面的輸出:
[info]執行創建命令 [INFO] Waiting for deployment my-tensorflow-notebook in namespace dss to be ready... [INFO]等待命名空間DSS中的部署my-Tensorflow-Notebook準備就緒... [INFO]等待命名空間DSS中的部署my-Tensorflow-Notebook準備就緒... [info]命名空間DSS中的部署my-tensorflow notebook已準備就緒 [INFO]成功:筆記本My-Tensorflow-Notebook成功創建了。 [INFO]訪問筆記本,請訪問http://10.152.183.253:80。
筆記本準備好後,該命令顯示一個URL,您可以使用該URL訪問Jupyterlab UI。
要開始使用筆記本電腦,請打開Web瀏覽器,然後將提供的URL輸入地址欄。
如您在上面的輸出中看到的那樣,我們可以從Web瀏覽器訪問http://10.152.183.253:80的新創建的筆記本。用您自己的URL替換URL。
這將帶您進入Jupyterlab接口,您可以在其中創建新筆記本電腦,上傳數據並使用TensorFlow和CUDA開始機器學習任務。
請記住,URL中的IP地址和端口號可能會根據您的特定設置而有所不同。
就是這樣。您現在可以開始與筆記本互動。
查看DSS狀態
要快速檢查您的數據科學堆棧(DSS)環境的狀態,包括MLFLOW的狀態和GPU加速度的可用性,您可以使用如下所示。
$ DSS狀態
THEDSS STATUCMAND將為您提供DSS環境當前狀態的摘要。這是輸出外觀的示例:
[INFO] MLFLOW部署:準備就緒 [info] mlflow URL:http://10.152.183.157:5000 [INFO] GPU加速度:禁用
輸出的說明:
- MLFLOW部署:Ready表示MLFlow跟踪服務器正在啟動並運行。
- MLFlow URL提供了您可以在其中訪問MLFlow UI以跟踪機器學習實驗的URL。
- GPU加速度:禁用表明,在當前DSS環境中沒有可用或配置的GPU。
要驗證,請從Web瀏覽器打開MLFLOW URL http://10.152.183.157:5000。
這將打開Web瀏覽器中的MLFlow儀表板。
MLFlow儀表板中的實驗選項卡:
由於這是我們的新裝置,因此還沒有實驗。為了創建實驗,請使用MLFlow實驗CLI。
MLFlow儀表板中的模型選項卡:
列表DSS命令
要查看數據科學堆棧(DSS)的可用命令列表,您可以將DSS命令與-HELP選項一起使用。
在您的終端中運行以下命令:
$ dss-螺旋
這將顯示命令列表以及其目的的簡要說明。
如果您需要有關特定DSS命令的更多詳細信息,則可以使用命令,然後使用-HELP選項。
例如,要獲取有關初始化命令的詳細信息,您將運行:
$ DSS日誌 - 螺旋
從microk8s中刪除數據科學堆棧
如果您不再需要DSS,則可以使用DSS Purge命令從Microk8s群集中刪除數據科學堆棧。
要刪除DSS,請在您的終端中執行以下命令:
$ DSS清除
該命令將完全刪除所有DSS組件,包括Jupyter筆記本電腦,MLFLOW服務器以及DSS環境中存儲的任何數據。
重要的是要注意,此操作是不可逆轉的,並且DSS環境中的所有數據將永久丟失。在進行清除之前,請確保備份任何重要數據。
刪除DSS CLI和MICROK8S
當DSS Purge命令從Microk8s群集中刪除DSS組件時,它不會刪除DSS CLI或Microk8s群集本身。如果您也想刪除這些內容,則需要刪除它們各自的快照:
要刪除DSS CLI,請使用以下命令:
$ sudo snap刪除數據科學堆棧
要刪除microk8s,請使用以下命令:
$ sudo snap刪除microk8s
通過遵循以下步驟,您可以從系統中完全刪除數據科學堆棧(DSS)及其相關組件。
常見問題(常見問題解答)
問:什麼是數據科學堆棧(DSS)?答:數據科學堆棧(DSS)是一個用於機器學習和數據科學的全面,現成的環境。它旨在簡化數據科學工具和框架的設置和管理,使用戶可以專注於其核心任務,而不是環境配置的複雜性。
問:DSS中包含哪些工具?答:DSS包括各種開源工具,例如Jupyter筆記本,MLFLOW和流行的機器學習框架,例如Tensorflow和Pytorch。它還提供了一個容器編排系統Microk8s,用於管理工作負載。
問:如何安裝DSS?答:要安裝DSS,您需要使用Ubuntu 22.04 LTS或Ubuntu 24.04 LTS,Internet連接並安裝了SNAP。然後,您可以使用SNAP命令安裝Microk8和DSS CLI。有關詳細說明,請參閱《官方文檔或安裝指南》。
問:如何使用DSS啟動jupyter筆記本?答:您可以使用DSS Create命令啟動帶有DSS的Jupyter筆記本,為筆記本指定所需的圖像。例如,要啟動TensorFlow筆記本電腦,您將使用DSS創建My-TensorFlow-Notebook -image = KubeFlownoteBookswg/jupyter-tensorflow-cuda:v1.8.0。
問:DSS狀態命令的目的是什麼?答:DSS狀態命令可快速概述DSS環境的當前狀態,包括MLFLOW的狀態和GPU加速度的可用性。它可以幫助您驗證所有組件的運行正確。
問:如何從環境中刪除DSS?答:要刪除DSS,您可以使用DSS Purge命令,該命令將刪除所有DSS組件,包括Jupyter Notebooks和MLFlow服務器。請注意,此操作是不可逆轉的,將導致DSS環境中所有數據的丟失。
問:在哪裡可以找到有關DSS命令的更多信息?答:您可以通過使用DSS -HELP命令來列出所有可用命令和DSS
是的,DSS基於開源工具,可以免費使用。
問:DSS適合數據科學的初學者?答:是的,DSS的設計為用戶友好,可以成為初學者的好工具,因為它降低了設置數據科學環境的複雜性。它提供了現成的優化環境,使用戶可以快速開始從事數據科學項目。
結論
總之,數據科學堆棧(DSS)簡化了數據科學任務的設置。它提供了一系列工具,可以很好地合作,從而更容易快速啟動項目。
無論您是數據科學的新手還是經驗豐富,DSS都可以通過處理技術設置來幫助您專注於工作。這是一個可靠的工具,支持有效的數據分析和模型構建。
資源:
- 數據科學堆棧(DSS)文檔
相關閱讀:
- 如何在Linux上安裝Anaconda
- 如何在Linux中安裝Miniconda
以上是規範啟動為ML初學者的數據科學堆棧的詳細內容。更多資訊請關注PHP中文網其他相關文章!

在我們的尷尬系列的第六部分中,我們將探索下一個命令,該命令可以通過跳過冗餘處理步驟來提高腳本執行的效率。下一個命令是什麼? awk instruc中的下一個命令

在Linux系統中傳輸文件是一項常見任務,每個系統管理員都應掌握,尤其是涉及本地或遠程系統間的網絡傳輸。 Linux提供了兩種常用的工具來完成此任務:SCP(安全複製)和Rsync。兩者都提供了一種安全且便捷的方式,用於在本地或遠程機器之間傳輸文件。本文將詳細介紹如何使用SCP和Rsync命令來傳輸文件,包括本地和遠程文件傳輸。了解Linux中的scp(安全複製協議)scp命令是一個命令行程序,用於在兩個主機之間通過SSH(安全 Shell)安全地複製文件和目錄,這意味著在文件通過互聯網傳輸時,數

與Windows和Mac OS X相比,Linux的一個引人入勝的功能是對各種桌面環境的支持。這使桌面用戶可以根據其計算要求選擇最合適且最合適的桌面環境。 A

Libreoffice脫穎而出,是一個健壯的開源辦公室套件,適用於Linux,Windows和Mac平台。它擁有一系列用於處理Word文檔,電子表格,演示,圖紙,計算和Mathematica的高級功能

在AWK命令系列的較早部分中,我們的重點主要是從文件中讀取輸入。但是,如果您需要從stdin中讀取輸入怎麼辦?在Awk系列的第7部分中,我們將探索幾個示例,您可以在其中使用O的OF O的輸出。

Clifm是一個獨特而令人難以置信的迅速命令行文件管理器,在類似殼的界面的基礎上設計。這意味著用戶可以使用他們已經熟悉的命令與他們的文件系統互動。

如果您不想執行Linux Mint 22 Wilma的新安裝,則可以選擇從以前的版本中升級。在本指南中,我們將詳細介紹從Linux Mint 21.3升級的過程(21.x系列的最新次要版本


熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

MantisBT
Mantis是一個易於部署的基於Web的缺陷追蹤工具,用於幫助產品缺陷追蹤。它需要PHP、MySQL和一個Web伺服器。請查看我們的演示和託管服務。

DVWA
Damn Vulnerable Web App (DVWA) 是一個PHP/MySQL的Web應用程序,非常容易受到攻擊。它的主要目標是成為安全專業人員在合法環境中測試自己的技能和工具的輔助工具,幫助Web開發人員更好地理解保護網路應用程式的過程,並幫助教師/學生在課堂環境中教授/學習Web應用程式安全性。 DVWA的目標是透過簡單直接的介面練習一些最常見的Web漏洞,難度各不相同。請注意,該軟體中

SAP NetWeaver Server Adapter for Eclipse
將Eclipse與SAP NetWeaver應用伺服器整合。

Safe Exam Browser
Safe Exam Browser是一個安全的瀏覽器環境,安全地進行線上考試。該軟體將任何電腦變成一個安全的工作站。它控制對任何實用工具的訪問,並防止學生使用未經授權的資源。

SecLists
SecLists是最終安全測試人員的伙伴。它是一個包含各種類型清單的集合,這些清單在安全評估過程中經常使用,而且都在一個地方。 SecLists透過方便地提供安全測試人員可能需要的所有列表,幫助提高安全測試的效率和生產力。清單類型包括使用者名稱、密碼、URL、模糊測試有效載荷、敏感資料模式、Web shell等等。測試人員只需將此儲存庫拉到新的測試機上,他就可以存取所需的每種類型的清單。