雪板:使用雪花
的數據庫機器學習傳統的機器學習通常涉及將大量數據集從數據庫中移動到模型培訓環境。 當今的大型數據集越來越效率。 Snowflake Snowpark通過啟用數據庫處理來解決此問題。 Snowpark直接在Snowflake的雲中提供了庫和運行時間,以執行代碼(Python,Java,Scala),從而最大程度地減少數據移動並增強安全性。
>為什麼選擇Snowpark?
Snowpark提供了幾個關鍵優勢:
- > 內部的處理: 使用您的首選語言操縱和分析雪花數據,而無需數據傳輸。
- 績效改進:利用雪花的可擴展體系結構進行高效處理。
- 降低的成本:最大程度地減少基礎架構管理開銷。
- > 熟悉的工具:與諸如jupyter或vs code(vs code)的現有工具集成,並利用熟悉的庫(pandas,scikit-learn,xgboost)。 >
入門:逐步指南
該教程展示了使用Snowpark構建超參數調整的模型。
-
>虛擬環境設置:創建一個conda環境並安裝必要的庫(>,
)。snowflake-snowpark-python
,pandas
,pyarrow
,numpy
,matplotlib
,seaborn
,ipykernel
, -
數據攝入:導入樣本數據(例如,海底鑽石數據集)進入雪花表。 (注意:在現實世界中,您通常會使用現有的雪花數據庫。)
-
> Snekark Session創建:
>)中。config.py
>使用您的憑據(帳戶名,用戶名,密碼)建立與雪花的連接,將其牢固存儲在.gitignore
> file(添加到 >。
-
>數據加載:
使用Snowpark會話訪問並將數據加載到Snowpark DataFrame中。
了解Snowpark DataFrames
Snowpark DataFrames懶惰地操作,在將操作轉換為優化的SQL查詢之前,建立了邏輯的操作表示。這與熊貓的渴望執行形成鮮明對比,尤其是在大型數據集的情況下提供了可觀的性能增長。
何時使用Snowpark DataFrames:
to_pandas()
>使用Snowpark DataFrames作為大型數據集,其中將數據傳輸到本地機器是不切實際的。 對於較小的數據集,熊貓可能就足夠了。 該方法允許在Snekpark和Pandas DataFrames之間進行轉換。 該方法提供了直接執行SQL查詢的替代方法。
Session.sql()
Snowpark DataFrame轉換功能:
Snowpark的轉換功能(從F
中導入為snowflake.snowpark.functions
)為數據操作提供了強大的接口。 這些函數與.select()
,.filter()
和.with_column()
方法一起使用。
>探索性數據分析(EDA):
可以通過從Snowpark DataFrame,將其轉換為Pandas DataFrame,並使用Matplotlib和Seaborn等可視化庫來進行EDA進行EDA。 另外,SQL查詢可以生成可視化的數據。>
機器學習模型培訓:
- >
數據清潔:確保數據類型正確並處理任何預處理需求(例如,重命名列,鑄造數據類型,清潔文本功能)。 >
-
>預處理:>將雪花ML的與
Pipeline
和OrdinalEncoder
一起使用。 使用StandardScaler
。joblib
保存管道 模型培訓:使用預處理數據訓練XGBoost模型(
>。 XGBRegressor
random_split()
模型評估:- >使用諸如rmse(
)等指標評估模型。
mean_squared_error
snowflake.ml.modeling.metrics
超參數調整: - 使用
來優化模型超參數。
>RandomizedSearchCV
模型保存: - >使用
類。
推斷:Registry
>使用註冊表中保存的模型對新數據進行推斷。 -
結論:
> Snowpark提供了一種強大而有效的方法來執行數據庫內的機器學習。 它的懶惰評估,與熟悉的庫集成以及模型註冊表使其成為處理大型數據集的寶貴工具。 請記住,請諮詢Snowpark API和ML開發人員指南以獲取更高級的功能。 >
注意:圖像URL從輸入中保存。 調整格式以獲得更好的可讀性和流動性。 保留了技術細節,但是該語言使更廣泛的受眾更加簡潔和訪問。
>以上是雪花雪板:全面的介紹的詳細內容。更多資訊請關注PHP中文網其他相關文章!

法律技術革命正在獲得動力,促使法律專業人員積極採用AI解決方案。 對於那些旨在保持競爭力的人來說,被動抵抗不再是可行的選擇。 為什麼技術採用至關重要? 法律專業人員

許多人認為與AI的互動是匿名的,與人類交流形成了鮮明的對比。 但是,AI在每次聊天期間都會積極介紹用戶。 每個單詞的每個提示都經過分析和分類。讓我們探索AI Revo的這一關鍵方面

成功的人工智能戰略,離不開強大的企業文化支撐。正如彼得·德魯克所言,企業運作依賴於人,人工智能的成功也同樣如此。 對於積極擁抱人工智能的組織而言,構建適應AI的企業文化至關重要,它甚至決定著AI戰略的成敗。 西蒙諾諮詢公司(West Monroe)近期發布了構建蓬勃發展的AI友好型企業文化的實用指南,以下是一些關鍵要點: 1. 明確AI的成功模式: 首先,要對AI如何賦能業務有清晰的願景。理想的AI運作文化,能夠實現人與AI系統之間工作流程的自然融合。 AI擅長某些任務,而人類則擅長創造力、判

Meta升級AI助手應用,可穿戴式AI時代來臨!這款旨在與ChatGPT競爭的應用,提供文本、語音交互、圖像生成和網絡搜索等標準AI功能,但現在首次增加了地理位置功能。這意味著Meta AI在回答你的問題時,知道你的位置和正在查看的內容。它利用你的興趣、位置、個人資料和活動信息,提供最新的情境信息,這在以前是無法實現的。該應用還支持實時翻譯,這徹底改變了Ray-Ban眼鏡上的AI體驗,使其實用性大大提升。 對外國電影徵收關稅是對媒體和文化的赤裸裸的權力行使。如果實施,這將加速向AI和虛擬製作的

人工智能正在徹底改變網絡犯罪領域,這迫使我們必須學習新的防禦技巧。網絡罪犯日益利用深度偽造和智能網絡攻擊等強大的人工智能技術進行欺詐和破壞,其規模前所未有。據報導,87%的全球企業在過去一年中都成為人工智能網絡犯罪的目標。 那麼,我們該如何避免成為這波智能犯罪的受害者呢?讓我們探討如何在個人和組織層面識別風險並採取防護措施。 網絡罪犯如何利用人工智能 隨著技術的進步,犯罪分子不斷尋找新的方法來攻擊個人、企業和政府。人工智能的廣泛應用可能是最新的一個方面,但其潛在危害是前所未有的。 特別是,人工智

最好將人工智能(AI)與人類智力(NI)之間的複雜關係理解為反饋循環。 人類創建AI,對人類活動產生的數據進行培訓,以增強或複制人類能力。 這個AI

Anthropic最近的聲明強調了有關尖端AI模型缺乏了解,引發了專家之間的激烈辯論。 這是一個真正的技術危機,還是僅僅是通往更秘密的道路上的臨時障礙

印度是一個多元化的國家,具有豐富的語言,使整個地區的無縫溝通成為持續的挑戰。但是,Sarvam的Bulbul-V2正在幫助彌合其高級文本到語音(TTS)T


熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

SAP NetWeaver Server Adapter for Eclipse
將Eclipse與SAP NetWeaver應用伺服器整合。

記事本++7.3.1
好用且免費的程式碼編輯器

SecLists
SecLists是最終安全測試人員的伙伴。它是一個包含各種類型清單的集合,這些清單在安全評估過程中經常使用,而且都在一個地方。 SecLists透過方便地提供安全測試人員可能需要的所有列表,幫助提高安全測試的效率和生產力。清單類型包括使用者名稱、密碼、URL、模糊測試有效載荷、敏感資料模式、Web shell等等。測試人員只需將此儲存庫拉到新的測試機上,他就可以存取所需的每種類型的清單。

SublimeText3 Mac版
神級程式碼編輯軟體(SublimeText3)

mPDF
mPDF是一個PHP庫,可以從UTF-8編碼的HTML產生PDF檔案。原作者Ian Back編寫mPDF以從他的網站上「即時」輸出PDF文件,並處理不同的語言。與原始腳本如HTML2FPDF相比,它的速度較慢,並且在使用Unicode字體時產生的檔案較大,但支援CSS樣式等,並進行了大量增強。支援幾乎所有語言,包括RTL(阿拉伯語和希伯來語)和CJK(中日韓)。支援嵌套的區塊級元素(如P、DIV),