雪板:使用雪花
的数据库机器学习传统的机器学习通常涉及将大量数据集从数据库中移动到模型培训环境。 当今的大型数据集越来越效率。 Snowflake Snowpark通过启用数据库处理来解决此问题。 Snowpark直接在Snowflake的云中提供了库和运行时间,以执行代码(Python,Java,Scala),从而最大程度地减少数据移动并增强安全性。
>为什么选择Snowpark?
Snowpark提供了几个关键优势:
- > 内部的处理: 使用您的首选语言操纵和分析雪花数据,而无需数据传输。
- 绩效改进:利用雪花的可扩展体系结构进行高效处理。
- 降低的成本:最大程度地减少基础架构管理开销。
- > 熟悉的工具:与诸如jupyter或vs code(vs code)的现有工具集成,并利用熟悉的库(pandas,scikit-learn,xgboost)。 >
入门:逐步指南
该教程展示了使用Snowpark构建超参数调整的模型。
-
>虚拟环境设置:创建一个conda环境并安装必要的库(>,
)。snowflake-snowpark-python
,pandas
,pyarrow
,numpy
,matplotlib
,seaborn
,ipykernel
, -
数据摄入:导入样本数据(例如,海底钻石数据集)进入雪花表。 (注意:在现实世界中,您通常会使用现有的雪花数据库。)
-
> Snekark Session创建:
>)中。config.py
>使用您的凭据(帐户名,用户名,密码)建立与雪花的连接,将其牢固存储在.gitignore
> file(添加到 >。
-
>数据加载:
使用Snowpark会话访问并将数据加载到Snowpark DataFrame中。
了解Snowpark DataFrames
Snowpark DataFrames懒惰地操作,在将操作转换为优化的SQL查询之前,建立了逻辑的操作表示。这与熊猫的渴望执行形成鲜明对比,尤其是在大型数据集的情况下提供了可观的性能增长。
何时使用Snowpark DataFrames:
to_pandas()
>使用Snowpark DataFrames作为大型数据集,其中将数据传输到本地机器是不切实际的。 对于较小的数据集,熊猫可能就足够了。 该方法允许在Snekpark和Pandas DataFrames之间进行转换。 该方法提供了直接执行SQL查询的替代方法。
Session.sql()
Snowpark DataFrame转换功能:
Snowpark的转换功能(从F
中导入为snowflake.snowpark.functions
)为数据操作提供了强大的接口。 这些函数与.select()
,.filter()
和.with_column()
方法一起使用。
>探索性数据分析(EDA):
可以通过从Snowpark DataFrame,将其转换为Pandas DataFrame,并使用Matplotlib和Seaborn等可视化库来进行EDA进行EDA。 另外,SQL查询可以生成可视化的数据。>
机器学习模型培训:
- >
数据清洁:确保数据类型正确并处理任何预处理需求(例如,重命名列,铸造数据类型,清洁文本功能)。>
-
>预处理:>将雪花ML的与
Pipeline
和OrdinalEncoder
一起使用。 使用StandardScaler
。joblib
保存管道 模型培训:使用预处理数据训练XGBoost模型(
>。 XGBRegressor
random_split()
模型评估:- >使用诸如rmse(
)等指标评估模型。
mean_squared_error
snowflake.ml.modeling.metrics
超参数调整: - 使用
来优化模型超参数。
>RandomizedSearchCV
模型保存: - >使用
类。
推断:Registry
>使用注册表中保存的模型对新数据进行推断。 -
结论:
> Snowpark提供了一种强大而有效的方法来执行数据库内的机器学习。 它的懒惰评估,与熟悉的库集成以及模型注册表使其成为处理大型数据集的宝贵工具。 请记住,请咨询Snowpark API和ML开发人员指南以获取更高级的功能。 >
注意:图像URL从输入中保存。 调整格式以获得更好的可读性和流动性。 保留了技术细节,但是该语言使更广泛的受众更加简洁和访问。
>以上是雪花雪板:全面的介绍的详细内容。更多信息请关注PHP中文网其他相关文章!

聊天机器人诸如Chatgpt之类的聊天机器人举例说明了生成的AI,为项目经理提供了功能强大的工具来简化工作流程并确保项目按计划和预算范围内保持。 但是,在制作正确的提示时有效使用铰链。 精确,细节

定义人工智能(AGI)的挑战是重大的。 AGI进步的主张通常缺乏明确的基准,其定义是针对预定的研究方向而定制的。本文探讨了一种新颖的定义方法

IBM WATSONX.DATA:简化企业AI数据堆栈 IBM将watsonx.data定位为企业的关键平台,旨在加速精确且可扩展的生成AI解决方案。 这是通过简化投诉来实现的

在AI和材料科学领域的突破所推动的机器人技术的快速进步已准备好迎来人类机器人的新时代。 多年来,工业自动化一直是主要重点,但是机器人的功能迅速exp

Netflix 界面十年来最大更新:更智能、更个性化,拥抱多元内容 Netflix 周三宣布对其用户界面进行十年来最大规模的改版,不仅外观焕然一新,还增加了更多关于每个节目的信息,并引入了更智能的 AI 搜索工具,能够理解模糊的概念(例如“氛围”),以及更灵活的结构,以便更好地展示公司在新兴的视频游戏、直播活动、体育赛事和其他新型内容方面的兴趣。 为了紧跟潮流,新的移动端竖屏视频组件将使粉丝更容易滚动浏览预告片和片段,观看完整节目或与他人分享内容。这让人联想起无限滚动且非常成功的短视频网站 Ti

人工智能通用智能(AGI)的讨论日益增多,促使许多人思考当人工智能超越人类智能时会发生什么。这个时刻是近在咫尺还是遥遥无期,取决于你问谁,但我认为这并非我们应该关注的最重要的里程碑。哪些更早的人工智能里程碑会影响到每个人?哪些里程碑已经实现?以下是我认为已经发生的三件事。 人工智能超越人类弱点 在2022年的电影《社交困境》中,人文科技中心(Center for Humane Technology)的崔斯坦·哈里斯指出,人工智能已经超越了人类的弱点。这是什么意思?这意味着人工智能已经能够运用人类

Transunion的首席技术官Ranganath Achanta在2021年末加入公司后加入公司以来,率先进行了重大的技术转变。

建立信任至关重要,对于成功采用业务的AI是至关重要的。 考虑到业务流程中的人类因素,这尤其如此。 像其他任何人一样,员工对AI及其实施引起了人们的关注。 德勤研究人员是SC


热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

Video Face Swap
使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热门文章

热工具

mPDF
mPDF是一个PHP库,可以从UTF-8编码的HTML生成PDF文件。原作者Ian Back编写mPDF以从他的网站上“即时”输出PDF文件,并处理不同的语言。与原始脚本如HTML2FPDF相比,它的速度较慢,并且在使用Unicode字体时生成的文件较大,但支持CSS样式等,并进行了大量增强。支持几乎所有语言,包括RTL(阿拉伯语和希伯来语)和CJK(中日韩)。支持嵌套的块级元素(如P、DIV),

EditPlus 中文破解版
体积小,语法高亮,不支持代码提示功能

SecLists
SecLists是最终安全测试人员的伙伴。它是一个包含各种类型列表的集合,这些列表在安全评估过程中经常使用,都在一个地方。SecLists通过方便地提供安全测试人员可能需要的所有列表,帮助提高安全测试的效率和生产力。列表类型包括用户名、密码、URL、模糊测试有效载荷、敏感数据模式、Web shell等等。测试人员只需将此存储库拉到新的测试机上,他就可以访问到所需的每种类型的列表。

SublimeText3 英文版
推荐:为Win版本,支持代码提示!

PhpStorm Mac 版本
最新(2018.2.1 )专业的PHP集成开发工具