搜索
首页运维Apache介绍一下什么是Apache Flink

介绍一下什么是Apache Flink

Oct 20, 2020 pm 05:10 PM
apache flink

介绍一下什么是Apache Flink

Apache Flink介绍:

Apache Flink 是一个框架和分布式处理引擎,用于在无边界和有边界数据流上进行有状态的计算。Flink 能在所有常见集群环境中运行,并能以内存速度和任意规模进行计算。

(推荐教程:apache

接下来,我们来介绍一下 Flink 架构中的重要方面。

处理无界和有界数据

任何类型的数据都可以形成一种事件流。信用卡交易、传感器测量、机器日志、网站或移动应用程序上的用户交互记录,所有这些数据都形成一种流。

数据可以被作为 无界 或者 有界 流来处理。

1.无界流 有定义流的开始,但没有定义流的结束。它们会无休止地产生数据。无界流的数据必须持续处理,即数据被摄取后需要立刻处理。我们不能等到所有数据都到达再处理,因为输入是无限的,在任何时候输入都不会完成。处理无界数据通常要求以特定顺序摄取事件,例如事件发生的顺序,以便能够推断结果的完整性。

2.有界流 有定义流的开始,也有定义流的结束。有界流可以在摄取所有数据后再进行计算。有界流所有数据可以被排序,所以并不需要有序摄取。有界流处理通常被称为批处理。

c5375108980acbf78c025f4192272fe.png

Apache Flink 擅长处理无界和有界数据集 精确的时间控制和状态化使得 Flink 的运行时(runtime)能够运行任何处理无界流的应用。有界流则由一些专为固定大小数据集特殊设计的算法和数据结构进行内部处理,产生了出色的性能。

通过探索 Flink 之上构建的 用例 来加深理解。

部署应用到任意地方

Apache Flink 是一个分布式系统,它需要计算资源来执行应用程序。Flink 集成了所有常见的集群资源管理器,例如 Hadoop YARN、 Apache Mesos 和 Kubernetes,但同时也可以作为独立集群运行。

Flink 被设计为能够很好地工作在上述每个资源管理器中,这是通过资源管理器特定(resource-manager-specific)的部署模式实现的。Flink 可以采用与当前资源管理器相适应的方式进行交互。

部署 Flink 应用程序时,Flink 会根据应用程序配置的并行性自动标识所需的资源,并从资源管理器请求这些资源。在发生故障的情况下,Flink 通过请求新资源来替换发生故障的容器。提交或控制应用程序的所有通信都是通过 REST 调用进行的,这可以简化 Flink 与各种环境中的集成。

运行任意规模应用

Flink 旨在任意规模上运行有状态流式应用。因此,应用程序被并行化为可能数千个任务,这些任务分布在集群中并发执行。所以应用程序能够充分利用无尽的 CPU、内存、磁盘和网络 IO。而且 Flink 很容易维护非常大的应用程序状态。其异步和增量的检查点算法对处理延迟产生最小的影响,同时保证精确一次状态的一致性。

Flink 用户报告了其生产环境中一些令人印象深刻的扩展性数字

处理每天处理数万亿的事件,应用维护几TB大小的状态, 和应用在数千个内核上运行。

利用内存性能

有状态的 Flink 程序针对本地状态访问进行了优化。任务的状态始终保留在内存中,如果状态大小超过可用内存,则会保存在能高效访问的磁盘数据结构中。任务通过访问本地(通常在内存中)状态来进行所有的计算,从而产生非常低的处理延迟。Flink 通过定期和异步地对本地状态进行持久化存储来保证故障场景下精确一次的状态一致性。

ff72481c9a68f46df6a2058dc916c48.png

以上是介绍一下什么是Apache Flink的详细内容。更多信息请关注PHP中文网其他相关文章!

声明
本文转载于:掘金。如有侵权,请联系admin@php.cn删除
Apache以:关键功能和成就而闻名Apache以:关键功能和成就而闻名Apr 18, 2025 am 12:03 AM

ApacheHTTPServer因其模块化设计、高度可扩展性、安全性和性能优化成为Web服务器领域的领导者。1.模块化设计通过加载不同模块支持各种协议和功能。2.高度可扩展性适应从小型到大型应用的需求。3.安全性通过mod_security和多种认证机制保护网站。4.性能优化通过数据压缩和缓存提升加载速度。

Apache的持久相关性:检查其当前状态Apache的持久相关性:检查其当前状态Apr 17, 2025 am 12:06 AM

ApacheHTTPServer在现代Web环境中依然重要,因为其稳定性、可扩展性和丰富的生态系统。1)稳定性和可靠性使其适用于高可用性环境。2)广泛的生态系统提供丰富的模块和扩展。3)易于配置和管理,即使初学者也能快速上手。

Apache的受欢迎程度:成功的原因Apache的受欢迎程度:成功的原因Apr 16, 2025 am 12:05 AM

Apache成功的原因包括:1)强大的开源社区支持,2)灵活性和可扩展性,3)稳定性和可靠性,4)广泛的应用场景。通过社区的技术支持和共享,Apache提供了灵活的模块化设计和配置选项,确保了其在各种需求下的适应性和稳定性,广泛应用于从个人博客到大型企业网站的不同场景。

Apache的遗产:是什么使它出名?Apache的遗产:是什么使它出名?Apr 15, 2025 am 12:19 AM

Apachebecamefamousduetoitsopen-sourcenature,modulardesign,and strongcommunitysupport.1)ITSOPEN-SOPEN-SOURCEMODELANDELANDPERMISSIVEPEPEPIRENESENESCORENDECERAGEDWIDEDWIDESPREADADOPTION.2)tHEMODECTURALACTARACTIOLARACTURARACTURARACTURARACTURARACTERTURELALARTARACTEXIVEDEDENEXIVECUSTOMASTACTOPATAPATATSICATS.3)

Apache的优势:性能和灵活性Apache的优势:性能和灵活性Apr 14, 2025 am 12:08 AM

Apache的性能和灵活性使其在Web服务器中脱颖而出。1)性能优势体现在高效处理和可扩展性,通过多进程和多线程模型实现。2)灵活性源于模块化设计和配置的灵活性,允许根据需求加载模块并调整服务器行为。

apache80端口被占用怎么办apache80端口被占用怎么办Apr 13, 2025 pm 01:24 PM

当 Apache 80 端口被占用时,解决方法如下:找出占用该端口的进程并关闭它。检查防火墙设置以确保 Apache 未被阻止。如果以上方法无效,请重新配置 Apache 使用不同的端口。重启 Apache 服务。

apache不能启动怎么解决apache不能启动怎么解决Apr 13, 2025 pm 01:21 PM

Apache 无法启动,原因可能有以下几点:配置文件语法错误。与其他应用程序端口冲突。权限问题。内存不足。进程死锁。守护进程故障。SELinux 权限问题。防火墙问题。软件冲突。

apache中cgi目录怎么设置apache中cgi目录怎么设置Apr 13, 2025 pm 01:18 PM

要在 Apache 中设置 CGI 目录,需要执行以下步骤:创建 CGI 目录,如 "cgi-bin",并授予 Apache 写入权限。在 Apache 配置文件中添加 "ScriptAlias" 指令块,将 CGI 目录映射到 "/cgi-bin" URL。重启 Apache。

See all articles

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

AI Hentai Generator

AI Hentai Generator

免费生成ai无尽的。

热门文章

R.E.P.O.能量晶体解释及其做什么(黄色晶体)
1 个月前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.最佳图形设置
1 个月前By尊渡假赌尊渡假赌尊渡假赌
威尔R.E.P.O.有交叉游戏吗?
1 个月前By尊渡假赌尊渡假赌尊渡假赌

热工具

MinGW - 适用于 Windows 的极简 GNU

MinGW - 适用于 Windows 的极简 GNU

这个项目正在迁移到osdn.net/projects/mingw的过程中,你可以继续在那里关注我们。MinGW:GNU编译器集合(GCC)的本地Windows移植版本,可自由分发的导入库和用于构建本地Windows应用程序的头文件;包括对MSVC运行时的扩展,以支持C99功能。MinGW的所有软件都可以在64位Windows平台上运行。

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

WebStorm Mac版

WebStorm Mac版

好用的JavaScript开发工具

Dreamweaver Mac版

Dreamweaver Mac版

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)