搜索
首页Javajava教程AWS SnapStart - 使用 Lambda 层通过 Java 测量冷启动和热启动部分(2)

AWS SnapStart - Part Measuring cold and warm starts with Java using Lambda layer (2)

介绍

在博客文章如何为 Java 21 Lambda 函数创建、发布和使用层中,我们解释了如何使用 Java 21 发布第一个 Lambda 层。在文章中,使用 Lambda 层从 Java 21 开始测量冷热值 (1)我们使用此 Lambda 层创建应用程序,然后在启用 SnapStart 的情况下测量冷启动和热启动时间,启用 SnapStart 并应用 DynamoDB 调用启动优化,并将结果与​​我们的测量结果进行比较,而无需使用 Lambda 层并在 POM 文件中提供所有依赖项我们在使用不同的 Lambda 内存设置从 Java 21 测量冷热启动一文中做到了这一点。在本文中,我们将创建另一个包含所有依赖项的 Lambda 层,并在我们的应用程序中使用该层,进行相同的测量并将结果与​​之前的实验进行比较。

使用具有所有依赖项的 Lambda 层从 Java 21 开始测量冷热值

为了进行探索,我们将使用示例 Lambda 层来创建 Lambda 层,并使用 Java 21 运行时将所有 依赖项打包到该层中:

  • dynamodb
  • 拉姆达
  • apache 客户端
  • aws-lambda-java-core
  • aws-lambda-java-events
  • org-crac
  • slf4j-简单
  • 杰克逊数据格式-xml

我们还将使用示例应用程序。 AWS SAM 模板中基本上定义了 2 个 Lambda 函数,它们都响应 API 网关请求并通过从 DynamoDB 从 API 网关收到的 ID 检索产品。第一个 Lambda 函数 GetProductByIdWithPureJava21LambdaWithAllLayer 可以在有或没有 SnapStart 的情况下使用,第二个 GetProductByIdWithPureJava21LambdaAndPrimingWithAllLayer 使用 SnapStart 和 DynamoDB 请求调用启动。

为了将 Lambda 层与之前为 AWS SAM 模板中的 Lambda 函数创建的所有依赖项一起使用,我们必须向 Lambda 函数添​​加 Layers 参数,如下所示:

    Type: AWS::Serverless::Function
    Properties:
      FunctionName: GetProductByIdWithPureJava21LambdaWithAllLayer
      AutoPublishAlias: liveVersion
      Layers:
        - !Sub arn:aws:lambda:${AWS::Region}:${AWS::AccountId}:layer:aws-pure-java-21-common-lambda-layer:1
      Handler: software.amazonaws.example.product.handler.GetProductByIdHandler::handleRequest

请将层 ARN(包括版本)替换为您自己的,这是发布层命令 (aws lambdapublish-layer-version) 的输出。

在 pom.xml 中,您可以看到 provided 范围内的所有依赖项(通过附加的 Lambda 层)。

以下实验的结果基于重现超过 100 次冷启动和大约 100,000 次热启动,实验运行时间约为 1 小时。为此(以及我上一篇文章中的实验),我使用了负载测试工具嘿,但是您可以使用任何您想要的工具,例如 Serverless-artillery 或 Postman。
我通过为 Lambda 函数提供 1024 MB 内存并通过环境变量传递以下编译选项来运行所有这些实验:JAVA_TOOL_OPTIONS: "-XX:+TieredCompilation -XX:TieredStopAtLevel=1"(不进行分析的客户端编译)。

在下表中,我还将提供不使用 Lambda 层(并在 POM 文件中提供所有依赖项)的测量结果,这是我们在使用不同 Lambda 内存通过 Java 21 测量冷启动和热启动一文中所做的设置和使用普通Lambda层直接进行比较时的测量。
缩写 c 表示冷启动,w 表示热启动。

不使用 SnapStart 的冷 (c) 和热 (w) 启动时间(以毫秒为单位):

Experiment c p50 c p75 c p90 c p99 c p99.9 c max w p50 w p75 w p90 w p99 w p99.9 w max
with all dependencies Lambda Layer 2824.33 2884.24 2963.14 3324.07 3622.44 3625.58 5.50 6.20 7.16 15.50 46.19 1278.41
with common Lambda Layer 3497.91 3597.18 3695.58 3800.47 3908.33 4011.71 5.82 6.72 8.00 17.97 55.48 1709.13
w/o Lambda Layer 3157.6 3213.85 3270.8 3428.2 3601.12 3725.02 5.77 6.50 7.81 20.65 90.20 1423.63

没有启动的 SnapStart 的冷 (c) 和热 (w) 启动时间(以毫秒为单位):

Experiment c p50 c p75 c p90 c p99 c p99.9 c max w p50 w p75 w p90 w p99 w p99.9 w max
with all dependencies Lambda Layer 1706.64 1767.40 1893.59 2314.91 2646.68 2647.33 5.59 6.25 7.21 15.75 48.06 1403.71
with common Lambda Layer 2047.12 2124.24 2439.49 2705.52 2735.43 2831.59 5.68 6.40 7.45 17.06 48.45 2139.74
w/o Lambda Layer 1626.69 1741.10 2040.99 2219.75 2319.54 2321.64 5.64 6.41 7.87 21.40 99.81 1355.09

使用 SnapStart 和 DynamoDB 调用启动冷 (c) 和热 (w) 时间(以毫秒为单位):

Experiment c p50 c p75 c p90 c p99 c p99.9 c max w p50 w p75 w p90 w p99 w p99.9 w max
with all dependencies Lambda Layer 747.47 786.56 932.23 1099.38 1666.18 1666.62 5.42 5.91 7.39 16.39 45.09 574.61
with common Lambda Layer 713.88 766.38 1141.94 1181.41 1214.94 1215.32 5.59 6.30 7.39 16.39 45.09 574.61
w/o Lambda Layer 702.55 759.52 1038.50 1169.66 1179.05 1179.36 5.73 6.51 7.87 21.75 92.19 328.41

结论

在本文中,我们使用具有所有依赖项的 Lambda 层创建了应用程序,然后在未启用 SnapStart 的情况下测量了冷启动和热启动时间,在启用 SnapStart 的情况下还应用了 DynamoDB 调用启动优化,并将结果与​​我们在不使用 Lambda 的情况下的测量结果进行了比较层(并在 POM 文件中提供所有依赖项),这是我们在使用不同 Lambda 内存设置和通用 Lambda 层从 Java 21 测量冷热启动一文中所做的。

即使结果存在一些偏差,但使用具有所有依赖项的 Lambda 层进行多次测量后趋势始终相同:

  • 未启用 SnapStart 时,使用此 Lambda 层的冷启动比不使用 Lambda 层的百分位数高达 p90 的时间低了数百毫秒(这让我感到惊讶)。
  • 启用 SnapStart 但不使用 DynamoDB 请求启动时,冷启动会有所不同,有利于具有所有依赖项的 Lambda 层,或者有利于根本不使用 Lambda 层的 Lambda,具体取决于百分位。
  • 当使用 SnapStart 启动 DynamoDB 请求时,对于高达 p99 的百分位的两种用例,冷启动都很接近,而当使用带有所有依赖项的 Lambda 层时,对于 p99.9 及以上的百分位而言,冷启动的情况更高。 因此,每个用例的结果差异很大。我一直观察到,当使用具有所有依赖项的 Lambda 层时,所有测量的结果范围都相当大(p50 和最大值之间有 800-900ms 的差异),而当根本不使用 Lambda 层时,相同的范围要低得多。
  • 将本文中的测量值与常见 Lambda 层的测量值进行比较时,我们发现,在前 2 个实验中使用 Lambda 层中的所有依赖项(未启用 SnapStart 和启用 SnapStart 但未应用启动)时,冷启动速度较低,反之亦然。当 SnapStart 已启用且 DynamoDB 调用已准备就绪时。
  • 对于所有用例来说,Lambda 函数的热启动/执行时间都非常接近。

因此 Lambda 层的使用(取决于您放置的内容以及作为应用程序中的依赖项提供的内容)会增加一些不可预测性,您应该始终进行自己的测量!

以上是AWS SnapStart - 使用 Lambda 层通过 Java 测量冷启动和热启动部分(2)的详细内容。更多信息请关注PHP中文网其他相关文章!

声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
Java平台独立性:与不同的操作系统的兼容性Java平台独立性:与不同的操作系统的兼容性May 13, 2025 am 12:11 AM

JavaachievesPlatFormIndependencethroughTheJavavIrtualMachine(JVM),允许Codetorunondifferentoperatingsystemsswithoutmodification.thejvmcompilesjavacodeintoplatform-interploplatform-interpectentbybyteentbytybyteentbybytecode,whatittheninternterninterpretsandectectececutesoneonthepecificos,atrafficteyos,Afferctinginginginginginginginginginginginginginginginginginginginginginginginginginginginginginginginginginginginginginginginginginginging

什么功能使Java仍然强大什么功能使Java仍然强大May 13, 2025 am 12:05 AM

JavaispoperfulduetoitsplatFormitiondence,对象与偏见,RichstandardLibrary,PerformanceCapabilities和StrongsecurityFeatures.1)Platform-dimplighandependectionceallowsenceallowsenceallowsenceallowsencationSapplicationStornanyDevicesupportingJava.2)

顶级Java功能:开发人员的综合指南顶级Java功能:开发人员的综合指南May 13, 2025 am 12:04 AM

Java的顶级功能包括:1)面向对象编程,支持多态性,提升代码的灵活性和可维护性;2)异常处理机制,通过try-catch-finally块提高代码的鲁棒性;3)垃圾回收,简化内存管理;4)泛型,增强类型安全性;5)ambda表达式和函数式编程,使代码更简洁和表达性强;6)丰富的标准库,提供优化过的数据结构和算法。

Java真的平台独立吗? '写一次,在任何地方运行”如何起作用Java真的平台独立吗? '写一次,在任何地方运行”如何起作用May 13, 2025 am 12:03 AM

javaisnotirelyPlatemententduetojvmvariationsandnativecodinteintration,butitlargelyupholdsitsitsworapromise.1)javacompilestobytecoderunbythejvm

揭示JVM:您了解Java执行的关键揭示JVM:您了解Java执行的关键May 13, 2025 am 12:02 AM

thejavavirtualmachine(JVM)IsanabtractComputingmachinecrucialforjavaexecutionasitrunsjavabytecode,使“ writeononce,runanywhere”能力

Java仍然是基于新功能的好语言吗?Java仍然是基于新功能的好语言吗?May 12, 2025 am 12:12 AM

Javaremainsagoodlanguageduetoitscontinuousevolutionandrobustecosystem.1)Lambdaexpressionsenhancecodereadabilityandenablefunctionalprogramming.2)Streamsallowforefficientdataprocessing,particularlywithlargedatasets.3)ThemodularsystemintroducedinJava9im

是什么使Java很棒?关键特征和好处是什么使Java很棒?关键特征和好处May 12, 2025 am 12:11 AM

Javaisgreatduetoitsplatformindependence,robustOOPsupport,extensivelibraries,andstrongcommunity.1)PlatformindependenceviaJVMallowscodetorunonvariousplatforms.2)OOPfeatureslikeencapsulation,inheritance,andpolymorphismenablemodularandscalablecode.3)Rich

前5个Java功能:示例和解释前5个Java功能:示例和解释May 12, 2025 am 12:09 AM

Java的五大特色是多态性、Lambda表达式、StreamsAPI、泛型和异常处理。1.多态性让不同类的对象可以作为共同基类的对象使用。2.Lambda表达式使代码更简洁,特别适合处理集合和流。3.StreamsAPI高效处理大数据集,支持声明式操作。4.泛型提供类型安全和重用性,编译时捕获类型错误。5.异常处理帮助优雅处理错误,编写可靠软件。

See all articles

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

Video Face Swap

Video Face Swap

使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热门文章

热工具

WebStorm Mac版

WebStorm Mac版

好用的JavaScript开发工具

EditPlus 中文破解版

EditPlus 中文破解版

体积小,语法高亮,不支持代码提示功能

SecLists

SecLists

SecLists是最终安全测试人员的伙伴。它是一个包含各种类型列表的集合,这些列表在安全评估过程中经常使用,都在一个地方。SecLists通过方便地提供安全测试人员可能需要的所有列表,帮助提高安全测试的效率和生产力。列表类型包括用户名、密码、URL、模糊测试有效载荷、敏感数据模式、Web shell等等。测试人员只需将此存储库拉到新的测试机上,他就可以访问到所需的每种类型的列表。

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

Atom编辑器mac版下载

Atom编辑器mac版下载

最流行的的开源编辑器