AWS SnapStart – Teil Messung von Kalt- und Warmstarts mit Java mithilfe der Lambda-Schicht (2)

Einführung

Im Blogbeitrag So erstellen, veröffentlichen und verwenden Sie Ebenen für Java 21-Lambda-Funktionen haben wir erklärt, wie Sie unsere erste Lambda-Ebene mit Java 21 veröffentlichen. Im Artikel Messung von Kalt- und Warmstarts mit Java 21 mithilfe der Lambda-Ebene (1) Wir haben die Anwendung mit dieser Lambda-Schicht erstellt und dann die Kalt- und Warmstartzeiten ohne aktiviertes SnapStart gemessen, wobei SnapStart aktiviert war, und außerdem die DynamoDB-Aufruf-Priming-Optimierung angewendet und die Ergebnisse mit unseren Messungen verglichen haben, ohne die Lambda-Schichten zu verwenden und alle Abhängigkeiten in der POM-Datei bereitzustellen was wir im Artikel Messung von Kalt- und Warmstarts mit Java 21 unter Verwendung unterschiedlicher Lambda-Speichereinstellungen getan haben. In diesem Artikel erstellen wir eine weitere Lambda-Ebene für alle Abhängigkeiten und verwenden diese Ebene in unserer Anwendung, führen dieselben Messungen durch und vergleichen das Ergebnis mit dem vorherigen Experiment.

Die Messung von Kälte und Wärme beginnt mit Java 21 unter Verwendung der Lambda-Schicht mit allen Abhängigkeiten

Zur Erkundung verwenden wir die Beispiel-Lambda-Ebene zum Erstellen der Lambda-Ebene mit der Java 21-Laufzeitumgebung, um die alle Abhängigkeiten in die Ebene zu packen:

• dynamodb
• Lambda
• Apache-Client
• aws-lambda-java-core
• aws-lambda-java-events
• org-crac
• slf4j-simple
• jackson-dataformat-xml

Wir werden auch die Beispielanwendung verwenden. Grundsätzlich sind in der AWS SAM-Vorlage zwei Lambda-Funktionen definiert, die sowohl auf die API-Gateway-Anfragen reagieren als auch Produkte anhand der ID abrufen, die sie vom API-Gateway von DynamoDB erhalten haben. Eine Lambda-Funktion, GetProductByIdWithPureJava21LambdaWithAllLayer, kann mit und ohne SnapStart verwendet werden, und die zweite, GetProductByIdWithPureJava21LambdaAndPrimingWithAllLayer, verwendet SnapStart und DynamoDB-Anforderungsaufruf-Priming.

Um die Lambda-Ebene mit allen Abhängigkeiten zu verwenden, die zuvor für die Lambda-Funktionen in der AWS SAM-Vorlage erstellt wurden, müssen wir der Lambda-Funktion den Parameter „Layers“ wie folgt hinzufügen:

    Type: AWS::Serverless::Function
    Properties:
      FunctionName: GetProductByIdWithPureJava21LambdaWithAllLayer
      AutoPublishAlias: liveVersion
      Layers:
        - !Sub arn:aws:lambda:${AWS::Region}:${AWS::AccountId}:layer:aws-pure-java-21-common-lambda-layer:1
      Handler: software.amazonaws.example.product.handler.GetProductByIdHandler::handleRequest

Bitte ersetzen Sie den Layer-ARN (einschließlich der Version) durch Ihren eigenen, der die Ausgabe ist, wenn der Befehl „Layer veröffentlichen“ (aws lambda „publish-layer-version“) ausgeführt wird.

In pom.xml sehen Sie alle Abhängigkeiten mit dem bereitgestellten Bereich (von der angehängten Lambda-Ebene).

Die Ergebnisse des folgenden Experiments basierten auf der Reproduktion von mehr als 100 Kalt- und etwa 100.000 Warmstarts mit einem Experiment, das etwa eine Stunde dauerte. Dafür (und Experimente aus meinem vorherigen Artikel) habe ich das Lasttest-Tool verwendet, aber Sie können jedes beliebige Tool verwenden, z. B. Serverless-Artillery oder Postman.
Ich habe alle diese Experimente durchgeführt, indem ich unseren Lambda-Funktionen 1024 MB Speicher gegeben und die folgende Kompilierungsoption über die Umgebungsvariable übergeben habe: JAVA_TOOL_OPTIONS: „-XX:+TieredCompilation -XX:TieredStopAtLevel=1“ (Client-Kompilierung ohne Profilierung).

In den Tabellen unten werde ich auch die Ergebnisse unserer Messungen ohne Verwendung der Lambda-Schichten (und unter Angabe aller Abhängigkeiten in der POM-Datei) bereitstellen, was wir im Artikel Messen von Kalt- und Warmstarts mit Java 21 unter Verwendung unterschiedlichen Lambda-Speichers getan haben Einstellungen und Messungen bei Verwendung einer gemeinsamen Lambda-Schicht, um einen direkten Vergleich zu ermöglichen.
Die Abkürzung c steht für den Kaltstart und w für den Warmstart.

Kaltstartzeiten (c) und Warmstartzeiten (w) ohne SnapStart in ms:

Experiment	c p50	c p75	c p90	c p99	c p99.9	c max	w p50	w p75	w p90	w p99	w p99.9	w max
with all dependencies Lambda Layer	2824.33	2884.24	2963.14	3324.07	3622.44	3625.58	5.50	6.20	7.16	15.50	46.19	1278.41
with common Lambda Layer	3497.91	3597.18	3695.58	3800.47	3908.33	4011.71	5.82	6.72	8.00	17.97	55.48	1709.13
w/o Lambda Layer	3157.6	3213.85	3270.8	3428.2	3601.12	3725.02	5.77	6.50	7.81	20.65	90.20	1423.63

Kalt- (c) und Warmstartzeiten (w) mit SnapStart ohne Grundierung in ms:

Experiment	c p50	c p75	c p90	c p99	c p99.9	c max	w p50	w p75	w p90	w p99	w p99.9	w max
with all dependencies Lambda Layer	1706.64	1767.40	1893.59	2314.91	2646.68	2647.33	5.59	6.25	7.21	15.75	48.06	1403.71
with common Lambda Layer	2047.12	2124.24	2439.49	2705.52	2735.43	2831.59	5.68	6.40	7.45	17.06	48.45	2139.74
w/o Lambda Layer	1626.69	1741.10	2040.99	2219.75	2319.54	2321.64	5.64	6.41	7.87	21.40	99.81	1355.09

Kalte (c) und warme (w) Startzeiten mit SnapStart und mit DynamoDB-Aufruf Priming in ms:

Experiment	c p50	c p75	c p90	c p99	c p99.9	c max	w p50	w p75	w p90	w p99	w p99.9	w max
with all dependencies Lambda Layer	747.47	786.56	932.23	1099.38	1666.18	1666.62	5.42	5.91	7.39	16.39	45.09	574.61
with common Lambda Layer	713.88	766.38	1141.94	1181.41	1214.94	1215.32	5.59	6.30	7.39	16.39	45.09	574.61
w/o Lambda Layer	702.55	759.52	1038.50	1169.66	1179.05	1179.36	5.73	6.51	7.87	21.75	92.19	328.41

Abschluss

In diesem Artikel haben wir die Anwendung mithilfe der Lambda-Schicht mit allen Abhängigkeiten erstellt und dann Kalt- und Warmstartzeiten ohne aktiviertes SnapStart gemessen, wobei SnapStart aktiviert war, und außerdem die DynamoDB-Aufruf-Priming-Optimierung angewendet und die Ergebnisse mit unseren Messungen ohne Verwendung von Lambda verglichen Schichten (und Bereitstellung aller Abhängigkeiten in der POM-Datei), was wir im Artikel Messen von Kalt- und Warmstarts mit Java 21 unter Verwendung verschiedener Lambda-Speichereinstellungen und Verwendung einer gemeinsamen Lambda-Schicht getan haben.

Auch wenn ich einige Abweichungen in den Ergebnissen hatte, war der Trend nach mehreren Messungen mit der Lambda-Schicht mit allen Abhängigkeiten immer derselbe:

• Wenn SnapStart nicht aktiviert war, war der Kaltstart mit dieser Lambda-Schicht bis zu mehreren hundert Millisekunden kürzer als ohne Verwendung der Lambda-Schicht für Perzentile bis p90 (was mich überrascht hat).
• Wenn SnapStart aktiviert wurde, aber kein Priming der DynamoDB-Anfrage verwendet wurde, variierten die Kaltstarts je nach Perzentil zugunsten der Lambda-Schicht mit allen Abhängigkeiten oder zugunsten der Lambda, die überhaupt keine Lambda-Schichten verwendet.
• Bei Verwendung von SnapStart mit Priming der DynamoDB-Anfrage waren die Kaltstarts für beide Anwendungsfälle für Perzentile bis p99 und dann höher für p99.9 und höher bei Verwendung der Lambda-Ebene mit allen Abhängigkeiten ähnlich. Daher waren die Ergebnisse für jeden Anwendungsfall sehr unterschiedlich. Was mir immer aufgefallen ist, ist, dass der Ergebnisbereich für alle Messungen ziemlich groß war (800-900 ms Unterschied zwischen p50- und Max-Werten), wenn die Lambda-Schicht mit allen Abhängigkeiten verwendet wurde, und dass derselbe Bereich viel geringer war, wenn überhaupt keine Lambda-Schichten verwendet wurden.
• Wenn wir die Messungen in diesem Artikel mit Messungen mit der üblichen Lambda-Schicht vergleichen, stellen wir fest, dass wir durch die Verwendung aller Abhängigkeiten in den Lambda-Schichten für die ersten beiden Experimente (kein SnapStart aktiviert und SnapStart aktiviert, aber keine Grundierung angewendet) weniger Kaltstarts erzielten und umgekehrt wenn SnapStart aktiviert ist und der DynamoDB-Aufruf vorbereitet ist.
• Die Warmstart-/Ausführungszeiten der Lambda-Funktion lagen für alle Anwendungsfälle recht nahe beieinander.

Die Verwendung der Lambda-Ebenen (je nachdem, was Sie dort einfügen und was Sie als Abhängigkeit in Ihrer Anwendung bereitstellen) führt zu einer gewissen Unvorhersehbarkeit und Sie sollten immer Ihre eigenen Messungen durchführen!

Das obige ist der detaillierte Inhalt vonAWS SnapStart – Teil Messung von Kalt- und Warmstarts mit Java mithilfe der Lambda-Schicht (2). Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!