ホームページ >バックエンド開発 >Python チュートリアル >Amazon Bedrock Converse API で時間を節約しましょう!

Amazon Bedrock Converse API で時間を節約しましょう!

Linda Hamiltonオリジナル: 2024-12-03 03:40:08236ブラウズ

Bedrock を使用すると、さまざまな大規模な言語モデル (Claude、Mistral、Llama、Amazon Titan など) にアクセスでき、常に新しいバージョンが利用可能になります。

選択肢があるのは素晴らしいことですが、モデルごとにリクエストを別々にコーディングしなければならないのは面倒です。

Amazon Bedrock Converse API が、さまざまな基礎モデルの出力を比較する際に、時間と労力を大幅に節約できる理由は次のとおりです!

一貫性が鍵です！

Converse API は、メッセージ/システムプロンプトをサポートするすべてのモデルで動作する一貫したインターフェイスです。これは、コードを一度作成すれば、それを使用してさまざまなモデルを実験できることを意味します。

これがどのように機能するかの例です。この演習には < の費用がかかります。 $1.

モデルアクセスを構成する

始める前に、使用したいモデルがお住まいの地域で利用可能であること、およびそれらへのアクセスが有効になっていることを必ずご確認ください。ここでは私が使用しているモデルを示します。これらを選択することも、独自のモデルを選択することもできます。 :
anthropic.claude-v2
anthropic.claude-3-haiku
クロード 3.5 ソネット
ミストラル小

Save time with the Amazon Bedrock Converse API!

1) AWS コンソールの CloudShell を使用してすべてを行うことができます。

Save time with the Amazon Bedrock Converse API!

2) CloudShell の準備ができたら、AWS SDK for Python である boto3 をインストールします
pip install boto3

Save time with the Amazon Bedrock Converse API!

3) converse_demo.py という名前のファイルを GitHub からダウンロードします。これは、wget を使用し、ファイルへの生のパスを指定することで実行できます。

wget https://raw.githubusercontent.com/fayekins/demos/refs/heads/main/converse_demo.py

Save time with the Amazon Bedrock Converse API!

converse_demo.py

#first we import boto3 and json 
import boto3, json

#create a boto3 session - stores config state and allows you to create service clients
session = boto3.Session()

#create a Bedrock Runtime Client instance - used to send API calls to AI models in Bedrock
bedrock = session.client(service_name='bedrock-runtime')

#here's our prompt telling the model what we want it to do, we can change this later
system_prompts = [{"text": "You are an app that creates reading lists for book groups."}]

#define an empty message list - to be used to pass the messages to the model
message_list = []

#here’s the message that I want to send to the model, we can change this later if we want
initial_message = {
            "role": "user",
               "content": [{"text": "Create a list of five novels suitable for a book group who are interested in classic novels."}],
               }

#the message above is appended to the message_list
message_list.append(initial_message)

#make an API call to the Bedrock Converse API, we define the model to use, the message, and inference parameters to use as well
response = bedrock.converse(
modelId="anthropic.claude-v2",
messages=message_list,
system=system_prompts,
inferenceConfig={
            "maxTokens": 2048,
            "temperature": 0,
            "topP": 1
            },
)

#invoke converse with all the parameters we provided above and after that, print the result 
response_message = response['output']['message']
print(json.dumps(response_message, indent=4))

4) 次のように Python コードを実行します。