首页 >后端开发 >Python教程 >使用 Amazon Bedrock Converse API 节省时间！

使用 Amazon Bedrock Converse API 节省时间！

Linda Hamilton原创: 2024-12-03 03:40:08267浏览

通过 Bedrock，您可以访问一系列不同的大型语言模型（例如 Claude、Mistral、Llama 和 Amazon Titan），并且随时都有新版本可用。

有选择固然很棒，但必须为每个模型编写不同的请求代码却很痛苦。

这就是为什么在比较不同基础模型的输出时，Amazon Bedrock Converse API 将为您节省大量时间和精力！

一致性是关键！

Converse API 是一个一致的接口，适用于所有支持消息/系统提示的模型。这意味着您只需编写一次代码，即可用它来试验不同的模型。

这是一个说明其工作原理的示例，此练习的成本应

配置模型访问

开始之前，请务必检查您想要使用的模型在您所在的地区是否可用，并且您已启用对它们的访问，这是我正在使用的模型，您可以选择这些模型或选择您自己的模型：
anthropic.claude-v2
anthropic.claude-3-俳句
克劳德 3.5 十四行诗
小米斯特拉尔

Save time with the Amazon Bedrock Converse API!

1) 我们可以使用 AWS 控制台中的 CloudShell 完成所有操作。

Save time with the Amazon Bedrock Converse API!

2) 当 CloudShell 准备就绪后，安装 boto3，它是适用于 Python 的 AWS 开发工具包
pip 安装 boto3

Save time with the Amazon Bedrock Converse API!

3) 从 GitHub 下载名为 converse_demo.py 的文件您可以使用 wget 并提供文件的原始路径来执行此操作：

wget https://raw.githubusercontent.com/fayekins/demos/refs/heads/main/converse_demo.py

Save time with the Amazon Bedrock Converse API!

converse_demo.py

#first we import boto3 and json 
import boto3, json

#create a boto3 session - stores config state and allows you to create service clients
session = boto3.Session()

#create a Bedrock Runtime Client instance - used to send API calls to AI models in Bedrock
bedrock = session.client(service_name='bedrock-runtime')

#here's our prompt telling the model what we want it to do, we can change this later
system_prompts = [{"text": "You are an app that creates reading lists for book groups."}]

#define an empty message list - to be used to pass the messages to the model
message_list = []

#here’s the message that I want to send to the model, we can change this later if we want
initial_message = {
            "role": "user",
               "content": [{"text": "Create a list of five novels suitable for a book group who are interested in classic novels."}],
               }

#the message above is appended to the message_list
message_list.append(initial_message)

#make an API call to the Bedrock Converse API, we define the model to use, the message, and inference parameters to use as well
response = bedrock.converse(
modelId="anthropic.claude-v2",
messages=message_list,
system=system_prompts,
inferenceConfig={
            "maxTokens": 2048,
            "temperature": 0,
            "topP": 1
            },
)

#invoke converse with all the parameters we provided above and after that, print the result 
response_message = response['output']['message']
print(json.dumps(response_message, indent=4))

4) 像这样运行Python代码：