Model Amazon Nova: Panduan dengan Contoh

Amazon telah melancarkan generasi baru suite model asas canggih yang direka untuk membolehkan penggunaan kos efektif dan berskala besar. Nova kini menyertai ekosistem LLM Amazon, diintegrasikan ke dalam perkhidmatan Amazon Bedrock, dan menyokong pelbagai mod seperti teks, imej dan generasi video.

Artikel ini akan menggariskan model Amazon Nova yang baru, menerangkan bagaimana untuk mengaksesnya melalui perkhidmatan batuan dasar, menyerlahkan keupayaan dan faedah setiap model, dan menunjukkan aplikasi praktikalnya, termasuk integrasi ke dalam aplikasi multi-agen.

Apakah model Amazon Nova?

Model Nova Amazon adalah model asas yang sangat dinanti -nantikan melalui Perkhidmatan Amazon Bedrock. Mereka direka untuk pelbagai aplikasi, termasuk kos rendah, pemikiran cepat, pemahaman multimedia, dan penjanaan kandungan kreatif. Mari kita meneroka setiap model.

Amazon Nova Micro

Model terpantas dalam siri ini dengan kelajuan tertinggi dan kos pengkomputeran yang rendah. Bagi aplikasi yang memerlukan generasi cepat, teks sahaja, mikro adalah yang terbaik dengan kelajuan kesimpulan sebanyak 200 token sesaat.

Beberapa aplikasi terbaik Micro termasuk analisis masa nyata, chatbots interaktif, dan perkhidmatan penjanaan teks tinggi.

penanda aras mikro Nova. (Sumber: Amazon)

Amazon Nova Lite

Ahli multimodal yang kos efektif dari keluarga Nova, Lite menyerang keseimbangan yang baik antara kelajuan dan ketepatan yang tinggi merentasi pelbagai tugas, terutamanya dalam tugas kesimpulan dan terjemahan berbanding dengan produk yang serupa seperti GPT-4O atau LLAMA.

Ia boleh mengendalikan sejumlah besar permintaan dengan cekap sambil mengekalkan ketepatan yang tinggi. Untuk aplikasi di mana kelajuan sangat penting dan memerlukan model yang boleh mengendalikan pelbagai modaliti, Lite mungkin pilihan terbaik.

penanda aras Nova Lite. (Sumber: Amazon)

Amazon Nova Pro

Model yang paling maju untuk pemprosesan teks dalam keluarga Nova, Nova Pro menyediakan ketepatan yang mengagumkan manakala pada kos pengiraan yang agak rendah berbanding dengan model dengan keupayaan yang sama.

Menurut Amazon, Nova Pro sangat sesuai untuk aplikasi seperti ringkasan video, soalan dan jawapan, penalaran matematik, pembangunan perisian, dan agen AI yang boleh melakukan aliran kerja pelbagai langkah. Seperti model Micro dan Lite, Nova Pro kini menyokong penalaan halus.

penanda aras Nova Pro. (Sumber: Amazon)

Amazon Nova Premier

Model multimodal yang paling kuat dalam siri ini, yang dijangka akan dilancarkan pada awal 2025, dijangka menjadi versi yang dinaik taraf model Pro.

Amazon Nova Canvas

kanvas adalah penyelesaian generasi imej Nova. Ia boleh menjana imej berkualiti tinggi, skema warna dan gaya kawalan, dan menyediakan ciri-ciri seperti pembaikan, imej lanjutan, penukaran gaya dan penyingkiran latar belakang. Model ini nampaknya sangat berkesan untuk mencipta imej pemasaran, mockups produk, dan banyak lagi.

Amazon Nova Reel

Nova Reel adalah model penjanaan video yang direka untuk menyediakan output video yang berkualiti tinggi dan mudah untuk menyesuaikan. Nova Reel membolehkan pengguna membuat dan mengawal gaya visual, irama, dan pergerakan kamera dalam video. Seperti model Nova yang lain, Reel dilengkapi dengan kawalan keselamatan terbina dalam untuk penjanaan kandungan yang konsisten.

Bagaimana Amazon Nova Reel mengakses model Amazon Nova melalui Amazon Bedrock Playground

Anda boleh menggunakan taman permainan Amazon Bedrock untuk menguji dan membandingkan pelbagai model dengan antara muka pengguna yang sedia digunakan.

Saya menganggap anda telah mengkonfigurasi Amazon CLI dan Bedrock dan tersedia. Jika tidak, anda boleh merujuk kepada tutorial saya mengenai Penyelaras Multi-Agen AWS, di mana saya terperinci langkah-langkah untuk menubuhkan persekitaran menggunakan model yang disediakan oleh perkhidmatan Bedrock. Di samping itu, pos blog Nils Durner menyediakan tangkapan skrin langkah demi langkah yang membimbing anda melalui proses menubuhkan perkhidmatan batuan dasar anda.

Amazon Bedrock Playground

Apabila membandingkan Nova Micro dan Pro, saya perhatikan bahawa jurang ketepatan antara kedua -dua model tidak jelas. Walaupun mikro lebih daripada dua kali lebih cepat sebagai pro, ia memberikan jawapan yang cukup untuk kes -kes penggunaan yang paling kerap. Sebaliknya, Pro cenderung menghasilkan respons yang lebih terperinci dan lebih panjang.

Cara Mengakses Model Amazon Nova melalui Amazon Bedrock Api

Untuk menggunakan model Nova melalui API dan mengintegrasikannya ke dalam kod anda, mula -mula pastikan akaun AWS anda, AWS CLI, dan akses kepada model disediakan dengan betul (dokumentasi menyediakan panduan untuk ini).

Seterusnya, pasang perpustakaan Boto3, Python SDK untuk AWS, yang membolehkan anda menggunakan model mereka.

<code>pip install boto3</code>

anda boleh berinteraksi secara programatik dengan model menggunakan skrip seperti yang ditunjukkan di bawah:

<code>import boto3
import json 

client = boto3.client(service_name="bedrock-runtime")

messages = [
    {"role": "user", "content": [{"text": "Write a short poem"}]},
]

model_response = client.converse(
    modelId="us.amazon.nova-lite-v1:0", 
    messages=messages
)

print("\n[Full Response]")
print(json.dumps(model_response, indent=2))

print("\n[Response Content Text]")
print(model_response["output"]["message"]["content"][0]["text"])</code>

Projek Demo Menggunakan Nova Micro dan AWS Multi-Agent Coordinator

Kami kini melaksanakan projek demo untuk menguji keupayaan ejen Nova Micro. Kami akan menggunakan Rangka Kerja Penyelaras Multi-Proxy AWS untuk menubuhkan aplikasi Python mudah yang mengandungi dua proksi: Ejen Pemaju Python dan Ejen Pakar ML. Jika anda ingin menyediakan penyelaras, anda boleh menggunakan panduan Penyelaras Multi-Proxy AWS ini.

kami juga akan menggunakan ChainLit (pakej Python Sumber Terbuka) untuk melaksanakan UI yang mudah untuk aplikasi tersebut. Pertama, pasang perpustakaan yang diperlukan:

<code>chainlit==1.2.0
multi_agent_orchestrator==0.0.18</code>

pertama kali mengimport perpustakaan yang diperlukan:

<code>import uuid
import chainlit as cl
from multi_agent_orchestrator.orchestrator import MultiAgentOrchestrator, OrchestratorConfig
from multi_agent_orchestrator.classifiers import BedrockClassifier, BedrockClassifierOptions
from multi_agent_orchestrator.agents import AgentResponse
from multi_agent_orchestrator.agents import BedrockLLMAgent, BedrockLLMAgentOptions, AgentCallbacks
from multi_agent_orchestrator.orchestrator import MultiAgentOrchestrator
from multi_agent_orchestrator.types import ConversationMessage
import asyncio
import chainlit as cl</code>

Rangka kerja ini menggunakan pengelas untuk memilih proksi terbaik untuk permintaan pengguna yang masuk. Kami menggunakan "Anthropic.Claude-3-HAIKU-20240307-V1: 0" sebagai model pengelas.

<code>class ChainlitAgentCallbacks(AgentCallbacks):
    def on_llm_new_token(self, token: str) -> None:
        asyncio.run(cl.user_session.get("current_msg").stream_token(token))

# Initialize the orchestrator
custom_bedrock_classifier = BedrockClassifier(BedrockClassifierOptions(
    model_id='anthropic.claude-3-haiku-20240307-v1:0',
    inference_config={
        'maxTokens': 500,
        'temperature': 0.7,
        'topP': 0.9
    }
))

orchestrator = MultiAgentOrchestrator(options=OrchestratorConfig(
        LOG_AGENT_CHAT=True,
        LOG_CLASSIFIER_CHAT=True,
        LOG_CLASSIFIER_RAW_OUTPUT=True,
        LOG_CLASSIFIER_OUTPUT=True,
        LOG_EXECUTION_TIMES=True,
        MAX_RETRIES=3,
        USE_DEFAULT_AGENT_IF_NONE_IDENTIFIED=False,
        MAX_MESSAGE_PAIRS_PER_AGENT=10,
    ),
    classifier=custom_bedrock_classifier
)</code>

Seterusnya, kami mentakrifkan dua ejen yang dikuasai oleh Nova Micro, yang bertindak sebagai pakar pemaju Python dan yang lain bertindak sebagai pakar pembelajaran mesin.

<code>pip install boto3</code>

Akhirnya, kami menetapkan badan skrip supaya UI rantai dapat mengendalikan permintaan pengguna dan respons proksi.

<code>import boto3
import json 

client = boto3.client(service_name="bedrock-runtime")

messages = [
    {"role": "user", "content": [{"text": "Write a short poem"}]},
]

model_response = client.converse(
    modelId="us.amazon.nova-lite-v1:0", 
    messages=messages
)

print("\n[Full Response]")
print(json.dumps(model_response, indent=2))

print("\n[Response Content Text]")
print(model_response["output"]["message"]["content"][0]["text"])</code>

Hasilnya ialah UI Chainlit, yang membolehkan anda benar -benar berbual dengan model Nova seperti yang diperlukan.

Jalankan aplikasi kami di Chainlit

model generasi imej dan video juga boleh didapati melalui API. Anda boleh merujuk kepada dokumentasi untuk skrip yang menunjukkan cara menggunakannya.

Kesimpulan

Model Amazon Nova mewakili kemajuan besar dalam ekosistem model asas, menggabungkan ketepatan, kelajuan, keberkesanan kos, dan kemampuan multimodal yang terkini. Memandangkan suite Amazon LLM berkembang dengan pelancaran produk baru, ia menjadi pilihan yang kuat untuk membina aplikasi kos efektif dan berskala di belakang AWS.

Sama ada anda sedang membangunkan aplikasi ejen AI, membuat chatbot untuk perkhidmatan pelanggan, atau meneroka sebagai pemaju, cuba menggunakan model Nova adalah pengalaman yang berbaloi. Ia juga berguna untuk memperdalam pemahaman anda tentang alat AWS, Bedrock, dan Amazon LLM.

Dalam artikel ini, kami memperkenalkan aspek utama model -model ini, bagaimana untuk bereksperimen dengan mereka, dan bagaimana untuk membina aplikasi AI proksi asas menggunakan model Nova.

pengamal awan AWS

Ketahui cara mengoptimumkan perkhidmatan AWS untuk kecekapan dan prestasi kos. Belajar AWS

Output yang disemak semula ini mengekalkan makna dan struktur asal semasa menggunakan kata -kata dan struktur ayat yang berbeza.

Atas ialah kandungan terperinci Model Amazon Nova: Panduan dengan Contoh. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!