亞馬遜雲端科技宣布推出生成式AI新服務加速創新

○ 亞馬遜雲端科技全託管生成式AI服務Amazon Bedrock現已正式上市。客戶可以使用來自眾多領先AI公司的高效能基礎模型，以及建立生成式AI應用程式所需的一系列功能，在簡化開發流程的同時確保隱私和安全；

• Amazon Bedrock新增Amazon Titan Embeddings和Meta Llama 2模型，為客戶尋找適合其應用場景的模型提供更多靈活選擇；
• 全新Amazon CodeWhisperer功能將提供客製化的、基於生成式AI的程式碼建議，充分利用企業內部程式碼庫，提升開發者生產效率；
• Amazon QuickSight提供生成式BI儀錶板創作功能，讓業務分析師能夠更方便快速的探索數據，並使用自然語言描述便可建立視覺化報告；
• 阿迪達斯、寶馬集團、GoDaddy、默克、國民威斯敏斯特銀行集團（NatWest Group）、Persistent、美巡賽（PGA TOUR）、株式會社竹中工務店（Takenaka Corporation）和Traeger Grills等公司都在應用來自亞馬遜雲端科技的生成式AI創新重塑其產品和服務。

北京－2023年10月7日亞馬遜雲端科技宣布推出五項生成式AI創新，使各種規模的企業都可以建立新的生成式AI應用程序，提高員工生產力並完成業務轉型。這五項創新包括：亞馬遜雲端科技全面託管服務Amazon Bedrock正式可用，透過統一的應用程式介面（API）提供來自領先AI公司的基礎模型（FM）；亞馬遜雲端科技宣布Amazon Titan Embeddings模型正式可用，為客戶提供更多基礎模型選擇；Amazon Bedrock最新引入了Meta Llama 2模型，這是第一個透過API提供完全託管Meta Llama 2模型的服務；AI程式設計助理Amazon CodeWhisperer的新功能即將提供預覽，可根據企業的內部程式碼庫安全地客製化Code​​Whisperer的程式碼建議，協助開發人員從生成式AI中獲得更大價值；Amazon QuickSight的生成式BI創作功能現已推出預覽版，可提高業務分析師的工作效率。這項功能是雲端原生建構的統一BI服務，使客戶能夠透過自然語言簡單地描述他們想要的內容，從而創建可視化內容、格式化圖表、執行計算等。從Amazon Bedrock、Amazon Titan Embeddings，再到Amazon CodeWhisperer和Amazon QuickSight，這些創新增強了亞馬遜雲端科技在生成式AI堆疊各個層面的能力，無論任何規模的企業都可在獲得企業級安全和隱私保護的同時，選擇模型並進行模型自訂。開始體驗亞馬遜雲端科技生成式AI，請造訪aws.amazon.com/generative-ai/。

「在過去的一年裡，海量資料的爆炸、大規模彈性算力的就位，以及機器學習技術的快速進步點燃了人們對生成式AI的熱情，深刻改變了各行各業，並重塑了人們的工作方式。」亞馬遜雲端科技數據和機器學習全球副總裁Swami Sivasubramanian表示，「憑藉企業級的安全和隱私保護、領先的基礎模型選擇、數據為先的方法論，以及高效能、具成本效益的基礎架構，亞馬遜雲端科技贏得了企業的信賴，並在技術堆疊的每一層使用生成式AI解決方案助力企業不斷創新。今天的發布是一個重要的里程碑，它將生成式AI提供給每個企業，從新創公司到大型企業的每個員工，從開發工程師到資料分析師。透過強大的創新，亞馬遜雲端科技為企業帶來了更強的安全性、多種選擇和出色的性能，同時也幫助它們緊密對齊企業的數據策略，進而能夠充分釋放生成式AI的潛力。」

各行各業的企業無論規模大小都渴望藉助生成式AI來變革營運方式，重新思考解決複雜問題的方法，並創造全新的使用者體驗。儘管生成式AI的最新進展引起了廣泛關注，但許多企業仍未能參與這項轉型過程。它們一邊對使用生成式AI充滿渴望，一邊又對這些工具的安全性和隱私問題憂心忡忡。這些企業希望能夠測試多種基礎模型，從而找到最適合自己應用情境的模型。它們還希望最大限度地利用已經擁有的數據，透過客製化模型來為最終用戶提供獨特的體驗。最後，企業需要工具將創新迅速推向市場，還需要具備在全球部署生成式AI應用程式的基礎架構。

許多企業正在向亞馬遜雲端科技尋求生成式AI服務，例如阿迪達斯、Alida、寶馬集團、Genesys、Glide、GoDaddy、Intuit、律商聯訊（LexisNexis Legal & Professional）、孤獨星球（Lonely Planet）、默克、國民威斯敏斯特、Perplexity AI、Persistent、Quext、RareJob Technologies、Rocket Mortgage、SnapLogic、株式會社竹中工務店、Traeger Grills、美巡賽、Verint、Verisk和WPS等

亞馬遜Bedrock已經正式推出，旨在幫助更多的客戶建立和擴展生成式人工智慧應用

#Amazon Bedrock是一項完全託管的服務，提供了來自眾多領先AI公司（包括AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亞馬遜）面向海外業務的的高性能基礎模型，以及企業構建生成式AI應用程式所需的一系列功能，能夠在實現簡化開發的同時確保隱私性和安全性。基礎模型具有良好的適用性，可為資訊搜尋、內容創建及藥物發現等許多領域提供支援。但對於許多希望利用生成式AI的企業來說，仍有一些問題需要解決。首先，它們需要簡單直觀的選取和存取高效能基礎模型，滿足其場景需求且表現優異；其次，客戶希望應用程式實現無縫集成，無需管理龐大的基礎設施集群或花費大量成本；最後，客戶希望借助基礎模型並結合自身數據來輕鬆構建差異化的應用程序，而這些客戶用於定制的數據無疑是非常寶貴的資產，具有知識產權，因此在使用過程中必須做到全面保護，在確保安全和隱私的同時，確保客戶對資料共享和使用方式擁有控制權。

借助Amazon Bedrock的完善功能，企業能夠更方便、輕鬆地嘗試多種領先的基礎模型，使用自己的專有資料自訂模型。此外，Amazon Bedrock還提供差異化能力，例如無需再編寫任何程式碼便可建立的託管代理（AI agent），它可以執行複雜任務，例如旅行預訂、處理保險索賠、策劃廣告活動和管理庫存等。由於Amazon Bedrock採用無伺服器（serverless）技術，客戶不必管理任何基礎設施，就可以使用已經熟悉的亞馬遜雲端科技服務將生成式AI能力安全地整合和部署到應用程式中。

Amazon Bedrock在開發之初就考慮到安全性和隱私保護，幫助客戶保護敏感資料。客戶可以使用Amazon PrivateLink，在Amazon Bedrock與虛擬私有網路（VPC）之間建立專門的安全連接，確保任何資料傳輸都不會暴露在公共網路中。對於有高度監管需求的客戶，Amazon Bedrock符合HIPAA（《健康保險流通與責任法案》）要求，並且可以在GDPR（歐盟《一般資料保護規範》）合規標準下使用，讓更多的客戶從生成式AI中獲益。

Amazon Bedrock利用Amazon Titan Embeddings和Llama 2來擴展可選模型的範圍，以幫助每個客戶找到適合其應用場景的模型

事實上，沒有任何一個單一模型可以適用於所有的應用場景。因此，為了挖掘生成式AI的價值，企業往往需要存取多個模型，根據自己的要求尋找最適合的模型。為此，Amazon Bedrock讓出海客戶只需透過單一API就能找到和測試AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亞馬遜提供的領先的基礎模型。此外，亞馬遜雲端科技近日也宣布了Anthropic未來的所有基礎模型都將在Amazon Bedrock上可用，並為亞馬遜雲端科技出海客戶提供模型客製化和微調等特殊功能的優先存取。而現在起，Amazon Bedrock再次引進新的基礎模型帶來更多選擇：

• Amazon Titan Embeddings現已正式推出：Amazon Titan基礎模型是由亞馬遜雲端科技在大型資料集上創建和預訓練的一系列模型，可以支援各種應用場景。作為這些模型中第一個正式可用的模型，Amazon Titan Embeddings是一種大語言模型（LLM），它將文字轉換成被稱為嵌入向量（embeddings）的數值表示，以支援檢索增強生成（RAG）的應用場景。基礎模型雖然適用於多種任務，但只能根據從訓練資料和提示詞上下文中學到的資訊來回答問題。一旦這些回答需要利用高時效性的知識或專有資料時，其有效性就會受限。為了能透過擴展數據來改進基礎模型的回答，許多企業將目光轉向RAG——這款受歡迎的模型客製化技術能將基礎模型連接到可被引用的知識庫，從而改善響應效果。要開始使用RAG，客戶必須先存取一個嵌入模型，將資料轉換成嵌入向量，使基礎模型更容易理解資料之間的語義和關係。然而，建立嵌入模型需要大量的資料和資源，以及深厚的機器學習專業知識，因此許多客戶很難完成自行構建，也無法實現RAG。 Amazon Titan Embeddings使客戶能夠更簡單地啟用RAG，以便利用專有資料擴展各種基礎模型的能力。 Amazon Titan Embeddings支援超過25種語言和多達8192個token的上下文長度，非常適合基於企業的應用場景處理單字、短語或整個文件。此模型可傳回1536個維度的輸出向量，確保高度準確性的同時也專為實現更低延遲和更優性價比進行了最佳化。
• Llama 2即將在未來幾週推出：Amazon Bedrock是業界首個透過託管API提供Meta下一代大語言模型 Llama 2的完全託管的生成式AI服務。 Llama 2模型比之前的Llama模型有了顯著改進，包括使用了比原始訓練多40%的訓練數據，並具有更長的上下文長度（4000個token），以處理更大的文件。 Amazon Bedrock提供的Llama 2模型經過最佳化，可在亞馬遜雲端科技基礎架構上提供快速回應，非常適合對話式應用程式場景。客戶可以建立由130億和700億個參數的Llama 2模型驅動的生成式AI應用程序，且無需設定和管理任何基礎設施。

Amazon CodeWhisperer新功能將允許客戶使用私有程式碼庫安全地自訂CodeWhisperer程式碼建議，進一步提升開發人員效率

Amazon CodeWhisperer是一款基於人工智慧的程式設計助手，它透過對數十億行來自亞馬遜和公開可用的程式碼進行訓練，提高開發人員的生產力。儘管開發人員在日常工作中經常使用CodeWhisperer，但有時他們需要將企業內部私有程式碼庫（如內部API、程式碼庫、軟體包和類別）整合到應用程式中，而這些程式碼並不包含在CodeWhisperer的訓練數據中。使用內部程式碼也是一個難題，因為說明文件有限，沒有公共資源或論壇供開發人員尋求幫助

例如，要編寫一個用於從購物車中移除商品的函數，開發人員必須先了解與應用程式互動的API、集合和其他內部程式碼。以前，開發人員可能需要花費數小時來檢查以前編寫的內部程式碼，以找到所需資訊並理解其工作原理。即使找到了正確的資源，他們仍需仔細檢查程式碼，以確保其符合公司編碼的最佳實踐，並且不會重複引用程式碼中的任何缺陷或漏洞

Amazon CodeWhisperer的新客製化功能可以釋放生成式AI程式設計的全部潛力，透過安全地利用客戶的內部程式碼庫和資源來提供客製化建議。這使得開發人員能夠更準確地獲得程式碼建議，從而節省時間。首先，管理員需要連接到他們的私有程式碼儲存庫（如GitLab或Amazon S3），並安排一個作業來建立自己的客製化內容。在創建客製化內容時，CodeWhisperer利用各種模型和情境客製化技術，學習客戶的程式碼庫並改進即時程式碼建議。這樣，開發人員就可以花更少的時間尋找問題的正確答案，將更多時間投入創造新的差異化體驗。管理員可以在亞馬遜雲端科技控制台（Amazon Console）集中管理所有客製化功能、查看評估指標、估算每個客製化功能的效能，並選擇性地將它們部署給公司內特定的開發人員，以限制對敏感程式碼的存取

透過選擇高品質的儲存庫，管理員可以確保CodeWhisperer提供的客製化建議不包含已棄用的程式碼，以滿足企業品質與安全標準。考慮到企業級安全和隱私，這項功能可以確保客製化內容完全私密，而支援CodeWhisperer的底層基礎模型在訓練過程中不使用客製化內容，能夠保護客戶寶貴的智慧財產權。此自訂功能很快將作為CodeWhisperer企業版的一部分在預覽中提供給客戶使用。此外，CodeWhisperer的自訂設定預設確保了安全性，無論客戶使用 Amazon CodeWhisperer專業版還是企業版，在處理來自開發人員IDE的請求時，亞馬遜雲端科技均不會儲存或記錄任何客戶內容。

Amazon QuickSight的新一代BI創作功能，能夠幫助業務分析師透過自然語言指令輕鬆建立和自訂資料視覺化效果

#Amazon QuickSight是一個為雲端建置的統一BI服務，能夠建立互動式儀表板、分頁報表以及嵌入式分析，同時具備使用QuickSight Q進行自然語言查詢的能力，因此企業的每位使用者都能以他們偏好的格式獲取所需的洞察。

在通常情況下，商業分析師需要花費數小時使用BI工具來探索各種不同的資料來源，添加計算、建立和完善視覺化效果，然後將它們呈現在儀表板中提供給業務利害關係人。為了創建一個簡單的圖表，分析師首先必須找到正確的資料來源、識別資料欄位、設定過濾器，同時進行必要的個人化設定以實現良好的視覺化效果

如果進行資料視覺化需要進行新的計算（例如年度銷售），分析師還必須確定所需的參考數據，然後建立、驗證並將視覺效果新增至報表。如果可以減少商業分析師手動創建和調整圖表和計算所花費的時間，讓他們將更多時間投入到高價值的任務中，企業也能從中獲益。

新的生成式BI創作功能擴充了QuickSight Q的自然語言查詢功能。它不僅可以回答清晰表述的問題，例如“加州銷售排名前10的產品是什麼？”，還可以幫助分析師從問題片段，例如“銷售排名前10的產品”，快速創建可自訂的視覺效果。透過提出後續問題來澄清查詢意圖，優化視覺效果，並完成複雜的計算。業務分析師只要描述想要的結果，QuickSight就能產生具有良好觀感的視覺物件。分析師可以輕鬆地將其新增至儀表板或報表中，操作簡單

例如，分析師可以使用QuickSight Q來創建視覺化內容，該內容展示了2022年和2023年運動鞋銷售額的月度趨勢。 QuickSight Q會自動選擇適當的數據，並根據請求使用最合適的圖表格式（如線形圖或長條圖）來呈現所需資訊。此外，QuickSight Q也提供了預設的提示問題，幫助分析師澄清在多個資料欄位與查詢相符時可能出現的歧義，例如圖表應該包括運動鞋銷售額的美元總額還是銷售的單位個數

分析師在獲得最初的視覺化內容後，可以透過使用自然語言，添加複雜的計算，改變圖表類型或最佳化視覺化效果。 QuickSight Q中的新生成式BI創作功能使得業務分析師能夠輕鬆快速地創建出令人滿意的視覺效果，並更快速地為大規模資料驅動的決策提供寶貴的資訊依據

千行百業的客戶都在利用亞馬遜雲端科技的生成式AI服務創建新的應用程序，提高開發人員的效率，以及幫助分析師更快速地獲取洞察

#阿迪達斯是全球最大的運動品牌之一。 「我們很高興能參與Amazon Bedrock預覽版的試用，親身體驗這項服務。Amazon Bedrock對我們的生成式AI工具構建大有裨益，Amazon Bedrock 承擔了構建生成式AI應用的繁重基礎設施管理工作，使我們能夠專注於大語言模型專案的核心方面。」阿迪達斯企業架構副總裁Daniel Eichten表示，「我們已經使用Amazon Bedrock開發了一款生成式AI解決方案，使阿迪達斯的廣大工程師只需透過單一對話式介面，就能從知識庫中找到所需的各種資訊和答案，回答從入門到複雜的多種技術問題。」

默克是一家研發密集型生物製藥公司，130多年來致力於發現和研發創新藥物和疫苗，以拯救生命並改善健康。 「完整的製藥價值鏈上存在著許多手動且耗時的流程，這些流程阻礙了更有價值的工作的開展，同時還不能有效利用數據改善員工、客戶和患者體驗。」默克數據科學執行董事Suman Giri表示，「借助Amazon Bedrock，我們迅速建立了生成式AI功能，使知識挖掘和市場研究等工作更有效率。在我們的美國病患分析工作流程中，我們可以利用這些功能提供對患者治療的見解，提高生活質量，擴大商業影響力，同時填補數據共享方面的空白，為負責任的生成式AI打造數據治理生態系統。」

BMW集團是全球頂尖的汽車和摩托車製造商之一。 「BMW的區域專家致力於優化整個供應鏈的庫存。他們經常收到董事會成員或供應鏈專家等利益相關者的請求，要求創建新的儀錶板視圖，以便他們分析最新趨勢。」 BMW集團資料工程與分析專家Christoph Albrecht表示，「QuickSight Q創作體驗能夠顯著節省時間，可以在無需參考的情況下創建計算、快速構建視覺效果，然後透過自然語言對可視化呈現進行精確調整。區域專家的快速回饋給我們的業務用戶留下了深刻印象，讓他們可以更快地做出重要決策。」

以上是亞馬遜雲端科技宣布推出生成式AI新服務加速創新的詳細內容。更多資訊請關注PHP中文網其他相關文章！