Azure OpenAI服務的可用性將在昨天被微軟宣布擴大

Microsoft昨天宣布擴大Azure OpenAI服務的可用性。透過此次擴展，澳洲東部、加拿大東部、美國東部 2、日本東部和英國南部的客戶將能夠存取流行的 OpenAI 型號 GPT-4 和 GPT-35-Turbo。在此擴展之前，Azure OpenAI 服務在美國東部、法國中部、美國中南部和西歐可用。在最近的財報電話會議上，Microsoft宣布Azure OpenAI服務現在為11，000多家客戶提供服務，平均每天吸引100名新客戶。

Microsoft也宣布Azure ND H100 v5虛擬機器（VM）系列正式發布，該系列具有最新的NVIDIA H100 Tensor Core GPU和NVIDIA Quantum-2 InfiniBand網路。此新 VM 系列專為 AI 工作負載設計，現已在美國東部和美國中南部 Azure 區域推出。即使 VM 已正式發布，客戶也必須註冊對存取新 VM 的興趣。

ND H100 v5 虛擬機器包括以下功能：

• 這些虛擬機配備了八個NVIDIA H100 張量核心GPU，承諾比前幾代產品更快實現AI 模型性能。
• 第四代英特爾至強可擴充處理器是這些虛擬機器的基礎，可確保最佳處理速度。
• NVIDIA Quantum-2 ConnectX-7 InfiniBand 每GPU 400Gb/s，每個虛擬機器3.2 Tb/s 的跨節點頻寬，確保跨GPU 的無縫效能，與全球頂級超級電腦的功能相符。
• 由於 PCIe Gen5 為每個 GPU 提供 64GB/s 的頻寬，Azure 在 CPU 和 GPU 之間實現了顯著的效能優勢。
• DDR5 記憶體是這些虛擬機器的核心，可提供更高的資料傳輸速度和效率，使其成為具有較大資料集的工作負載的理想選擇。
• 與前幾代中的 FP8 相比，使用新的 8 位元 FP16 浮點數資料型別時，矩陣乘法運算的加速率提高了六倍。
• 在 BLOOM 175B 端到端模型推理等大型語言模型中，加速速度提高了兩倍，展示了它們進一步優化 AI 應用程式的潛力。

以上是Azure OpenAI服務的可用性將在昨天被微軟宣布擴大的詳細內容。更多資訊請關注PHP中文網其他相關文章！