首頁 > 文章 > 什麼是 Azure OpenAI Service？

什麼是 Azure OpenAI Service？

WBOY轉載: 2023-06-03 16:08:161417瀏覽

Azure OpenAI Service 提供對 OpenAI 強大語言模型（包括 GPT-3、Codex 和 Embeddings 模型系列）的 REST API 存取。還有，全新的GPT-4和ChatGPT（gpt-35-turbo）模型系列已經正式推出。這些模型可以輕鬆適應您的特定任務，包括但不限於內容生成、摘要、語義搜尋和自然語言到程式碼的翻譯。使用者可以透過 REST API、Python SDK 或我們在 Azure OpenAI Studio 中基於 Web 的介面存取服務。

功能概述

##可用型號系列GPT-3 基礎系列微調AdaCurieDavinci微調目前不適用於新客戶價格#虛擬網路支援和專用連結支援使用者介面體驗Azure 用於模型探索和微調區域可用性美國東部中南部美國西歐

特徵	Azure OpenAI

新GPT-4	新查特（gpt-35-渦輪增壓）法典系列嵌入系列在我們的模型頁面上了解更多資訊。
Babbage	Cushman
。
可在此處獲得
是的	託管標識是的，透過Azure Active Directory
	Portal 用於帳戶和資源管理， Azure OpenAI Service Studio

法國中部#############內容過濾#######使用自動化系統根據我們的內容政策對提示和完成進行評估。將篩選高嚴重性內容。 ############

负责任的人工智能

在 Microsoft，我们致力于以以人为本的原则推动 AI 的发展。生成模型（例如 Azure OpenAI 中提供的模型）具有显著的潜在优势，但如果没有仔细的设计和深思熟虑的缓解措施，此类模型可能会生成不正确甚至有害的内容。Microsoft 已进行大量投资来帮助防止滥用和意外伤害，其中包括要求申请人展示定义明确的用例、纳入 Microsoft 负责任地使用 AI 的原则、构建内容筛选器以支持客户，以及向已加入的客户提供负责任的 AI 实施指南。

如何访问 Azure OpenAI？

目前，因为我们了解市场需求的高度、即将推出的产品改进措施以及微软对负责任 AI 的承诺，访问受到限制。目前，我们正在与与 Microsoft 建立合作伙伴关系的客户、风险较低的用例以及致力于合并缓解措施的客户合作。

申请表中包含更具体的信息。感谢您的耐心等待，我们正在努力确保 Azure OpenAI 可以被更广泛地访问，并承担起我们的责任。

Apply here for access:

Apply now

Comparing Azure OpenAI and OpenAI

Azure OpenAI Service gives customers advanced language AI with OpenAI GPT-4, GPT-3, Codex, and DALL-E models with the security and enterprise promise of Azure. Azure OpenAI co-develops the APIs with OpenAI, ensuring compatibility and a smooth transition from one to the other.

With Azure OpenAI, customers get the security capabilities of Microsoft Azure while running the same models as OpenAI. Azure OpenAI offers private networking, regional availability, and responsible AI content filtering.

关键概念

提示和完成

完成终结点是 API 服务的核心组件。此 API 提供对模型的文本输入、文本输出接口的访问。用户只需提供包含英文文本命令的输入提示，模型就会生成文本补全。

下面是一个简单的提示和完成的示例：

提示：""" count to 5 in a for loop """

完成：for i in range(1, 6): print(i)

令牌

Azure OpenAI 通过将文本分解为令牌来处理文本。标记可以是单词，也可以只是字符块。例如，单词“汉堡包”被分解为标记“ham”，“bur”和“ger”，而像“梨”这样的简短而常见的单词是单个令牌。许多标记以空格开头，例如“hello”和“bye”。

给定请求中处理的令牌总数取决于输入、输出和请求参数的长度。正在处理的令牌数量也会影响模型的响应延迟和吞吐量。

资源

Azure OpenAI是Azure上的新产品。你可以像在 Azure 订阅中创建资源或服务实例的任何其他 Azure 产品一样开始使用 Azure OpenAI。可以阅读有关 Azure 资源管理设计的详细信息。

部署

创建 Azure OpenAI 资源后，必须先部署模型，然后才能开始进行 API 调用和生成文本。可以使用部署 API 完成此操作。这些 API 允许您指定要使用的模型。

上下文学习

Azure OpenAI 使用的模型使用生成调用期间提供的自然语言指令和示例来确定所请求的任务和所需的技能。使用此方法时，提示的第一部分包括自然语言指令和/或所需特定任务的示例。然后，模型通过预测最可能的下一段文本来完成任务。这种技术被称为“上下文中”学习。预测将根据包含在提示中的上下文提供，此步骤中不会重新训练这些模型。

上下文学习主要有三种方法：少镜头、单镜头和零镜头。这些方法因提供给模型的任务特定数据量而异：

少数镜头：在这种情况下，用户在呼叫提示中包含几个示例，这些示例演示了预期的应答格式和内容。以下示例显示了一个几个镜头提示，其中我们提供了多个示例（模型将生成最后一个答案）：

Convert the questions to a command:Q: Ask Constance if we need some bread.A: send-msg `find constance` Do we need some bread?Q: Send a message to Greg to figure out if things are ready for Wednesday.A: send-msg `find greg` Is everything ready for Wednesday?Q: Ask Ilya if we're still having our meeting this evening.A: send-msg `find ilya` Are we still having a meeting this evening?Q: Contact the ski store and figure out if I can get my skis fixed before I leave on Thursday.A: send-msg `find ski store` Would it be possible to get my skis fixed before I leave on Thursday?Q: Thank Nicolas for lunch.A: send-msg `find nicolas` Thank you for lunch!Q: Tell Constance that I won't be home before 19:30 tonight — unmovable meeting.A: send-msg `find constance` I won't be home before 19:30 tonight. I have a meeting I can't move.Q: Tell John that I need to book an appointment at 10:30.A:

具體範例數的決定取決於單一提示最大輸入長度可以容納的範例數量，通常在0到100之間。最大輸入長度可能會因您使用的特定型號而異。少樣本學習可以大幅減少準確預測所需的特定於任務的資料量。此方法通常不如微調模型準確。

單鏡頭：這種情況與少數鏡頭方法相同，只是只提供了一個範例。

零鏡頭：在這種情況下，不會向模型提供任何範例，而只會提供任務請求。

模型

該服務為使用者提供對幾種不同模型的存取權限。每種型號都提供不同的功能和價格點。

GPT-4 型號是最新的可用型號。由於需求量大，目前只能應要求提供此型號系列。若要要求存取權限，現有Azure OpenAI 客戶可以透過填寫此表單進行申請

GPT-3 基本模型被稱為達文西、居里、巴貝奇和阿達，按能力遞減順序和速度遞增順序排列。

Codex 系列模型是經過自然語言和程式碼訓練的 GPT-3 後代，旨在支援自然語言到程式碼的轉換。在我們的模型概念頁面上了解有關每個模型的更多資訊。

如何在Excel中突出顯示重複項

如何在Excel中突出顯示重複項以下是有關如何在Excel中反白顯示重複項的步驟：選擇您懷疑可能重複的資料。點選“開始”>條件格式>反白顯示儲存格規則>重複值。預設情況下，開啟「重複值」對話方塊時，「填入...
如何使用附近共用將文字從Windows PC共用到Android

如何使用「附近共享」無論您是共享文件、照片、視頻，還是現在共享文本和URL，這款多功能工具都簡化了我們的數位生活，讓共享變得輕而易舉。下面列出的是將文本從PC共享至Android需要執行的「附近共享」步驟：...
Advanced Formula Environment 正在成為Excel Labs，一個Microsoft Garage Project!

實驗是開啟任何領域創新的關鍵。這是我們學習和發展的途徑，也是促使我們不斷創造更多有助於您完成多項任務功能的原因。所以今天，我們很高興地宣布，我們透過發布Microsoft Garage 項目Excel Labs繼續投資於...
現在可以在Linux 系統上設定ChromeOS Flex USB

Google推出了適用於桌上型電腦和筆記型電腦的ChromeOS Flex。Google當時做出的一個非常惱人的決定是安裝程式USB 必須使用與Ubuntu 和Linux Mint 等Linux 發行版不相容的Chromebook 恢復實用程式來設定。除非你身邊有另一個...