집 > 기사 > Azure OpenAI 서비스란 무엇입니까?

Azure OpenAI 서비스란 무엇입니까?

WBOY앞으로: 2023-06-03 16:08:161415검색

Azure OpenAI 서비스는 GPT-3, Codex 및 Embeddings 모델 계열을 포함한 OpenAI의 강력한 언어 모델에 대한 REST API 액세스를 제공합니다. 또한, 새로운 GPT-4와 ChatGPT(gpt-35-turbo) 모델 시리즈가 공식 출시되었습니다. 이러한 모델은 콘텐츠 생성, 요약, 의미 검색, 자연어-코드 번역을 포함하되 이에 국한되지 않는 특정 작업에 쉽게 적용할 수 있습니다. 사용자는 REST API, Python SDK 또는 Azure OpenAI Studio의 웹 기반 인터페이스를 통해 서비스에 액세스할 수 있습니다.

기능 개요

특징	Azure Openai
사용 가능 모델	새로운 GPT-4 시리즈 GPT-3 기본 시리즈 새로운 Chate(GPT-35 터보차저) 코덱스 시리즈 임베디드 시리즈 모델 페이지에서 자세히 알아보세요.
Spinner	Ada Babbage Curie Cushman Davinci Spinner는 현재 신규 고객에게 제공되지 않습니다.
가격	여기에서 구매 가능
가상 네트워크 지원 및 개인 링크 지원	예
호스팅 ID	예, Azure Active Directory를 통해
UI 경험	Azure Portal for 계정 및 리소스 관리, 모델 탐색 및 미세 조정을 위한 Azure OpenAI Service Studio
지역별 가용성	미국 동부 중부 남부 서유럽 프랑스 중부
콘텐츠 필터링	자동 사용 콘텐츠 정책에 따라 프롬프트와 완료를 평가하는 시스템입니다. 심각도가 높은 콘텐츠는 필터링됩니다.

책임 있는 인공 지능

Microsoft는 사람을 먼저 생각하여 AI를 발전시키기 위해 최선을 다하고 있습니다. Azure OpenAI에서 사용할 수 있는 것과 같은 생성 모델은 상당한 잠재적 이점을 가지고 있지만 신중한 설계와 사려 깊은 완화가 없으면 이러한 모델은 부정확하거나 심지어 유해한 콘텐츠를 생성할 수 있습니다. Microsoft는 지원자에게 잘 정의된 사용 사례를 입증하도록 요구하고, 책임감 있는 AI 사용에 대한 Microsoft의 원칙을 통합하고, 고객을 지원하기 위한 콘텐츠 필터를 구축하고, 온보딩 고객에게 책임 있는 책임감 있는 AI 구현을 제공하는 등 남용 및 의도하지 않은 피해를 방지하는 데 도움이 되는 상당한 투자를 해왔습니다. 가이드.

Azure OpenAI에 액세스하는 방법은 무엇입니까?

현재 시장 수요의 급증, 향후 제품 개선, 책임감 있는 AI에 대한 Microsoft의 노력을 이해하고 있으므로 액세스가 제한됩니다. 우리는 현재 Microsoft와 파트너십을 맺은 고객, 위험도가 낮은 사용 사례 및 완화 통합 작업을 진행 중인 고객과 협력하고 있습니다.

자세한 내용은 지원서에 기재되어 있습니다. Azure OpenAI에 대한 더 폭넓은 액세스와 책임을 보장하기 위해 노력하는 동안 기다려 주셔서 감사합니다.

액세스하려면 여기에서 신청하세요.

지금 신청하세요

Azure OpenAI와 OpenAI 비교

Azure OpenAI 서비스는 보안 및 엔터프라이즈 기능을 갖춘 OpenAI GPT-4, GPT-3, Codex 및 DALL-E 모델이 포함된 고급 언어 AI를 고객에게 제공합니다. Azure OpenAI는 OpenAI와 API를 공동 개발하여 호환성과 원활한 전환을 보장합니다.

Azure OpenAI를 사용하면 고객은 OpenAI와 동일한 모델을 실행하면서 Microsoft Azure의 보안 기능을 얻을 수 있습니다.

주요 개념

프롬프트 및 완료

완료 엔드포인트는 API 서비스의 핵심 구성 요소입니다. 이 API는 모델의 텍스트 입력 및 텍스트 출력 인터페이스에 대한 액세스를 제공합니다. 사용자는 영어 텍스트 명령이 포함된 입력 프롬프트을 제공하기만 하면 모델은 텍스트 완성을 생성합니다.

다음은 간단한 프롬프트와 완료된 예입니다.

Prompt: """ count to 5 in a for 루프 """""" count to 5 in a for loop """

完成：for i in range(1, 6): print(i)

Complete:

`for i in range(1, 6): print(i)`

Tokens

Azure OpenAI는 텍스트를 토큰으로 나누어 처리합니다. 마커는 단어일 수도 있고 문자 블록일 수도 있습니다. 예를 들어, "hamburger"라는 단어는 "ham", "bur" 및 "ger"라는 토큰으로 분류되는 반면, "pear"와 같은 짧고 일반적인 단어는 단일 토큰입니다. 많은 토큰은 "hello" 및 "bye"와 같이 공백으로 시작합니다.

특정 요청에서 처리되는 총 토큰 수는 입력, 출력 및 요청 매개변수의 길이에 따라 다릅니다. 처리되는 토큰 수는 모델의 응답 대기 시간 및 처리량에도 영향을 미칩니다.

Resources

Azure OpenAI는 Azure의 새로운 제품입니다. Azure 구독에서 리소스 또는 서비스 인스턴스를 만들어 다른 Azure 제품과 마찬가지로 Azure OpenAI 사용을 시작할 수 있습니다. Azure 리소스 관리 디자인에 대해 자세히 알아볼 수 있습니다.

배포

Azure OpenAI 리소스를 만든 후 API 호출 및 텍스트 생성을 시작하려면 먼저 모델을 배포해야 합니다. 이는 배포 API를 사용하여 수행할 수 있습니다. 이러한 API를 사용하면 사용할 모델을 지정할 수 있습니다.

상황별 학습

Azure OpenAI에서 사용하는 모델은 빌드 호출 중에 제공되는 자연어 지침과 예제를 사용하여 요청된 작업과 필요한 기술을 결정합니다. 이 방법을 사용할 때 프롬프트의 첫 번째 부분에는 자연어 지침 및/또는 필요한 특정 작업의 예가 포함됩니다. 그런 다음 모델은 가장 가능성이 높은 다음 텍스트를 예측하여 작업을 완료합니다. 이 기술을 "상황 내" 학습이라고 합니다. 힌트에 포함된 컨텍스트를 기반으로 예측이 제공되며, 이러한 모델은 이 단계에서 재교육되지 않습니다.

상황별 학습에는 퓨샷, 싱글샷, 제로샷의 세 가지 주요 방법이 있습니다. 이러한 방법은 모델에 제공되는 작업별 데이터의 양에 따라 다릅니다.

: 이 경우 사용자는 예상되는 응답 형식과 내용을 보여주는 호출 프롬프트에 몇 가지 예를 포함합니다. 다음 예는 여러 예를 제공하는 여러 장면 프롬프트를 보여줍니다(모델이 마지막 답변을 생성함): 🎜Copy🎜🎜

Convert the questions to a command:Q: Ask Constance if we need some bread.A: send-msg `find constance` Do we need some bread?Q: Send a message to Greg to figure out if things are ready for Wednesday.A: send-msg `find greg` Is everything ready for Wednesday?Q: Ask Ilya if we're still having our meeting this evening.A: send-msg `find ilya` Are we still having a meeting this evening?Q: Contact the ski store and figure out if I can get my skis fixed before I leave on Thursday.A: send-msg `find ski store` Would it be possible to get my skis fixed before I leave on Thursday?Q: Thank Nicolas for lunch.A: send-msg `find nicolas` Thank you for lunch!Q: Tell Constance that I won't be home before 19:30 tonight — unmovable meeting.A: send-msg `find constance` I won't be home before 19:30 tonight. I have a meeting I can't move.Q: Tell John that I need to book an appointment at 10:30.A:

구체적인 예시 수는 단일 프롬프트의 최대 입력 길이(보통 0~100)로 수용할 수 있는 예시 수에 따라 결정됩니다. 최대 입력 길이는 사용 중인 특정 모델에 따라 다를 수 있습니다. 퓨샷 학습은 정확한 예측에 필요한 작업별 데이터의 양을 크게 줄일 수 있습니다. 이 방법은 일반적으로 미세 조정 모델보다 정확도가 떨어집니다.

Single Shot: 이 경우는 예시가 하나만 제공되는 점을 제외하면 Few Shot 방식과 동일합니다.

Zero Shot: 이 경우 모델에는 예제가 제공되지 않고 작업 요청만 제공됩니다.

모델

이 서비스는 사용자에게 다양한 모델에 대한 액세스를 제공합니다. 각 모델은 서로 다른 기능과 가격대를 제공합니다.

GPT-4 모델은 최신 모델입니다. 높은 수요로 인해 이 모델 범위는 현재 요청 시에만 제공됩니다. 액세스를 요청하려면 기존 Azure OpenAI 고객이 이 양식을 작성하여 신청할 수 있습니다.

GPT-3 기본 모델은 능력이 감소하고 속도가 증가하는 순서로 Leonardo da Vinci, Curie, Babbage 및 Ada로 알려져 있습니다.

Codex 모델 제품군은 자연어 및 코드에 대해 훈련된 GPT-3의 후손이며, 자연어에서 코드로의 변환을 지원하도록 설계되었습니다. 모델 개념 페이지에서 각 모델에 대해 자세히 알아보세요.