AISuite: 여러 LLM 제공업체 간의 GenAI 통합 단순화

제너레이티브 AI(Gen AI)는 창의성, 문제 해결, 자동화 잠재력을 바탕으로 산업을 재편하고 있습니다. 그러나 개발자는 단편화된 API 및 구성으로 인해 다양한 공급자의 LLM(대형 언어 모델)을 통합할 때 심각한 문제에 직면하는 경우가 많습니다. 이러한 상호 운용성 부족으로 인해 워크플로가 복잡해지고 개발 일정이 연장되며 효과적인 Gen AI 애플리케이션 생성이 방해를 받습니다.

이 문제를 해결하기 위해 Andrew Ng 팀은 OpenAI, Anthropic, Ollama와 같은 제공업체 전반에서 LLM 통합을 간소화하는 오픈 소스 Python 라이브러리인 AISuite를 도입했습니다. AISuite를 사용하면 개발자는 간단한 "provider:model" 문자열(예: openai:gpt-4o 또는 anthropic:claude-3-5)을 사용하여 모델 간에 전환할 수 있으므로 광범위한 코드를 다시 작성할 필요가 없습니다. AISuite는 통합 인터페이스를 제공함으로써 복잡성을 크게 줄이고 개발을 가속화하며 다용도 Gen AI 애플리케이션 구축을 위한 새로운 가능성을 열어줍니다.

이 기사에서는 AISuite의 작동 방식, 실제 적용 방법, 다양한 LLM과 협력할 때 발생하는 문제를 해결하는 데 있어 AISuite의 효율성을 살펴보겠습니다.

시작하기

목차

• AI Suite란 무엇인가요
• AI Suite가 중요한 이유
• AISuite 실험
• 채팅 완료 만들기
• 질의를 위한 일반 함수 생성

AISuite란 무엇인가요?

AISuite는 여러 제공업체의 대규모 언어 모델(LLM) 통합 및 관리를 단순화하기 위해 Andrew Ng 팀이 개발한 오픈 소스 Python 라이브러리입니다. 다양한 API, 구성 및 데이터 형식으로 작업할 때 발생하는 복잡성을 추상화하여 개발자에게 워크플로를 간소화할 수 있는 통합 프레임워크를 제공합니다.

AI Suite의 주요 기능:

• 간단한 인터페이스: AISuite는 다양한 LLM 관리를 위한 간단하고 일관된 인터페이스를 제공합니다. 개발자는 단 몇 줄의 코드만으로 모델을 자신의 애플리케이션에 통합할 수 있어 Gen AI 프로젝트의 진입 장벽을 크게 낮출 수 있습니다.
• 통합 프레임워크: AISuite는 여러 API 간의 차이점을 추상화하여 다양한 유형의 요청과 응답을 원활하게 처리합니다. 이를 통해 개발 오버헤드가 줄어들고 프로토타입 제작 및 배포가 가속화됩니다.
• 쉬운 모델 전환: AISuite를 사용하면 모델 간 전환이 코드에서 단일 문자열을 변경하는 것만큼 쉽습니다. 예를 들어 개발자는 애플리케이션의 중요한 부분을 다시 작성하지 않고도 openai:gpt-4o 또는 anthropic:claude-3-5와 같은 '공급자:모델' 조합을 지정할 수 있습니다.
• 확장성: AISuite는 진화하는 Gen AI 환경에 적응하도록 설계되었습니다. 개발자는 새로운 모델과 공급자가 출시되면 추가하여 최신 AI 기능으로 애플리케이션을 최신 상태로 유지할 수 있습니다.

AISuite가 중요한 이유는 무엇입니까?

AISuite는 Gen AI 생태계의 중요한 문제점, 즉 다양한 제공업체의 LLM 간 상호 운용성 부족 문제를 해결합니다. 통일된 인터페이스를 제공함으로써 개발 프로세스를 단순화하고 시간을 절약하며 비용을 절감합니다. 이러한 유연성을 통해 팀은 특정 작업에 가장 적합한 모델을 선택하여 성능을 최적화할 수 있습니다.

초기 벤치마크와 커뮤니티 피드백은 다중 모델 애플리케이션의 통합 시간을 단축하고 개발자 효율성과 생산성을 향상시키는 AISuite의 능력을 강조합니다. Gen AI 생태계가 성장함에 따라 AISuite는 AI 기반 솔루션의 실험, 구축 및 확장에 대한 장벽을 낮춰줍니다.

AI Suite 실험

필요한 종속성을 설치하여 AISuite 탐색을 시작해 보겠습니다.

종속성 설치

• 다음 명령어를 실행하여 가상 환경을 생성하고 활성화하세요.

python -m venv venv
source venv/bin/activate #for ubuntu
venv/Scripts/activate #for windows

• pip를 사용하여 aisuite, openai 및 python-dotenv 라이브러리를 설치합니다.

pip install aisuite[all] openai python-dotenv

환경 및 자격 증명 설정

.env라는 파일을 만듭니다. 이 파일은 OpenAI 키를 포함한 환경 변수를 저장합니다.

• .env 파일을 열고 다음 코드를 추가하여 OpenAI API 키를 지정하세요.

OPENAI_API_KEY=sk-proj-7XyPjkdaG_gDl0_...
GROQ_API_KEY=gsk_8NIgj24k2P0J5RwrwoOBW...

• 환경 변수에 API 키를 추가합니다.

import os
from dotenv import load_dotenv
load_dotenv()
os.environ['OPENAI_API_KEY'] = os.getenv('OPENAI_API_KEY')
os.environ['ANTHROPIC_API_KEY'] = getpass('Enter your ANTHROPIC API key: ')

AI Suite 클라이언트 초기화

AISuite 클라이언트의 인스턴스를 생성하여 여러 LLM과 표준화된 상호 작용을 활성화합니다.

python -m venv venv
source venv/bin/activate #for ubuntu
venv/Scripts/activate #for windows

모델 쿼리

사용자는 AISuite를 사용하여 다음과 같이 모델을 쿼리할 수 있습니다.

pip install aisuite[all] openai python-dotenv

• model="openai:gpt-4o": 모델의 유형과 버전을 지정합니다.
• messages=messages: 이전에 정의된 프롬프트를 모델에 보냅니다.
• 온도=0.75: 응답의 무작위성을 조정합니다. 값이 높을수록 창의적인 결과물이 생성되고, 값이 낮을수록 더욱 결정적인 결과가 생성됩니다.
• response.choices[0].message.content: 모델의 응답에서 텍스트 콘텐츠를 검색합니다.

채팅 완료 만들기

OpenAI 모델을 이용하여 채팅 완료 코드를 만들어 보겠습니다.

OPENAI_API_KEY=sk-proj-7XyPjkdaG_gDl0_...
GROQ_API_KEY=gsk_8NIgj24k2P0J5RwrwoOBW...

• 다음 명령어를 사용하여 앱을 실행하세요.

import os
from dotenv import load_dotenv
load_dotenv()
os.environ['OPENAI_API_KEY'] = os.getenv('OPENAI_API_KEY')
os.environ['ANTHROPIC_API_KEY'] = getpass('Enter your ANTHROPIC API key: ')

다음과 같이 출력됩니다.

쿼리를 위한 일반 함수 만들기

다른 모델을 호출하기 위해 별도의 코드를 작성하는 대신, 코드 반복을 없애고 효율성을 높일 수 있는 일반 함수를 만들어 보겠습니다.

client = ai.Client()
Defining the prompt
The prompt syntax closely resembles OpenAI’s structure, incorporating roles and content.

messages = [
   {"role": "system", "content": "You are a helpful assistant."},
   {"role": "user", "content": "Tell a joke in 1 line."}
]

ask 기능은 AI 모델에 쿼리를 보내기 위해 설계된 재사용 가능한 유틸리티입니다. 다음 매개변수를 허용합니다:

• 메시지: 사용자의 쿼리 또는 프롬프트입니다. sys_message(선택 사항): 모델의 동작을 안내하는 시스템 수준 명령입니다.
• 모델: 사용할 AI 모델을 지정합니다. 이 함수는 입력 매개변수를 처리하여 지정된 모델로 전송하고 AI의 응답을 반환하므로 다양한 모델과 상호 작용할 수 있는 다목적 도구입니다.

다음은 일반 질문 기능을 사용하여 OpenAI 모델과 상호작용하기 위한 전체 코드입니다.

# openai model
response = client.chat.completions.create(model="openai:gpt-4o", messages=messages, temperature=0.75)
# ollama model
response = client.chat.completions.create(model="ollama:llama3.1:8b", messages=messages, temperature=0.75)
# anthropic model
response = client.chat.completions.create(model="anthropic:claude-3-5-sonnet-20241022", messages=messages, temperature=0.75)
# groq model
response = client.chat.completions.create(model="groq:llama-3.2-3b-preview", messages=messages, temperature=0.75)
print(response.choices[0].message.content)

코드를 실행하면 다음과 같은 출력이 생성됩니다.

여러 API와 상호작용

다음 코드를 통해 AISuite를 사용하여 여러 모델과 상호 작용하는 방법을 살펴보겠습니다.

import os
from dotenv import load_dotenv
load_dotenv()
os.environ['OPENAI_API_KEY'] = os.getenv('OPENAI_API_KEY')

import aisuite as ai

client = ai.Client()

provider = "openai"
model_id = "gpt-4o"

messages = [
    {"role": "system", "content": "You are a helpful assistant"},
    {"role": "user", "content": "Provide an overview of the latest trends in AI"},
]

response = client.chat.completions.create(
    model = f"{provider}:{model_id}",
    messages = messages,
)

print(response.choices[0].message.content)

Anthropic 또는 Groq와 같은 제공업체와 상호작용할 때 어려움이 있을 수 있습니다. AISuite 팀이 원활한 통합과 기능을 보장하기 위해 이러한 문제를 적극적으로 해결하고 있기를 바랍니다.

AISuite는 대규모 언어 모델 환경을 탐색하기 위한 강력한 도구입니다. 이를 통해 사용자는 여러 AI 제공업체의 강점을 활용하는 동시에 개발을 간소화하고 혁신을 장려할 수 있습니다. 오픈 소스 기반과 직관적인 디자인을 갖춘 AISuite는 현대 AI 애플리케이션 개발의 초석으로 돋보입니다.

이 글을 읽어주셔서 감사합니다!!

콘텐츠를 검토해 주신 Gowri M Bhatt에게 감사드립니다.

이 기사가 마음에 드셨다면 하트 버튼♥을 눌러 다른 사람들이 찾을 수 있도록 공유해주세요!

이 튜토리얼의 전체 소스 코드는 여기에서 확인할 수 있습니다.

GitHub - codemaker2015/aisuite-examples : github.com

자원

GitHub - andrewyng/aisuite: 여러 Generative AI 제공업체에 대한 간단하고 통합된 인터페이스: github.com

위 내용은 AISuite: 여러 LLM 제공업체 간의 GenAI 통합 단순화의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!