Crewai 및 Ollama로 다중 에이전트 시스템을 구축하는 방법?

소개

API에 돈을 쓰고 싶지 않거나 프라이버시에 대해 걱정하고 있습니까? 아니면 LLMS를 현지에서 실행하고 싶습니까? 괜찮아요; 이 안내서는 완전히 무료로 지역 LLM을 사용하여 에이전트 및 다중 에이전트 프레임 워크를 구축하는 데 도움이됩니다. 우리는 Crewai와 Ollama와 함께 다중 에이전트 시스템을 구축하는 방법을 살펴보고 Ollama에서 사용할 수있는 여러 LLM을 살펴 보겠습니다.

개요

• 이 안내서는 Crewai 및 Ollama와 함께 로컬 LLM을 사용하여 에이전트 프레임 워크 및 다중 에이전트 시스템을 구축하여 비용이없고 개인 정보 보호 솔루션을 제공하는 데 중점을 둡니다.
• Crewai 및 Ollama와 함께 에이전트의 주요 개념과 다중 농업 프레임 워크를 소개하여 다양한 산업에서 자율적이고 협력적인 문제 해결에서의 역할을 강조합니다.
• Crewai는 에이전트 간의 작업을 조정하기위한 고급 프레임 워크로 강조됩니다. 구조화 된 역할, 목표 및 메모리 관리를 사용하여 작업 실행을 개선합니다.
• Ollama를 사용하면 LLAMA2, LLAMA3 및 LLAVA와 같은 언어 모델을 현지에서 실행할 수 있으므로 사용자는 AI 작업을위한 클라우드 서비스를 우회 할 수 있습니다.
• 이 기사에는 Crewai 및 Ollama를 사용하여 이미지 분류, 설명 및 정보 검색을위한 다중 에이전트 시스템을 구축하는 실질적인 예가 포함되어 있습니다.
• 결론은 전문화 된 작업에 다른 LLM을 사용하는 이점을 강조하고 지역 환경에서 Crewai와 Ollama를 결합하는 유연성을 보여줍니다.

목차

• 소개
• 에이전트, 에이전트 프레임 워크 및 Crewai
  • 에이전트 프레임 워크
  • Crewai 프레임 워크
  • Crewai의 주요 강점
  • 올라마
• 다중 에이전트 시스템 구축
  • 목표
  • 구성 요소
• 다중 에이전트 시스템을 구축합시다
  • 필수 라이브러리를 가져옵니다
  • 에이전트를 정의하십시오
  • 각 에이전트에 대한 작업을 정의하십시오
  • 승무원과의 대리인 및 작업 관리
• 결론
• 자주 묻는 질문

에이전트, 에이전트 프레임 워크 및 Crewai

생성 AI는 기본 대형 언어 모델 (LLM)에서 고급 다중 에이전트 시스템으로 전환되었습니다. 이론적으로, 에이전트는 인간의 입력없이 계획, 추론 및 행동 할 수있는 자율 시스템입니다. 이 요원들은 기능을 확장하면서 인간의 참여를 줄이는 것을 목표로합니다.

또한 읽기 : 2024 년 AI 에이전트 구축을위한 상위 5 개 프레임 워크

에이전트 프레임 워크

이러한 프레임 워크는 콘서트에서 일하는 여러 에이전트를 활용하여 단일 사용량 에이전트의 기능을 초과하는 협업, 커뮤니케이션 및 문제 해결이 가능합니다. 이러한 프레임 워크에서 에이전트는 뚜렷한 역할과 목표를 가지고 있으며 복잡한 작업을 수행 할 수 있습니다. Crewai 및 Ollama와 같은 다중 대용기 프레임 워크는 대규모, 역동적 및 분산 문제 해결에 필수적이므로 로봇 공학, 금융, 의료 및 그 이후와 같은 산업에 적응할 수 있습니다.

에이전트 프레임 워크의 주요 구성 요소

• 에이전트 아키텍처 : 계획, 추론 및 커뮤니케이션 프로토콜을 포함한 에이전트의 내부 구조를 정의합니다.
• 커뮤니케이션 프로토콜 : 메시징 및 데이터 교환을 통한 에이전트 협업 방법.
• 에이전트 상호 작용 설계 : 작업 할당 및 충돌 해결을 포함한 에이전트 협업 메커니즘.
• 환경 : 에이전트가 상호 작용하는 설정, 종종 외부 도구 및 리소스를 포함하여.

이러한 프레임 워크는 모듈 식 및 확장 가능한 시스템을 가능하게하여 에이전트를 수정하거나 추가하여 진화하는 요구 사항에 쉽게 적응할 수 있도록합니다.

Crewai 프레임 워크

Crewai는 고급 다중 에이전트 프레임 워크로, 여러 에이전트 ( "Crew"라고 함)가 작업 오케스트레이션을 통해 협력 할 수있게합니다. 이 프레임 워크는 에이전트를 각 에이전트의 기능에 대한 철저한 이해를 확보하는 세 가지 속성의 세 가지 속성으로 나눕니다. 이 구조화 된 접근 방식은 지적 위험을 완화하여 작업 정의 및 실행을 향상시킵니다.

Crewai의 주요 강점

• 명시적인 작업 정의 : 작업은 잘 정의되어 각 에이전트가하는 일에 명확성을 보장합니다.
• 공구 사용 : 작업 별 도구는 에이전트 수준 도구 앞에있어보다 세분화되고 제어되는 도구 세트를 만듭니다.
• 에이전트 상호 작용 프로세스 : CrewAI는 순차적이고 계층 적 에이전트 협업 프로세스를 지원합니다.
• 고급 메모리 관리 : 프레임 워크는 단기, 장기, 실체 및 상황에 맞는 메모리를 제공하여 정교한 추론과 학습을 촉진합니다.

또한 읽으십시오 : Crewai와 함께 공동 작업 AI 요원 구축

올라마

Ollama는 로컬 기계에 언어 모델을 구축하고 실행하는 프레임 워크입니다. 클라우드 기반 서비스없이 장치에서 모델을 직접 실행할 수 있으므로 사용하기 쉽습니다. 프라이버시에 대한 걱정이 없습니다.

Ollama와 상호 작용하려면 :

Ollama를 Python과 통합하기 위해 PIP 설치 Ollama 명령을 실행할 수 있습니다.

이제 Ollama Pull 명령으로 모델을 다운로드하여 모델을 다운로드 할 수 있습니다.

이것들을 실행합시다 :

 올라마 당김 llama2

올라마 당김 llama3

올라마 당김 llava

이제 LLMS (Loge) 3 가지 대형 언어 모델 (LLM)이 있습니다.

1. LLAMA 2 : 메타의 오픈 소스 대형 언어 모델.
2. LLAMA 3 : Meta의 LLAMA 시리즈의 최신 반복, 매개 변수 크기와 효율성이 증가한 복잡한 언어 생성 작업을위한 추가 정제 기능.
3. llava : 이미지 및 텍스트 이해 작업을 위해 설계된 비전 언어 모델.

Ollama Run Model-Name을 실행 하여이 모델을 로컬로 사용할 수 있습니다. 예는 다음과 같습니다.

Ctrl D를 눌러 종료 할 수 있습니다.

또한 읽으십시오 : Ollama와 함께 LLM 모델을 로컬로 실행하는 방법?

다중 에이전트 시스템 구축

이미지를 입력으로 취하고 시스템의 동물에 대한 몇 가지 흥미로운 사실을 제공하는 에이전트 시스템을 구축하는 데 작업합시다.

목표

1. Crewai를 사용하여 이미지 분류, 설명 및 정보 검색을위한 다중 에이전트 시스템을 구축하십시오 .
2. 의사 결정 자동화 : 에이전트는 이미지에서 동물을 식별하고, 설명하고, 관련 사실을 가져 오는 것과 같은 특정 작업을 수행합니다.
3. 작업 시퀀싱 : 단계별 에이전트 시스템의 작업을 통해 에이전트를 조정합니다.

구성 요소

1. 분류기 에이전트 : 입력 이미지에 LLAVA : 7B 모델을 사용하는 동물이 포함되어 있는지 여부를 식별합니다.
2. 설명 에이전트 : 이미지의 동물을 설명하고 Llava : 7b로 구동됩니다.
3. 정보 검색 에이전트 : LLAMA2를 사용하여 동물에 대한 추가 사실을 가져옵니다.
4. 작업 정의 : 각 작업은 특정 에이전트와 연결되어 작업을 안내합니다.
5. 승무원 관리 : 승무원은 입력 이미지를 기반으로 대리인 조치를 조정하고 작업을 실행하며 결과를 집계합니다.

기본적으로 작업은 Crewai에서 순차적으로 실행됩니다. 실행 순서를 제어하기 위해 작업 관리자를 추가 할 수 있습니다. 또한 Allow_Delegation 기능을 통해 에이전트는 이전 에이전트에게 필요한 경우 응답을 재생하도록 요청할 수 있습니다. 메모리를 True로 설정하면 에이전트가 과거의 상호 작용에서 학습 할 수 있으며, 결과적으로 작업을 구성하여 출력에 대한 사람의 피드백을 요청할 수 있습니다.

또한 읽으십시오 : Crewai와 함께 공동 작업 AI 요원 구축

다중 에이전트 시스템을 구축합시다

시작하기 전에 필요한 모든 패키지를 설치하겠습니다.

 PIP 설치 Crewai

PIP 설치 'Crewai [도구]

Pip Ollama를 설치하십시오

필수 라이브러리를 가져옵니다

 Crewai 수입 대리인, 작업, 승무원으로부터

PKG_RESOURCES 가져 오기

# Crewai의 버전을 얻으십시오

crewai_version = pkg_resources.get_distribution ( "crewai"). 버전

인쇄 (crewai_version)
0.61.0

에이전트를 정의하십시오

여기서는 특정 역할과 목표를 가진 세 가지 에이전트를 정의합니다. 각 에이전트는 이미지 분류 및 설명과 관련된 작업을 담당합니다.

• 분류기 에이전트 : 이미지에 동물이 포함되어 있는지 확인하고 Llava : 7B 모델을 사용하여 동물을 분류합니다.
• 설명 에이전트 : 이미지의 동물을 설명합니다. 이것은 또한 이전 에이전트와 동일한 llava : 7b 모델을 사용합니다.
• 정보 검색 에이전트 :이 에이전트는 동물에 대한 추가 정보 또는 흥미로운 사실을 검색합니다. 이 정보를 제공하기 위해 llama2를 사용합니다.

 # 1. 이미지 분류기 에이전트 (이미지가 동물인지 확인하려면)

classifier_agent = 에이전트 (

역할 = "이미지 분류기 에이전트",

목표 = "이미지가 동물인지 확인하십시오",

backstory = "" "

당신은 동물에 대한 눈이 있습니다! 귀하의 임무는 입력 이미지가 동물 의지 확인하는 것입니다.

또는 다른 것.

"" ",

LLM = 'Ollama/llava : 7B' # 이미지 관련 작업을위한 모델

))

# 2. 동물 설명 에이전트 (이미지의 동물을 설명하기 위해)

description_agent = 에이전트 (

역할 = "동물 설명 에이전트 {image_path}",

목표 = "이미지에서 동물을 설명하십시오",

backstory = "" "

당신은 자연과 동물을 사랑합니다. 당신의 임무는 이미지를 기반으로 한 동물을 설명하는 것입니다.

"" ",

LLM = 'Ollama/llava : 7B' # 이미지 관련 작업을위한 모델

))

# 3. 정보 검색 에이전트 (동물에 대한 추가 정보를 가져 오기 위해)

info_agent = 에이전트 (

역할 = "정보 에이전트",

목표 = "특정 동물에 대한 설득력있는 정보 제공",

backstory = "" "

당신은 흥미로운 사실을 말하는 데 매우 능숙합니다.

모르는 경우 잘못된 정보를 제공하지 않습니다.

"" ",

llm = 'Ollama/llama2' # 일반 지식 검색을위한 모델

))

또한 읽기 : 생성 AI 응용 프로그램을위한 에이전트 프레임 워크

각 에이전트에 대한 작업을 정의하십시오

각 작업은 에이전트 중 하나에 묶여 있습니다. 작업은 입력, 예상 출력 및 어떤 에이전트를 처리 해야하는지 설명합니다.

• 과제 1 : 이미지에 동물이 포함되어 있는지 분류하십시오.
• 과제 2 : 이미지가 동물로 분류되면 설명하십시오.
• 과제 3 : 설명을 바탕으로 동물에 대한 추가 정보를 제공합니다.

 # 작업 1 : 이미지가 동물인지 확인

task1 = task (

description = "이미지를 분류하고 ({image_path}) 동물인지 알려주세요.",

예상 _output = "동물이라면 '동물'이라고 말하고 그렇지 않으면 '동물이 아니라'라고 말하십시오.",

에이전트 = classifier_agent

))

# 과제 2 : 동물이라면 설명하십시오

task2 = task (

설명 = "이미지에서 동물을 설명하십시오. ({image_path})",

expect_output = "동물에 대한 자세한 설명을 제공하십시오.",

에이전트 = description_agent

))

# 과제 3 : 동물에 대한 자세한 정보를 제공하십시오

task3 = task (

설명 = "설명 된 동물에 대한 추가 정보를 제공하십시오.",

expect_output = "동물에 대한 5 가지 이상의 흥미로운 사실이나 정보를 제공합니다.",

에이전트 = info_agent

))

승무원과의 대리인 및 작업 관리

에이전트와 작업을 관리하기 위해 승무원이 설립되었습니다. 그것은 과제를 순차적으로 조정하고 에이전트의 사고 체인을 기반으로 결과를 제공합니다.

 # 대리인과 작업을 관리하는 승무원

승무원 = 승무원 (

에이전트 = [classifier_agent, description_agent, info_agent],

tasks = [task1, task2, task3],

Verbose = true

))

# 제공된 이미지 경로로 작업을 실행합니다

result = crew.kickoff (입력 = { 'image_path': 'racoon.jpg'})

나는 Crewai 프레임 워크에 너구리의 이미지를 주었다. 그리고 이것은 내가 얻은 출력이다.

참고 : 이미지가 작업 디렉토리에 있는지 확인하거나 전체 경로를 제공 할 수 있습니다.

산출

 # 에이전트 : 이미지 분류기 에이전트<br><br> ## 작업 : 이미지를 분류하고 (racoon.jpg) 동물인지 알려주세요.<br><br> # 에이전트 : 이미지 분류기 에이전트<br><br> ## 최종 답변 :<br><br> 내 분석을 바탕으로 이미지 (racoon.jpg)에는 너구리가 포함되어 있습니다.<br> 실제로 동물. 따라서 최종 답은 '동물'입니다.<br><br> # 에이전트 : 동물 설명 에이전트 racoon.jpg<br><br> ## 작업 : 이미지에서 동물을 설명하십시오. (racoon.jpg)<br><br> # 에이전트 : 동물 설명 에이전트 racoon.jpg<br><br> ## 최종 답변 :<br><br> 이미지 (racoon.jpg)는 너구리가 특징이며,이 끈은 그로 유명한 포유 동물입니다.<br> 다양한 환경에 대한 민첩성과 적응성. 너구리는 특징입니다<br> 눈과 귀 주위의 독특한 검은 색 "마스크"로<br> 얼굴과 발에 흰색 표시가있는 회색 또는 갈색 코트. 그들은 가지고 있습니다<br> 비교적 짧은 꼬리와 작은 둥근 귀. 너구리는 잡식성이며<br> 그들이 물체를 조작하는 데 사용하는 매우 빠른 프론트 발을 가지고 있습니다. 그들<br> 지능과 다음과 같은 문제를 해결하는 능력으로도 알려져 있습니다.<br> 컨테이너를 열거나 나무 등반.<br><br> # 에이전트 : 정보 에이전트<br><br> ## 작업 : 설명 된 동물에 대한 추가 정보를 제공하십시오.<br><br> # 에이전트 : 정보 에이전트<br><br> ## 최종 답변 :<br><br> 너구리에 대한 5 가지 매혹적인 사실은 다음과 같습니다.<br><br> 1. 너구리는 앞발에 탁월한 손재주를 가지고 있으며<br> 현저한 정밀도로 물체를 조작하십시오. 실제로 연구 결과가 보여졌습니다<br> 너구리는 컨테이너를 열고 다른 작업을 수행 할 수 있습니다.<br> 인간의 기술 수준!<br><br> 2. 귀여운 외관에도 불구하고 너구리는 엄청난 사냥꾼이며<br> 물고기, 곤충 및 작은 포유류를 포함하여 다양한 먹이를 잡으십시오.<br> 그들의 민감한 주둥이는 그들이 어두운 물에서 음식을 찾는 데 도움이되거나<br> 덤불.<br><br> 3. 너구리는 적응력이 뛰어나며 다양한 서식지에서 찾을 수 있습니다.<br> 숲에서 습지, 도시 지역에 이르기까지. 그들은 심지어 나무를 오르는 것으로 알려져 있습니다<br> 그리고 물 속에서 수영!<br><br> 4. 지능과 문제 해결 기술 외에도 너구리<br> 훌륭한 메모리를 가지고 있으며 인식하고 상호 작용할 수 있습니다.<br> 개별 인간과 다른 동물. 그들은 또한 트릭을 수행하는 법을 배울 수 있습니다<br> 그리고 훈련을 통한 과제.<br><br> 5. 다른 많은 포유류와 달리 너구리는 겨울 동안 동면하지 않습니다.<br> 달. 대신, 그들은 Torpor로 알려진 휴면 상태로 들어가고 있습니다.<br> 그들이 에너지를 보존하고 가혹한 기상 조건에서 살아남을 수있게합니다. 동안<br> 이번에는 심박수가 약 70-80 비트에서 급격히 느려집니다.<br> 분만 10-20!<br><br> 이 흥미로운 사실이 포괄적 인 이해를 제공하기를 바랍니다.<br> 매혹적인 너구리 종!

분류기는 그것이 동물임을 확인한 다음 Llava : 7b 모델을 가진 에이전트가 동물과 이미지를 설명하고 그것을 순차적으로 정보 에이전트에게 전달했습니다. 텍스트 기반 모델 인 LLAMA2를 사용하는 정보 에이전트에도 불구하고 이전 에이전트의 컨텍스트를 사용하고 너구리에 대한 정보를 제공 할 수 있습니다.

또한 읽기 : Llama 3.1, Ollama 및 Langchain과 함께 반응 형 챗봇 구축

결론

다른 모델이 다른 작업에서 뛰어나기 때문에 강점에 따라 여러 LLM을 사용하는 것이 좋습니다. 우리는 Crewai와 Ollama를 사용하여 멀티 에이전트 협력을 선보였으며 Ollama의 LLMS를 현지에서도 사용했습니다. 그렇습니다. Ollama 모델은 명백한 이유로 클라우드 기반 모델보다 느리게 진행될 수 있지만 모두 장단점이 있습니다. 에이전트 프레임 워크의 효과는 워크 플로 및 결과를 최적화하기 위해 올바른 도구 및 LLM의 사용에 따라 다릅니다.

자주 묻는 질문

Q1. Crewai의 allow_delegation은 무엇입니까?

Ans. True로 설정되면이 Crewai 매개 변수를 사용하면 에이전트가 다른 사람에게 작업을 할당하여 복잡한 작업 흐름과 협업을 가능하게합니다.

Q2. Crewai는 Pydantic Objess를 어떻게 사용합니까?

Ans. Crewai는 Pydantic 객체를 사용하여 작업 입력/출력 데이터 구조를 정의하고 검증하여 에이전트가 예상 형식으로 데이터를 수신하고 생성하도록합니다.

Q3. Crewai는 작업 흐름 및 에이전트 협업을 어떻게 관리합니까?

Ans. Crewai는 사용자 정의 종속성을 기반으로 순차적으로 작업을 조정하여 에이전트와 작업을 '승무원'객체로 구성하여이를 관리합니다.

Q4. Crewai 및 Ollama와 함께 사용자 정의 LLM을 사용할 수 있습니까?

Ans. 예, 둘 다 사용자 정의 LLM을 지원합니다. Crewai의 경우 에이전트를 만들 때 모델 경로/이름을 지정하십시오. Ollama의 경우 문서를 따라 맞춤형 모델을 구축하고 실행하십시오.

위 내용은 Crewai 및 Ollama로 다중 에이전트 시스템을 구축하는 방법?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!