ModelScope-Agent를 사용하면 초보자도 보모 수준 튜토리얼이 포함된 독점 에이전트를 만들 수 있습니다.

ModelScope-Agent는 사용자가 자신의 에이전트를 쉽게 만들 수 있도록 범용적이고 사용자 정의 가능한 에이전트 프레임워크를 제공합니다. 프레임워크는 오픈 소스 LLM(대형 언어 모델)을 핵심으로 하며 다음 기능을 갖춘 사용자 친화적인 시스템 라이브러리를 제공합니다. 데이터 수집, 도구 검색, 도구 등록, 저장 관리, 맞춤형 모델 교육 및 실제 적용과 같은 기능을 다루며 실제 시나리오에서 신속하게 응용 프로그램을 구현하는 데 사용할 수 있습니다.

• 핵심 구성 요소인 오픈 소스 LLM: ModelScope 커뮤니티의 여러 오픈 소스 LLM에 대한 모델 교육을 지원하고 지원되는 중국어 및 영어 도구 지침 ​​데이터 세트 MSAgent-Bench를 오픈 소스로 제공합니다. 에이전트 허브의 계획 및 예약 기능인 오픈 소스 대규모 모델입니다.
• 다양하고 포괄적인 API, API 검색 지원: 모델 API 및 공통 기능 API와 통합된 방식으로 원활한 통합을 달성하고 기본적으로 오픈 소스 API 검색 솔루션을 제공합니다.
• 페이퍼 링크: https://arxiv.org/abs/2309.00986

코드 링크: https://github.com/modelscope/modelscope-agent

• ModelScope 체험 주소 : https://modelscope.cn/studios/damo/ModelScopeGPT/summary
• Capability display
• 다음은 먼저 ModelScope-Agent를 기반으로 구현된 ModelScopeGPT(Magic GPT)의 일부 기능을 보여줍니다.

다시 작성해야 하는 내용은 다음과 같습니다. 1. 단일 단계 도구 호출에서 에이전트는 적절한 도구를 선택하고 요청을 생성한 다음 실행 결과에 따라 사용자에게 결과를 반환해야 합니다

2. 다단계 도구 호출 과정에서 에이전트는 여러 도구를 계획, 예약, 실행하고 이에 응답해야 합니다

3. 에이전트는 여러 단계의 대화에서 도구 호출을 수행해야 합니다. 과거 대화에서 도구에 전달해야 하는 매개변수를 마이닝합니다.

검색 도구 기반 커뮤니티 지식 질문 및 답변 플랫폼

프레임워크 소개

ModelScope-Agent 프레임워크의 설계 원리는 무엇인가요?

ModelScope-Agent는 실용적인 애플리케이션 개발을 위한 일반 맞춤형 에이전트 프레임워크로, 오픈 소스 LLM(대형 언어 모델)을 핵심으로 하며 메모리 제어 및 도구 사용과 같은 모듈을 포함합니다. 오픈 소스 LLM은 주로 작업 계획, 예약 및 응답 생성을 담당합니다. 메모리 제어 모듈에는 주로 지식 검색 및 프롬프트(프롬프트 단어) 관리가 포함됩니다. 도구 사용 모듈에는 도구 라이브러리, 도구 검색 및 도구 사용자 정의가 포함됩니다. ModelScope-Agent 시스템 아키텍처는 다음과 같습니다:

ModelScope-Agent 프레임워크가 실행되는 방법

ModelScope-Agent의 작동 원리는 목표를 더 작은 작업으로 분할한 다음 수행하는 것입니다. 하나씩 항목이 완성되었습니다. 예를 들어, 사용자가 "단편 소설을 쓰고, 여성 목소리로 읽고, 동시에 비디오를 추가해 보세요"라고 요청하면 ModelScope-Agent는 먼저 전체 작업 계획 프로세스를 표시합니다. 이를 통해 관련 음성 합성 도구를 검색합니다. 도구 검색을 수행하면 오픈 소스 LLM이 계획 및 예약을 수행하고 먼저 스토리를 생성한 다음 해당 음성 생성 모델을 호출하고 음성을 생성하여 여성 음성으로 읽어 사용자에게 표시하고 마지막으로 호출합니다. 생성된 스토리 콘텐츠를 기반으로 비디오를 생성하는 비디오 생성 모델은 현재 요청에 따라 사용자 구성이 필요하지 않으며 사용 편의성이 크게 향상됩니다.

오픈 소스 대형 모델 훈련 프레임워크: 새로운 훈련 방법, 데이터 및 모델 오픈 소스

ModelScope-Agent 프레임워크 외에도 연구팀은 새로운 도구 명령 미세 조정 훈련 방법인 Weighted LM도 제안했습니다. 이는 도구에서 호출하는 일부 토큰에 가중치를 부여하여 오픈 소스 대형 모델 도구 명령을 호출하는 기능을 향상시키는 것입니다. 지침.

연구팀은 또한 여러 라운드의 다단계 도구 지침을 호출할 수 있는 기능을 갖춘 600,000개의 샘플이 포함된 MSAgent-Bench라는 고품질 중국어 및 영어 데이터 세트를 출시했습니다. 연구팀은 이 데이터 세트를 기반으로 새로운 훈련 방법을 사용하여 Qwen-7B 모델을 최적화하고 MSAgent-Qwen-7B라는 모델을 얻었습니다. 관련 데이터 세트 및 모델이 오픈 소스 플랫폼

• MSAgent-Bench: https://modelscope.cn/datasets/damo/MSAgent-Bench/summary
• MSAgent에 공개되었습니다. -Qwen-7B: https://modelscope.cn/models/damo/MSAgent-Qwen-7B/summary

재작성된 내용: 통합 도구 목록

현재 ModelScope-Agent 되었습니다. 자연어 처리, 음성, 비전, 멀티모달리티 등 다양한 AI 모델에 기본적으로 연결되어 있으며, 지식 검색, API 검색 등 오픈소스 솔루션도 기본적으로 통합했습니다.

ModelScope-Agent practice

ModelScope-Agent github은 또한 초보자가 자신의 에이전트를 구축할 수 있도록 보모 수준의 연습 데모 페이지를 제공합니다.

데모 노트북을 다운로드하세요: https://github.com/modelscope/modelscope-agent/blob/master/demo/demo_qwen_agent.ipynb

1. 먼저 ModelScope-Agent 코드를 가져와 관련 종속 항목을 설치하세요.

2. ModelScope 토큰 및 빌드 API 도구 검색 엔진을 포함하여 구성 파일을 구성해야 합니다

3. 사용, 종속성 이전에 구축한 대규모 모델, 도구 목록, 도구 검색 및 메모리 모듈

새 도구 실습 등록

1. ModelScope-Agent 코드를 가져온 후 modelscope_agent/tools 디렉터리에 들어갑니다. 코드 수준 custom_tool.py라는 새 파일을 추가합니다. 이 파일에서 API의 필수 설명, 이름, 매개변수를 구성합니다. 동시에 두 가지 호출 방법 옵션이 추가됩니다: local_call(로컬 호출) 및 remote_call(원격 호출)

다시 작성해야 하는 내용은 다음과 같습니다. 2. 구성 환경 및 대규모 모델 배포는 2를 참조하세요. 이전 장에서 3

3. 새로 등록된 도구를 목록으로 구성하고 Agent의 구성 프로세스에 추가합니다

4. 도구 테스트 해당 API를 성공적으로 호출할 수 있는지

5. 에이전트는 자동으로 해당 API를 호출하여 실행 결과를 메인 모델에 반환하고, 메인 모델은 응답을 반환합니다

One More Thing

개발자는 위 내용을 참고하세요. 자체 에이전트를 쉽게 구축하기 위한 튜토리얼인 ModelScope-Agent는 Moda 커뮤니티에 의존하며 앞으로 더 많은 새로운 오픈 소스 대형 모델에 적응하고 고객 서비스 에이전트와 같은 ModelScope-Agent를 기반으로 개발된 더 많은 애플리케이션을 출시할 것입니다. 개인 비서 에이전트, 스토리 에이전트, 모션 에이전트, 멀티 에이전트(멀티 모달 에이전트) 등이 있습니다.

위 내용은 ModelScope-Agent를 사용하면 초보자도 보모 수준 튜토리얼이 포함된 독점 에이전트를 만들 수 있습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!