ChatGPT 사기를 식별하기 위해 GPT-4와 같은 대규모 모델을 위한 자체 도구 만들기

목차:

1. AI 생성 텍스트의 다중 규모 긍정-비레이블 탐지
2. 생각의 사슬 뒤의 미스터리를 밝히기 위해: 이론적 관점
3. 도구 제작자로서의 대규모 언어 모델
4. SpecInfer: 추측 추론 및 토큰 트리 검증을 통한 생성적 LLM 제공 가속화
5. 저렴하고 빠르다: 대규모 언어 모델을 위한 효율적인 비전 언어 지침 조정
6. mPLUG-2: 텍스트 전반에 걸친 모듈화된 다중 모드 기반 모델, 이미지 및 비디오
7. 추천 시스템의 다음 단계는 무엇입니까? ID 기반 추천 모델과 모달리티 기반 추천 모델의 재검토

문서 1: AI 생성 텍스트의 다중 규모 긍정적인 레이블 없는 감지

• 저자 : Yuchuan Tian, ​​​​Hanting Chen 등
• 논문 주소: https://arxiv.org/abs/2305.18149

요약: AI 사기의 성공률은 며칠 전 '10'1분에 430만 사기'도 화제가 됐다. 가장 인기 있는 대형 언어 모델과 관련하여 북경대학교와 화웨이의 연구원들은 최근 인식 방법을 연구했습니다. 다음은 동일한 질문에 각각 답하는 사람과 AI의 몇 가지 예입니다.

권장: "ChatGPT 사기"를 식별하면 효과가 OpenAI를 능가합니다. Peking University 및 Huawei의 AI 생성 탐지기가 여기에 있습니다

논문 2: 사고의 사슬 뒤의 미스터리 밝히기: 이론적 관점

• 저자: Guhao Feng, Bohang Zhang 등
• 논문 주소: https://arxiv.org/abs /2305.15408

요약: CoT(Chain of Thought Tips)는 특히 수학적 추론과 의사결정 문제를 해결하는 데 있어 대형 모델의 출현에서 가장 신비한 현상 중 하나이며, 이는 놀라운 결과를 달성했습니다. CoT는 얼마나 중요합니까? 성공의 메커니즘은 무엇입니까? 이 기사에서 Peking University의 여러 연구자들은 CoT가 LLM(대형 언어 모델) 추론을 실현하는 데 없어서는 안 될 필수 요소임을 입증하고 CoT가 이론 및 실험적 관점에서 LLM의 엄청난 잠재력을 어떻게 발휘할 수 있는지 보여줍니다.

이 기사에서는 두 가지 매우 기본적이지만 핵심적인 수학 작업인 산술과 방정식을 선택합니다(다음 그림은 이 두 작업의 입력 및 출력 예를 제공합니다)

권장 사항: Thinking Chain How to 언어 모델의 숨겨진 힘을 밝혀내시겠습니까? 최신 이론적 연구는 그 뒤에 숨겨진 미스터리를 밝혀줍니다

문서 3: 도구 제작자로서의 대규모 언어 모델

• 저자: Tianle Cai, Xuezhi Wang 등
• 논문 주소: https ://arxiv .org/pdf/2305.17126.pdf

요약: 인간에게 도구를 만드는 것의 중요성에 영감을 받아 이 기사에서 Google Deepmind, Princeton 및 Stanford University의 연구원들은 " 진화"를 관점으로 LLM 분야에 적용하여 예비 탐구를 수행했습니다. 그들은 LATM(도구 제작자로서의 LLM)을 통해 새로운 작업을 처리하기 위해 재사용 가능한 자체 도구를 생성할 수 있는 폐쇄 루프 프레임워크를 제안합니다.

권장사항: GPT-4 및 기타 대형 모델은 진화의 전환점에 도달했습니다. 이를 사용할 뿐만 아니라 자체 도구도 만들었습니다.

문서 4: SpecInfer: 추측 추론 및 토큰을 통한 생성적 LLM 제공 가속화 Tree Verification ~ Nike Mellon University(CMU)의 Catalyst Group 팀은 가벼운 소형 모델을 사용하여 대형 모델을 지원하고 정확도에 영향을 주지 않고 2~3배의 추론을 달성할 수 있는 "추측 추론" 엔진 SpecInfer를 출시했습니다. 생성된 콘텐츠를 가속화합니다.

• 추천: LLM 추론이 2.8배 가속화됨, CMU Tsinghua Yao 졸업생이 "추측 추론" 엔진 SpecInfer 제안, 소형 모델은 효율적인 추론을 위해 대형 모델 활용

Paper 5 : 저렴하고 빠릅니다: 대규모 언어 모델을 위한 효율적인 비전-언어 지침 조정

저자: Gen Luo, Yiyi Zhou 등

논문 주소: https://arxiv.org/pdf /2305.15023.pdf

요약: 이 논문은 MMA라고 불리는 VL(시각적 언어) 작업에 LLM을 효율적으로 적용하기 위한 새롭고 저렴한 솔루션을 제안합니다. MMA는 대규모 신경망을 사용하여 이미지 인코더와 LLM을 연결하는 대신 어댑터라는 경량 모듈을 채택하여 LLM과 VL 작업 간의 격차를 해소하는 동시에 이미지 모델과 언어 모델의 공동 최적화를 지원합니다. 동시에 MMA에는 자연어 이해 기능을 손상시키지 않으면서 LLM이 단일 모드 명령과 다중 모드 명령 간에 자동으로 전환하는 데 도움이 되는 라우팅 알고리즘도 탑재되어 있습니다.

• 권장: 교육 시간 71.4% 감소, 저장 비용 99.9% 절감, Xiamen University의 새로운 교육 튜닝 솔루션 MMA를 사용하면 알파카 모델이 다중 양식을 달성할 수 있습니다

논문 6: mPLUG- 2: 텍스트, 이미지 및 비디오에 걸친 모듈화된 다중 모드 기반 모델

저자: Haiyang Xu, Qinghao Ye et al

논문 주소: https://arxiv .org/pdf/2302.00402 .pdf

Abstract:멀티모달 기본 모델의 경우 특정 멀티모달 관련 작업을 처리할 수 있을 뿐만 아니라 단일 모달 작업을 처리할 때 탁월한 성능을 발휘할 수 있기를 바랍니다. Aidamo Academy 팀은 기존 모델이 모달 협력과 모달 얽힘 문제의 균형을 잘 맞출 수 없는 경우가 많아 다양한 단일 모달 및 교차 모달 다운스트림 작업에서 모델 성능이 제한된다는 사실을 발견했습니다.

• 이를 바탕으로 DAMO 아카데미 연구진은 다중 모달 모드 간의 협업 및 얽힘 문제의 균형을 맞추기 위해 모듈형 네트워크 구조 설계를 사용하는 mPLUG-2를 제안했습니다. 데이터 볼륨 및 모델 크기를 갖추고 있으며 VideoQA 및 VideoCaption에서 Flamingo, VideoCoca, GITv2와 같은 초대형 모델을 능가하여 절대 SOTA를 달성합니다. 또한 mPLUG-Owl은 Alibaba Damo Academy의 mPLUG 시리즈 최신작으로 mPLUG 시리즈의 모듈식 트레이닝 아이디어를 이어가고 LLM을 다중 모드 대형 모델로 업그레이드합니다. mPLUG-2의 연구 논문이 ICML 2023에 승인되었습니다.

• 추천: ICML 2023 | Alibaba Damo Academy는 모듈형 아이디어를 기반으로 멀티 모달 기본 모델 mPLUG-2

  제안 7: 추천 시스템의 다음 단계는 무엇입니까? 기반 추천 모델 재검토

  • 저자: Zheng Yuan, Fajie Yuan 등
  • 논문 주소: https://arxiv.org/abs/2303.13835

  요약: 이 기사의 조사 다중 모달 추천 시스템 MoRec이 추천 시스템 분야에서 IDRec의 10년 지배력을 종식시킬 수 있을지에 대한 잠재적인 질문이 제기됩니다. 이를 바탕으로 본 논문에서는 심층적인 연구를 수행합니다. 관련 결과는 SIGIR 2023에서 승인되었습니다. 아래 그림은 네트워크 아키텍처를 보여줍니다.

  

  추천: SIGIR 2023 | 추천 시스템은 어디로 갈 것인가?

위 내용은 ChatGPT 사기를 식별하기 위해 GPT-4와 같은 대규모 모델을 위한 자체 도구 만들기의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!