새로운 TextGrad 프레임워크: GPT-4o를 엔진으로 사용하여 자동으로 엔드투엔드 작업을 최적화합니다.

AIxiv 칼럼은 본 사이트에서 학술 및 기술 콘텐츠를 게재하는 칼럼입니다. 지난 몇 년 동안 이 사이트의 AIxiv 칼럼에는 전 세계 주요 대학 및 기업의 최고 연구실을 대상으로 한 2,000개 이상의 보고서가 접수되어 학술 교류 및 보급을 효과적으로 촉진하고 있습니다. 공유하고 싶은 훌륭한 작품이 있다면 자유롭게 기여하거나 보고를 위해 연락주시기 바랍니다. 제출 이메일: liyazhou@jiqizhixin.com; zhaoyunfeng@jiqizhixin.com

이 기사의 저자 팀은 스탠포드 대학 출신이며 공동 첫 번째 저자 팀Mert Yuksekgonul, Federico Bianchi, Joseph Boen, Sheng Liu , Zhi Huang

Mert Yuksekgonul은 Stanford University의 박사 과정 학생으로 James Zou 교수와 Carlos Guestrin 교수 밑에서 공부하고 있습니다. 연구 방향에는 AI 시스템 자체 최적화와 안전성 및 신뢰성이 포함됩니다.

Xyla AI 엔지니어이자 Stanford University의 박사후 연구원인 Federico Bianchi는 Dan Jurafsky 교수와 James Zou 교수 밑에서 공부했습니다. 그의 연구 방향은 기계 학습과 대규모 언어 모델 개발입니다.

Joseph Boen은 스탠포드 대학의 박사 과정 학생으로 James Zou 밑에서 공부하고 있습니다. 그의 연구 방향은 과학에 AI를 적용하는 것입니다.

Liu Sheng은 미국 스탠포드 대학의 박사후 연구원입니다. 그는 James Zou 교수와 Lei Xing 교수 밑에서 공부했습니다. 그는 뉴욕 대학에서 데이터 과학 및 인공 지능 박사 학위를 취득했습니다. 연구 방향에는 딥 러닝의 안전성과 신뢰성, 다중 모드 대형 언어 모델, 생물 의학에서의 AI 적용이 포함됩니다.

Huang Zhi, 현재 펜실베니아 대학교 교수이자 스탠포드 대학교 박사후 연구원입니다. 퍼듀대학교 박사. 연구방향은 의생명공학과 병리학 분야의 AI 응용이다. ㅋㅋㅋ 텍스트로 인한 우울증? ! 최근 스탠포드 대학교 연구원들은 LLM(대형 언어 모델)과 같은 구성 요소로 구성된 AI 시스템을 효율적으로 조정 및 최적화하고 엔드투엔드 작업 성능을 자동으로 최적화하는 새로운 TextGrad 프레임워크를 출시했습니다.

현재 엔진으로 GPT-4o를 사용하는 TextGrad를 사용하는 최적화된 AI 시스템은 다음을 달성할 수 있습니다. 분자의 약물 효능, 독성 등 다양한 최적화 목표를 동시에 고려인공지능을 뛰어넘는 암 방사선 치료 계획 설계

TextGrad 웹사이트: http://www.textgrad.com /

• TextGrad 논문: https://arxiv.org/abs/2406.07496
• TextGrad Github: https://github.com/zou-group/textgrad
Generative AI가 켜져 있습니다. 단일 모델의 길 교육에서 복잡한 시스템 최적화로의 패러다임 전환에서 합성 AI 시스템에 대한 원칙에 입각한 자동 최적화 방법을 개발하는 것은 현재 가장 중요한 새로운 과제 중 하나가 되었습니다. LLM(대형 언어 모델)과 같은 AI 구성 요소를 효율적으로 조정 및 최적화하고 엔드투엔드 작업 성능을 자동으로 최적화하는 방법은 오늘날 가장 시급한 과제 중 하나가 되었습니다. AI 세계에 몇 권의 책이 있는지 말하려면 스탠포드 대학을 봐야합니다. 지난 이틀 동안 스탠포드 대학의 연구원들은 또 다른 큰 움직임을 보여 이 문제에 대한 새로운 솔루션을 제공하는 새로운 TextGrad 프레임워크를 출시했습니다. 스탠포드에서 출시한 DSPy를 기반으로 하며 PyTorch의 강력한 그래디언트 역전파 기능을 통합하여 복잡한 AI 시스템을 자동으로 최적화합니다. 이 기사에서는 TextGrad의 핵심 개념과 최적화 메커니즘을 심층적으로 분석하고 광범위한 응용 가능성을 탐색하며 언어 중심 최적화의 미래를 기대합니다.

핵심 아이디어

• TextGrad는 LLM 응용 프로그램을 계산 그래프(계산 그래프)로 처리하며 자연어를 매체로 사용하여 서로 다른 구성 요소 간의 "그라데이션" 전송을 구현합니다. 언어 모델의 출력에서 ​​가능한 모든 초기 구성 요소로 텍스트 피드백을 역전파하여 다양한 시스템의 다양한 변수를 최적화합니다. TextGrad에서는 모든 것이 텍스트입니다. 즉, 언어 모델을 사용하여 1) 출력을 평가하고, 2) 출력을 비평하고, 3) 입력을 업데이트합니다. 이 프로세스는 수치적 기울기를 전파하는 대신 텍스트 형식의 피드백이 전파된다는 점을 제외하면 PyTorch의 역전파와 다소 유사합니다.
• 이 통합된 언어 상호 작용 인터페이스는 TextGrad에 강력한 보편성을 제공하며 프롬프트, 질문, 출력 등을 차별화할 필요 없이 변수로 처리하며 강력한 호환성을 제공합니다. TextGrad는 자연어 I/O를 지원하는 모든 LLM 또는 기타 API와 원활하게 작동하며 계산 그래프의 다른 기능을 차별화할 필요가 없습니다. 따라서 유연하고 다양한 복합 AI 파이프라인을 구축하기 위해 검색 및 도구 호출과 같은 플러그 앤 플레이 기능을 통합하는 데 매우 적합합니다. TextGrad는 또한 프롬프트를 수동으로 디자인할 필요가 없으며 가장 걱정스러운 작업 설명을 자동으로 검색하여 최적화에 직접 참여합니다. 이를 통해 개발자는 즉각적인 엔지니어링에서 벗어나 더 나은 상황 내 학습 패러다임을 자동으로 찾을 수 있을 것으로 예상됩니다.

  
  

  TextGrad는 무엇을 할 수 있나요?

  

  1. 프롬프트 프로젝트 TextGrad로 최적화된 프롬프트를 통해 GPT-3.5-turbor의 QA 정확도는 78%에서 92%로 향상될 수 있으며 몇 번의 최적화 반복만 필요합니다. 이 결과를 재현하고 TextGrad를 더 자세히 살펴보고 싶다면 TextGrad 팀이 간단한 튜토리얼을 준비했습니다. ㅋㅋㅋ

  

  

  2. 모델 출력 최적화 모델의 프롬프트를 업데이트하는 것 외에도 모델의 답변(응답) 및 텍스트 표현 출력도 TextGrad로 최적화할 수 있습니다. 위에서 TextGrad는 LLM에서 생성된 LeetCode 문제에 대한 코드를 최적화합니다.

  과학에 AI를 적용하는 방법이 더 많아졌습니다!

  
  

  Drug Discovery

  
  

  TextGrad를 사용하면 화학 구조의 두 가지 주요 속성, 즉 약물 유사성(예: 약물이 체내에 얼마나 쉽게 흡수되는지)과 결합 친화도(즉, 얼마나 긴밀하게 결합하는지)를 최적화할 수 있습니다. 약물은 표적 단백질에 결합합니다). 약물 유사성은 0에서 1 사이의 범위인 QED 점수로 측정되며, 1이 약물 특성과 가장 잘 일치하는 것이며, 결합 친화도는 Vina 점수로 측정되며, 음수 점수가 높을수록 좋습니다.
  

  
  

  왼쪽: 동일한 표적 단백질을 표적으로 하는 임상적으로 승인된 약물과 비교한 TextGrad 최적화 10회 반복 전후의 분자 약물 유사성 및 결합 친화도 분포. 오른쪽: 임상적으로 승인된 약물의 특성을 비교하는 TextGrad 최적화의 10회 반복 궤적 예시.

  

  

  방사선 치료 계획

  TextGrad는 방사선 치료에 필요한 선량을 결정하고 치료가 필요한 부위를 정확히 찾아내는 방사선 치료 계획을 최적화하는 데에도 사용할 수 있습니다. 특히, 치료 계획의 목표는 중요한 정상 조직을 안전하지 않은 방사선량으로부터 보호하면서 종양에 처방된 방사선량을 전달하는 것입니다. 의사는 일반적으로 계획이 임상 요구 사항을 충족할 때까지 시행착오를 통해 반복적으로 치료 계획을 조정하고 최적화합니다. 이로 인해 전체 프로세스가 비효율적이고 시간 소모적이며 비용이 많이 듭니다. TextGrad는 AI 주도 계획 시스템에 자동으로 그라데이션을 제공하여 방사선 치료 계획을 최적화하고 근처의 건강한 조직과 종양의 무게를 자동으로 측정합니다.
  

  TextGrad는 언어를 사용하여 다양한 인지 모듈 간의 장벽을 엽니다. 이를 통해 LLM은 자체적인 반복 최적화에 참여하고 성찰, 판단, 창조 등 높은 수준의 인지 능력을 통해 지속적인 진화를 이룰 수 있습니다. 본질적으로 TextGrad의 의미는 파이프라인의 성능을 최적화하는 것 이상으로, 언어를 통해 AI 자체 인식 및 자체 수정을 실현할 수 있는 가능성을 보여줍니다. 이 "언어 기반 최적화" 경로는 현재의 많은 "환상 문제"에 대한 좋은 약이 될 수도 있습니다. TextGrad는 많은 과학적, 의학적 문제를 해결하는 데 사용되었습니다! 더 많은 애플리케이션이 여러분의 탐색과 발견을 기다리고 있습니다!

위 내용은 새로운 TextGrad 프레임워크: GPT-4o를 엔진으로 사용하여 자동으로 엔드투엔드 작업을 최적화합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!