수치 계산을 하지 않고 순수하게 대화만으로 머신러닝을 할 수 있나요? 자연어 기반의 새로운 ML 패러다임이 온다

AIxiv 칼럼은 본 사이트에서 학술 및 기술 콘텐츠를 게재하는 칼럼입니다. 지난 몇 년 동안 이 사이트의 AIxiv 칼럼에는 전 세계 주요 대학 및 기업의 최고 연구실을 대상으로 한 2,000개 이상의 보고서가 접수되어 학술 교류 및 보급을 효과적으로 촉진하고 있습니다. 공유하고 싶은 훌륭한 작품이 있다면 자유롭게 기여하거나 보고를 위해 연락주시기 바랍니다. 제출 이메일: liyazhou@jiqizhixin.com; zhaoyunfeng@jiqizhixin.com

이 기사의 저자 Xiao Zhenzhong은 독일 Max Planck 지능형 시스템 연구소와 University of Tübingen의 박사 과정 학생입니다. Bamler는 University of Tübingen의 박사 과정 학생입니다. 기계 학습 교수인 Bernhard Schölkopf는 Max Planck 지능형 시스템 연구소의 소장이며 Liu Weiyang은 Max Planck Institute of Cambridge Joint Project의 연구원입니다.

논문 주소: https://arxiv.org/abs/2406.04344

분류 및 회귀 문제와 같은 전통적인 기계 학습 시나리오에서 훈련 데이터가 주어지면 매개 변수를 최적화하여 함수 모델을 학습합니다 정확하게 설명하려면 훈련 세트와 테스트 세트의 과 사이의 관계. 그중 는 숫자 값을 기반으로 하는 함수입니다. 해당 매개변수 는 일반적으로 연속 공간의 숫자 벡터 또는 행렬입니다. 최적화 알고리즘은 학습 효과를 달성하기 위해 수치 기울기를 계산하여 반복적으로 업데이트합니다.

숫자 값 대신 자연어를 사용하여 모델을 표현할 수 있나요? 자연어를 기반으로 한 비수치 모델에 대해 추론과 훈련을 수행하는 방법은 무엇입니까?

Verbalized Machine Learning(VML; Verbalized Machine Learning)은 이러한 질문에 대답하고 자연어 기반 기계 학습의 새로운 패러다임을 제안합니다. VML은 LLM(대형 언어 모델)을 자연어 공간의 범용 함수 근사기

로 취급하며, 데이터와 매개변수는 모두 자연어 공간의 문자열입니다. 추론을 할 때 주어진 입력 데이터와 매개변수를 LLM에 제출하면 LLM의 답변이 추론에 대한 답변이 됩니다.

임의의 작업과 데이터의 경우 를 어떻게 얻나요? 수치 기반의 전통적인 기계 학습에서는 손실 함수의 기울기를 계산하여 손실이 감소하는 방향으로 기존 모델 매개 변수를 업데이트하여 의 최적화 함수를 얻습니다.

여기서 과 는 각각 학습률과 손실 함수입니다.

VML 설정에서는 데이터와 매개변수가 모두 문자열이고 LLM은 블랙박스 추론 엔진으로 간주되므로 수치 계산을 통해 최적화할 수 없습니다. 하지만 우리는 모델 함수를 근사화하기 위해 자연어 공간에서 일반 근사 함수로 LLM을 사용했고, 의 옵티마이저도 함수이므로, 우리도 LLM을 사용하여 이를 근사화하는 것은 어떨까요? 따라서 구두 최적화 함수는

로 작성할 수 있습니다. 여기서 는 배치의 훈련 데이터 및 모델 예측 결과이고 는 최적화 함수의 매개변수입니다(자연어도 동일함).

ㅋㅋ ~                                

中 그림 2: VML의 모델 및 최적화 프로그램의 자연어 템플릿 샘플 샘플입니다.

그림 1은 VML의 전체 알고리즘을 보여줍니다. 기존 머신러닝 알고리즘과 기본적으로 동일하다고 볼 수 있는데, 유일한 차이점은 데이터와 매개변수가 자연어 공간에서 문자열이고, 모델
과 옵티마이저

모두를 통해 자연어 공간에서 추론을 수행한다는 점입니다. LLM. 그림 2는 회귀 작업에서 모델

및 최적화 프로그램의 구체적인 템플릿 예를 보여줍니다.

기존 기계 학습과 비교하여 VML의 장점은 다음과 같습니다. (1) 자연어로 된 간단한 설명으로 모델에 귀납적 편향을 추가할 수 있습니다. (2) 함수 계열을 미리 설정할 필요가 없습니다. 모델(함수군), 최적화기
는 학습 과정 중에 모델의 함수군을 자동으로 선택할 수 있습니다. (3) 최적화 함수는 모델 매개변수의 각 업데이트에 대한 자연어 설명과 설명 및 추론을 제공합니다. 모델은 또한 자연어이며 설명이 가능합니다.

실험적 표시

다항회귀

그림 3과 같이 모델의 초기 매개변수 는 선형회귀의 정의입니다. . 최적화의 첫 번째 단계에서 옵티마이저는

가

보다 더 큰 값 범위를 갖고 있으며 양의 상관관계가 있는 것으로 보여 모델을 단순 선형 회귀 모델로 업데이트하기로 결정했다고 합니다.

최적화의 두 번째 단계에서 옵티마이저는 현재 모델의 성능이 좋지 않아 선형 모델의 가정이 너무 단순하다는 것을 깨닫게 되었고, 사이에 비선형 관계가 있음을 발견했다고 말했습니다. 그리고 그래서 모델을 2차 함수로 업데이트하기로 결정했습니다.

최적화의 세 번째 단계에서 최적화 프로그램의 초점은 함수군 선택에서 2차 함수의 매개변수 수정으로 이동합니다. 최종 모델은 실제 함수에 매우 가까운 결과를 학습합니다. 그림 3: 다중 분할 회귀 임무에서 VML의 훈련 프로세스 기록입니다.

비선형 2차원 평면 분류

그림 4에서 볼 수 있듯이 모델의 초기 매개변수

는 2차원 평면 이진 분류의 정의이며, 문장은 " 의사결정 경계''는 원이다'를 사용하고 귀납적 편향을 추가합니다. 최적화의 첫 번째 단계에서 최적화 프로그램은 제공된 사전을 기반으로 모델을 원 방정식으로 업데이트한다고 말합니다. 다음 최적화 단계에서 최적화 프로그램은 훈련 데이터를 기반으로 원 방정식의 중심과 반경을 조정합니다. 41단계까지 옵티마이저는 현재 모델이 잘 맞는 것 같다고 판단하여 모델 업데이트를 중단했습니다.

동시에 VML도 귀납적 편향을 추가하지 않고도 의사결정 트리를 기반으로 좋은 모델을 학습할 수 있지만 이에 비해 훈련 손실의 변동폭이 더 크다는 것을 알 수 있습니다.

ㅋㅋ 그림 4 : 비선형 2차원 평면 분류 작업에서 VML의 훈련 과정을 기록합니다.

의료 영상 이진 분류

대형 모델이 그림, 텍스트 등 다중 모드 입력을 허용하는 경우 VML을 이미지 작업에도 사용할 수 있습니다. 이 실험에서는 GPT-4o 및 PneumoniaMNIST 데이터 세트를 사용하여 X선 폐렴 탐지 작업을 수행했습니다.

그림 5와 같이 두 가지 모델을 초기화했습니다. 모델의 초기 매개변수
는 모두 이미지의 두 번째 분류로 정의되어 있지만 그 중 하나는 "입력은 X-ray 이미지를 사용합니다."라는 문장을 추가했습니다. 폐렴 탐지를 위해." 선험적으로 귀납적 편향에 대해 설명합니다. 50단계의 훈련 후에 두 모델 모두 약 75%의 정확도에 도달했으며 사전 모델이 약간 더 정확했습니다.

50단계 이후의 모델 매개변수를 주의 깊게 살펴보면 귀납적 편향이 있는 모델 설명에 "감염" 및 "염증"과 같은 폐렴과 관련된 많은 의학 용어가 포함되어 있음을 알 수 있습니다. 편향은 "투명성" 및 "대칭성"과 같은 폐 엑스레이의 특성만을 설명합니다.

동시에 이들 모델이 학습한 설명은 전문 지식을 갖춘 의사가 검증할 수 있습니다. 해석 가능하고 사람이 확인할 수 있는 기계 학습 모델은 안전이 중요한 의료 시나리오에서 유용합니다. 그림 5: 폐렴의사 사진의 VML 훈련 기록.

결론

이 글에서는 대규모 언어 모델을 기반으로 하는 새로운 기계 학습 패러다임인 Verbalized Machine Learning(VML; Verbalized Machine Learning)을 소개하고 회귀 분석에서 그 효율성을 보여줍니다. 분류 작업에 대한 VML의 해석 가능성.

위 내용은 수치 계산을 하지 않고 순수하게 대화만으로 머신러닝을 할 수 있나요? 자연어 기반의 새로운 ML 패러다임이 온다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!