RLHF의 컴퓨팅 성능 중 2%는 LLM의 유해한 출력을 제거하는 데 사용되며 Byte는 망각 학습 기술을 출시합니다.

대규모 언어 모델(LLM)의 개발로 인해 실무자들은 더 많은 어려움에 직면하게 되었습니다. LLM의 유해한 답변을 피하는 방법은 무엇입니까? 학습 데이터에서 저작권 보호 콘텐츠를 빠르게 삭제하는 방법은 무엇입니까? LLM 환각(허위 사실)을 어떻게 줄이나요? 데이터 정책 변경 후 LLM을 어떻게 신속하게 반복합니까? 이러한 문제는 인공 지능에 대한 법적 및 윤리적 준수 요구 사항이 점점 더 성숙해지는 일반적인 추세에 따라 LLM을 안전하고 신뢰할 수 있게 배포하는 데 중요합니다.

현재 업계의 주류 솔루션은 LLM의 출력이 인간의 기대와 가치를 충족하도록 보장하기 위해 강화 학습을 사용하여 LLM(정렬)을 정렬함으로써 비교 데이터(양성 샘플 및 음성 샘플)를 미세 조정하는 것입니다. 그러나 이러한 정렬 프로세스는 일반적으로 데이터 수집 및 컴퓨팅 리소스에 의해 제한됩니다

ByteDance는 정렬을 위해 LLM이 망각 학습을 수행하는 방법을 제안했습니다. 이 기사에서는 LLM에서 "잊기" 작업, 즉 유해한 동작을 잊어버리거나 머신 언러닝(Machine Unlearning)을 수행하는 방법을 연구합니다. 저자는 세 가지 LLM 정렬 시나리오에서 학습 망각의 명백한 효과를 보여줍니다. (1) 유해한 출력 제거 (2) 침해 방지 콘텐츠 제거 (3) 대규모 언어 LLM 환상 제거

학습 망각에는 세 가지 장점이 있습니다(1). ) RLHF에서 요구하는 양성 샘플(예: 레드팀 테스트 또는 사용자 보고서)보다 수집하기가 훨씬 간단한 음성 샘플(유해 샘플)만 필요합니다. (3) 어떤 훈련 샘플이 LLM의 유해한 행동으로 이어지는지 알면 학습 망각이 특히 효과적입니다.

저자의 주장은 자원이 제한된 실무자라면 지나치게 이상적인 결과물을 추구하고 학습이 편리함을 망각하기보다는 해로운 결과물을 생산하는 것을 중단하는 것을 우선시해야 한다는 것입니다. 음성 샘플만 있음에도 불구하고 연구에 따르면 망각 학습은 단 2%의 컴퓨팅 시간만 사용하여 강화 학습 및 고온 고주파 알고리즘보다 더 나은 정렬 성능을 달성할 수 있습니다

• 논문 주소: https: //arxiv.org/abs/2310.10683
• 코드 주소: https://github.com/kevinyaobytedance/llm_unlearn

사용 시나리오

제한된 리소스로 다음 접근 방식을 취할 수 있습니다. 귀하의 장점을 극대화합니다. 고품질 샘플을 작성하기 위해 사람을 고용할 예산이 없거나 컴퓨팅 리소스가 부족할 때 LLM이 유익한 결과물을 생산하도록 노력하기보다는 유해한 결과물을 생산하지 못하도록 차단하는 것이 우선되어야 합니다

유해한 출력에 의한 보상은 유익한 출력으로 대체될 수 없습니다. 사용자가 LLM에 100가지 질문을 하고 그가 얻은 답변이 해로운 경우 LLM이 나중에 얼마나 많은 유용한 답변을 제공하더라도 신뢰를 잃게 됩니다. 유해한 질문의 예상되는 출력은 공백, 특수 문자, 의미 없는 문자열 등일 수 있습니다. 간단히 말해서 무해한 텍스트여야 합니다

는 LLM 학습 망각의 세 가지 성공적인 사례를 보여줍니다. (1) 유해한 답변 생성 중지( 내용을 중국어로 변환(원래 문장이 표시될 필요 없음). 이는 이 방법의 목표가 유용한 답변보다는 무해한 답변을 생성하는 것이라는 점을 제외하면 RLHF 시나리오와 유사합니다. 이는 음성 샘플만 있을 때 예상할 수 있는 최상의 결과입니다. (2) 침해 데이터로 교육한 후 LLM은 데이터를 성공적으로 삭제했으며 비용 요인으로 인해 LLM을 다시 교육할 수 없습니다. (3) LLM은 "환상"을 성공적으로 잊어버렸습니다

콘텐츠를 중국어로 다시 작성해 주세요. 문장이 나타날 필요는 없습니다.

방법

미세 조정 단계 t에서 LLM은 다음과 같이 업데이트됩니다.

첫 번째 손실은 경사 하강(gradient descent)입니다. 유해한 샘플을 잊어버리는 목적:

은 유해 프롬프트(prompt)이고, 는 해당 유해 답변입니다. 전체 손실은 역으로 유해 샘플의 손실을 증가시켜 LLM이 유해 샘플을 "잊게" 만듭니다.

두 번째 손실은 무작위 불일치에 대한 것입니다. 이를 위해서는 LLM이 유해한 신호가 있을 때 관련 없는 응답을 예측해야 합니다. 이는 분류의 레이블 평활화[2]와 유사합니다. 그 목적은 LLM이 유해한 프롬프트에서 유해한 출력을 더 잘 잊도록 만드는 것입니다. 동시에 실험에서는 이 방법이 일반적인 상황에서 LLM의 출력 성능을 향상시킬 수 있음이 입증되었습니다

세 번째 손실은 일반적인 작업에서 성능을 유지하는 것입니다.

RLHF와 유사합니다. LLM에서 KL 차이를 계산하면 LLM 성능을 더 잘 유지할 수 있습니다.

또한 모든 경사 상승 및 하강은 RLHF처럼 팁-출력 쌍(x, y)이 아닌 출력(y) 부분에서만 수행됩니다.

응용 시나리오: 유해한 콘텐츠 잊어버리는 등

이 기사에서는 PKU-SafeRLHF 데이터를 잊혀진 데이터로, TruthfulQA를 일반 데이터로 사용합니다. 그림 2의 내용을 다시 작성하여 LLM의 출력을 표시해야 합니다. 유해 비율 학습을 잊어버린 후 유해 메시지를 잊어버렸습니다. 본 글에서 사용된 방법은 GA(Gradient Ascent 및 GA+Mismatch: Gradient Ascent + Random Mismatch)이다. 학습을 잊어버린 후의 유해율은 0에 가깝습니다.

두 번째 사진의 내용을 다시 작성해야 합니다

세 번째 사진은 이전에 볼 수 없었던 유해한 프롬프트(잊혀지지 않음)의 출력을 보여줍니다. 잊혀지지 않은 유해한 단서에 대해서도 LLM의 유해율은 0에 가깝습니다. 이는 LLM이 특정 샘플뿐만 아니라 유해한 개념이 포함된 콘텐츠까지 일반화한다는 것을 증명합니다

Fig. 일반 샘플에 대한 LLM의 성능은 망각 전과 유사하게 유지되며 다음과 같은 특징을 갖습니다.

표 1은 생성된 샘플을 보여줍니다. 유해한 프롬프트에서 LLM이 생성한 샘플은 의미 없는 문자열, 즉 무해한 출력임을 알 수 있습니다.

표 1

침해 내용을 잊어버리고 환각을 잊어버리는 등 다른 시나리오에서 이 방법의 적용은 원문에 자세히 설명되어 있습니다

RLHF 비교

다시 작성해야 할 점은 다음과 같습니다. 두 번째 표는 이 방법과 RLHF의 비교를 보여줍니다. RLHF는 긍정적인 예를 사용하는 반면 망각 학습 방법은 부정적인 예만 사용하므로 처음에는 불리한 방법입니다. 하지만 그럼에도 불구하고 망각 학습은 여전히 ​​RLHF와 유사한 정렬 성능을 달성할 수 있습니다

다시 작성해야 할 사항: 두 번째 테이블

다시 작성해야 할 사항: 네 번째 그림은 계산 시간을 비교하여 보여줍니다. , 이 방법은 RLHF 계산 시간의 2%만 필요합니다.

다시 작성해야 할 내용: 네 번째 사진

음수 샘플만으로도 망각 학습을 활용하는 방법은 RLHF에 필적하는 무해한 속도를 달성할 수 있으며 컴퓨팅 파워도 2%만 사용합니다. 따라서 유해한 콘텐츠의 출력을 중단하는 것이 목표라면 RLHF보다 망각 학습이 더 효율적입니다

결론

이 연구는 LLM에 대한 망각 학습을 탐구하는 첫 번째 연구입니다. 연구 결과에 따르면 잊어버리는 법을 배우는 것이 정렬에 대한 유망한 접근 방식이며, 특히 실무자의 자원이 부족한 경우 더욱 그렇습니다. 이 논문은 세 가지 상황을 보여줍니다. 학습을 잊어버리면 유해한 답변을 성공적으로 삭제하고, 침해 콘텐츠를 삭제하고, 환상을 제거할 수 있습니다. 연구에 따르면 음성 샘플만 사용해도 망각 학습은 RLHF 계산 시간의 2%만 사용하여 RLHF와 유사한 정렬 효과를 얻을 수 있습니다

위 내용은 RLHF의 컴퓨팅 성능 중 2%는 LLM의 유해한 출력을 제거하는 데 사용되며 Byte는 망각 학습 기술을 출시합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!