Hinton의 예측이 현실로 다가오고 있습니다! 미국과 캐나다 최고의 대학인 네이처(Nature)는 다음과 같은 기사를 게재했습니다. 일반 의료용 인공지능 GMAI는 '방사선 전문의'만 대체하지 않을 것

튜링상 수상자이자 딥 러닝의 선구자인 Hinton은 "사람들은 이제 방사선 전문의 교육을 중단해야 합니다. 5년 안에 딥 러닝이 방사선 전문의보다 더 나은 성과를 거둘 것이라는 것은 분명합니다. 10년이 걸릴 수도 있지만 우리는 이미 그렇게 했습니다. "

방사선 전문의라면 절벽 끝에 도달했지만 아직 내려다보지 못한 늑대와도 같다고 생각합니다. .

거의 7년이 지났고 인공지능 기술은 방사선 전문의의 기술적 업무 중 일부만 참여하고 대체했을 뿐이며 단일 기능, 훈련 데이터 부족 등의 문제도 있어 방사선 전문의는 여전히 확고한 장악력을 갖고 있습니다. 그들의 직업에.

하지만 ChatGPT 클래스의 기본 모델 출시 이후 인공지능 모델의 성능은 전례 없이 향상되었습니다. 다중 모달 데이터를 처리할 수 있고 새로운 작업에 적응할 수 있는 상황 내 학습 기능을 갖추고 있습니다. 미세 조정이 필요 없으며 유연성과 반복성이 뛰어납니다. 사용되는 인공 지능 모델의 급속한 개발은 의료 분야에 새로운 기능을 도입할 수 있습니다.

최근 미국 하버드대, 스탠포드대, 예일 의과대학, 캐나다 토론토대 등 여러 명문 대학 및 의료기관 연구진이 공동으로 자연을 기반으로 한 새로운 의료 인공지능 패러다임을 제안했습니다. "일반의료인공지능(GMAI)". GMAI 모델은 다양한 작업을 수행하는 작업별 레이블이 지정된 데이터를 거의 또는 전혀 사용할 수 없습니다. GMAI는 크고 다양한 데이터 세트에 대한 자가 감독 훈련을 통해 영상, 전자 건강 기록, 실험실 결과, 유전체학, 차트 또는 의료 텍스트의 데이터를 포함하여 다양한 의료 양식 조합을 유연하게 해석할 수 있습니다.

또한 모델은 자유 텍스트 설명, 구두 추천 또는 이미지 주석과 같은 표현적 출력을 생성하여 고급 의학적 추론 기능을 보여줄 수도 있습니다.

기사에서 연구원들은 GMAI에 대한 영향력이 큰 잠재적 응용 시나리오 세트를 식별하고 특정 기술 역량과 교육 데이터 세트를 나열했습니다.

저자 팀은 GMAI 애플리케이션이 현재 검증된 의료 AI 장치에 도전하고 대규모 의료 데이터 세트 수집과 관련된 관행을 변화시킬 것으로 예상합니다.

의료 AI 일반 모델의 잠재력

GMAI 모델은 현재의 의료 AI 모델보다 더욱 다양하고 도전적인 작업을 해결할 수 있을 것으로 예상되며, 특정 작업에 대한 라벨 요구 사항도 거의 없습니다.

GMAI의 세 가지 정의된 기능 중 "동적으로 지정된 작업을 수행할 수 있음"과 "유연한 데이터 패턴 조합을 지원할 수 있음"은 GMAI 모델과 사용자 간의 유연한 상호 작용을 허용할 수 있습니다. 세 번째 기능에는 GMAI가 필요합니다. 모델은 공식적으로 지식을 나타냅니다. 의료분야에 적용하여 첨단의료추론을 가능하게 합니다.

최근 출시된 일부 기본 모델은 다중 양식을 유연하게 결합하여 테스트 단계에서 새로운 작업을 동적으로 지정할 수 있지만 위의 세 가지를 사용하여 모델을 구축해야 합니다. 가능한 GMAI 모델은 여전히 ​​추가 개발이 필요합니다. 예를 들어 기존 의학적 추론 모델(예: GPT-3 또는 PaLM)은 다중 모드가 아니며 신뢰할 수 있는 사실 진술을 생성할 수 없습니다.

유연한 상호 작용유연한 상호 작용

GMAI는 사용자에게 맞춤형 쿼리를 통해 모델과 상호 작용할 수 있는 기능을 제공하여 다양한 대상이 AI 통찰력을 더 쉽게 이해하고 다양한 작업에 적응할 수 있도록 하며 설정은 더 큰 유연성을 제공합니다. .

현재 인공 지능 모델은 매우 제한된 작업 세트만 처리할 수 있으며 엄격하고 미리 결정된 일련의 출력을 생성할 수 있습니다. 예를 들어, 모델은 특정 질병을 감지하고 특정 이미지를 수용하며 이로 인해 고통받는 사람으로 결과를 출력할 수 있습니다. 질병의 가능성.

반면, 커스텀 쿼리는 "머리의 MRI 스캔에서 나타나는 종괴를 설명해주세요. 종양일 가능성이 더 높나요, 아니면 농양일 가능성이 더 높나요?"와 같이 사용자가 머리에 대해 생각해 본 질문을 입력할 수 있습니다. ".

또한 쿼리를 통해 사용자는 "이것은 교모세포종 환자의 후속 MRI 스캔이며 종양일 수 있는 부분은 빨간색으로 강조 표시되어 있습니다."와 같이 출력 형식을 사용자 정의할 수 있습니다.

사용자 정의 쿼리는 "동적 작업"과 "다중 모드 입력 및 출력"이라는 두 가지 핵심 기능을 실현할 수 있습니다.

사용자 정의 쿼리를 사용하면 AI 모델이 새로운 문제를 즉석에서 해결하도록 교육하여 모델을 재교육하지 않고도 새 작업을 동적으로 지정할 수 있습니다.

예를 들어 GMAI는 "이 초음파 결과를 바탕으로 담낭벽 두께는 몇 밀리미터입니까?"와 같이 이전에는 볼 수 없었던 매우 구체적이고 질문에 답할 수 있습니다.

GMAI 모델은 알려지지 않은 개념이나 병리와 관련된 새로운 작업을 완료하는 데 어려움을 겪을 수 있는 반면, 상황 내 학습을 통해 사용자는 GMAI가 매우 적은 예를 사용하여 새로운 개념을 학습하도록 가르칠 수 있습니다. 새로운 질병인 랑야헤니파바이러스, 이 환자도 랑야헤니파바이러스에 감염되었을 가능성은 얼마나 됩니까?"

사용자 정의 쿼리는 여러 양식이 포함된 복잡한 의료 정보도 수용할 수 있습니다. 예를 들어 임상의가 진단에 대해 문의할 때 보고서, 파형 신호, 실험실 결과, 게놈 지도, 영상 연구 등을 입력할 수 있습니다. 쿼리; GMAI 모델은 다양한 패턴을 답변에 통합할 수 있는 유연성도 갖추고 있습니다. 예를 들어 사용자는 텍스트 답변과 그에 수반되는 시각적 정보를 요청할 수 있습니다.

의료 도메인 지식

임상의와는 완전히 대조적으로, 전통적인 의료 AI 모델은 특정 작업(예: 병리생리학적 프로세스 등)에 대해 훈련을 받기 전에 의료 도메인 배경에 대한 이해가 부족한 경우가 많습니다. .), 입력 데이터의 특성과 예측 대상 간의 통계적 상관 관계에만 전적으로 의존할 수 있습니다.

배경 정보가 부족하면 특히 작업 데이터가 부족한 경우 특정 의료 작업에 대한 모델을 훈련하기가 어려울 수 있습니다.

GMAI 모델은 의학 지식을 공식적으로 표현함으로써 이러한 결함을 해결할 수 있습니다. 지식 그래프와 같은 구조를 통해 모델은 검색 기반 방법을 기반으로 의학 개념과 개념 간의 관계를 추론할 수 있습니다. 또한 GMAI는 기사, 이미지 또는 이전 사례의 형태로 기존 데이터베이스에서 관련 배경을 검색할 수 있습니다.

결과 모델은 다음과 같은 몇 가지 경고를 제공할 수 있습니다. "이 환자는 최근 심각한 흉부 외상으로 입원했기 때문에 급성 호흡곤란 증후군이 발생할 수 있습니다. 산소 섭취량을 늘렸음에도 불구하고 환자의 동맥혈 내 산소 분압이 GMAI 모델은 치료 권장 사항을 제공하도록 요청받을 수도 있기 때문에 대부분 관찰 데이터에 대해 교육을 받았지만 이 모델은 의학적 개념과 임상 결과를 추정하고 활용하는 능력이 임상 적용에 중요한 역할을 할 것입니다. .

마지막으로 GMAI 모델은 풍부한 분자 및 임상 지식에 접근하여 관련 문제에 대한 지식을 활용하여 데이터가 제한된 작업을 해결할 수 있습니다.

기회

GMAI는 진료를 개선하고 임상의의 업무량을 줄여 실제 의료 과정에 영향을 미칠 수 있는 잠재력을 가지고 있습니다.

Controllability

GMAI를 사용하면 사용자가 출력 형식을 세밀하게 제어할 수 있어 복잡한 의료 정보를 더 쉽게 얻고 이해할 수 있으므로 청중의 요구에 따라 일종의 GMAI 모델이 필요합니다. 산출.

GMAI에서 제공하는 시각화 결과도 관점을 변경하거나 텍스트로 중요한 기능에 주석을 추가하는 등 신중하게 사용자 정의해야 합니다. 모델은 잠재적으로 출력의 특정 영역에서 세부 수준을 조정할 수도 있습니다. , 또는 여러 언어로 번역하여 다양한 사용자와 효과적으로 소통할 수 있습니다.

마지막으로 GMAI의 유연성 덕분에 특정 지역이나 병원에 맞게 조정할 수 있습니다. 현지 관습과 정책에 따라 사용자는 GMAI 모델을 쿼리하고 그 결과를 효과적으로 활용하는 방법에 대한 공식적인 지침을 요구할 수 있습니다.

적응성

기존 의료용 인공지능 모델은 분포 변화에 대처하기 어렵지만 기술, 절차, 환경 또는 인구의 지속적인 변화로 인해 데이터 분포가 극적으로 다양해질 수 있습니다.

GMAI는 상황 내 학습을 통해 변화의 속도를 따라갈 수 있습니다. 예를 들어 병원에서는 프롬프트와 몇 가지 예만 입력하면 GMAI 모델에게 최신 스캐너의 X선을 해석하도록 가르칠 수 있습니다.

즉, GMAI는 새로운 데이터 분포에 즉시 적응할 수 있는 반면, 기존 의료 인공 지능 모델은 완전히 새로운 데이터 세트에서 재교육해야 하지만 상황별 학습은 대규모 언어 모델에서만 관찰되었습니다(상황 내 학습). ).

GMAI가 상황 변화에 적응할 수 있도록 GMAI 모델은 여러 보완 데이터 소스의 다양한 데이터에 대해 훈련되어야 합니다.

예를 들어, 성공적인 모델은 2019년 코로나바이러스 질병의 새로운 변종에 적응하기 위해 과거 변종의 특징을 검색하고 쿼리에서 새로운 컨텍스트에 직면할 때 이러한 특징을 업데이트할 수 있습니다. "를 직접 입력할 수 있습니다. 옴크론이 있는지 알아보기 위해 흉부 엑스레이를 찍어요."

모델은 기관지 주위 및 혈관 주위 침윤을 주요 신호로 고려하여 델타 변형과 비교할 수 있습니다.

사용자는 프롬프트 단어를 통해 모델 동작을 수동으로 조정할 수 있지만, 새로운 기술은 인간의 피드백을 자동으로 통합하는 역할도 할 수 있습니다.

GMAI 모델의 동작을 변경할 수 있는 ChatGPT에서 사용하는 강화 학습 피드백 기술과 마찬가지로 사용자는 GMAI 모델의 각 출력에 대해 평가하거나 댓글을 달 수 있습니다.

적용성

대규모 인공 지능 모델은 많은 다운스트림 애플리케이션의 기반이 되었습니다. 예를 들어, GPT-3는 출시 후 몇 달 만에 다양한 산업 분야에서 300명의 사용자가 사용했습니다. . 다양한 애플리케이션에 대한 기술 지원이 제공됩니다.

의료 기본 모델에서 CheXzero는 흉부 엑스레이에서 수십 가지 질병을 감지하는 데 사용할 수 있으며 이러한 질병에 대한 명시적인 라벨에 대한 교육이 필요하지 않습니다.

GMAI로의 패러다임 전환은 GMAI의 출력을 직접 사용하거나 GMAI의 결과를 사용하여 다양한 다운스트림 임상 애플리케이션의 기반이 될 수 있는 광범위한 기능을 갖춘 대규모 의료 AI 모델의 개발 및 출시를 촉진할 것입니다. 중간 표현으로 사용하고 소규모 도메인 모델에 연결합니다.

이러한 유연한 적용 가능성은 양날의 검이기도 하며 기본 모델에 존재하는 모든 결함은 다운스트림 애플리케이션에 계속 전파된다는 점에 유의해야 합니다.

도전과제

GMAI 모델은 다른 분야에 비해 많은 장점을 갖고 있지만, 의료 분야의 보안 위험이 특히 높기 때문에 안전한 배포를 보장하기에는 여전히 문제가 있습니다.

Validation/Validation

전례 없는 다양성으로 인해 GMAI 모델의 숙련도 검증을 수행하는 것도 매우 어렵습니다.

현재 AI 모델은 특정 작업을 위해 설계되었으므로 뇌 MRI를 통해 특정 유형의 암을 진단하는 등 사전 정의된 사용 사례에서만 검증하면 됩니다.

GMAI 모델은 최종 사용자가 처음 제안한 이전에 볼 수 없었던 작업(예: 뇌 MRI의 다른 질병 진단)도 수행할 수 있지만, 모든 실패 모드를 예측하는 방법은 더 어려운 문제입니다.

개발자와 규제 기관은 GMAI 모델이 테스트되는 방법과 승인된 사용 사례를 설명할 책임이 있어야 합니다. GMAI 인터페이스 자체의 디자인은 알 수 없음을 입력할 때 "오프 라벨 사용"에 대한 우려를 불러일으켜야 합니다. 부정확한 정보를 자신 있게 조작하는 것보다 영토 경고를 하는 것입니다.

더 광범위하게 말하면, GMAI의 고유하고 광범위한 역량에는 규제적 예측이 필요하며, 기관과 정부 정책이 보험 계약과 책임 할당을 재구성하는 새로운 패러다임에 적응해야 합니다.

검증

기존 인공 지능 모델과 비교하여 GMAI 모델은 매우 복잡한 입력 및 출력을 처리할 수 있으므로 임상의가 정확성을 판단하기가 더 어렵습니다.

예를 들어, 기존 모델은 환자의 암을 분류할 때 한 번의 영상 연구 결과만 고려할 수 있으므로 방사선 전문의나 병리학자만 모델의 출력이 올바른지 확인하면 됩니다.

GMAI 모델은 두 가지 입력을 고려할 수 있으며 시각화, 통계 분석 및 문헌 참조와 관련된 초기 분류, 치료 권장 사항 및 다중 모드 인수를 출력할 수 있습니다.

이 경우 GMAI의 출력이 올바른지 판단하기 위해 다학문적 팀(방사선 전문의, 병리학자, 종양 전문의 및 기타 전문가로 구성)이 필요할 수 있습니다.

따라서 GMAI 출력에 대한 사실 확인은 검증 도중과 모델 배포 후에 모두 심각한 과제입니다.

제작자는 해석 가능한 기술을 통합하여 GMAI 출력을 더 쉽게 검증할 수 있습니다. 예를 들어 GMAI 출력에 클릭 가능한 문헌과 특정 증거 단락이 포함되어 임상의가 GMAI 예측을 보다 효과적으로 확인할 수 있습니다.

마지막으로 GMAI 모델이 불확실성을 정확하게 표현하고 과신한 진술로 사용자를 오해하게 만드는 것을 방지하는 것이 중요합니다.

사회적 편견

의료 인공 지능 모델은 사회적 편견을 영속시키고 소외된 집단에 해를 끼칠 수 있습니다.

이러한 위험은 GMAI를 개발할 때 더 분명해질 수 있습니다. GMAI에서는 대규모 데이터의 요구와 복잡성으로 인해 모델이 바람직하지 않은 편견이 없는지 확인하기 어려울 수 있습니다.

GMAI 모델은 소수 집단과 같은 특정 인구 집단에서 성능이 저하되지 않도록 철저하게 검증되어야 합니다.

모델이 새로운 작업과 환경에 직면하면 새로운 문제가 발생할 수 있고 편향에 대한 신속한 식별과 수정이 개발자, 공급업체 및 규제 기관의 최우선 과제에 의해 수행되어야 하기 때문에 배포 후에도 모델에는 지속적인 감사와 감독이 필요합니다.

개인 정보 보호

GMAI 모델의 개발 및 사용은 환자의 개인 정보 보호에 심각한 위험을 초래하며 임상 측정 및 신호, 분자 특성 및 인구통계학적 정보, 행동 및 감각 추적을 포함한 풍부한 환자 특성에 노출될 수 있습니다. 데이터.

또한 GMAI 모델은 훈련 데이터를 더 쉽게 기억하고 이를 사용자에게 직접 반복하는 더 큰 아키텍처를 사용할 수 있으므로 잠재적으로 훈련 데이터 세트에서 민감한 환자 데이터가 노출될 수 있습니다.

개별 환자에 대해 수집되는 정보의 양을 비식별화하고 제한함으로써 데이터 노출로 인한 피해를 줄일 수 있습니다.

개인 정보 보호 문제는 교육 데이터에만 국한되지 않습니다. 배포된 GMAI 모델은 현재 환자 데이터를 노출할 수도 있습니다. 예를 들어 프롬프트는 GPT-3와 같은 모델이 이전 지침을 무시하도록 속일 수 있습니다. 민감한 데이터를 추출하기 위한 "정보 노출 금지" 지침.

위 내용은 Hinton의 예측이 현실로 다가오고 있습니다! 미국과 캐나다 최고의 대학인 네이처(Nature)는 다음과 같은 기사를 게재했습니다. 일반 의료용 인공지능 GMAI는 '방사선 전문의'만 대체하지 않을 것의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!