MIT의 신소재는 딥러닝 훈련을 시뮬레이션하고 속도를 100만 배 향상시키는 "인공 시냅스 2.0"을 만듭니다!

최근 몇 년 동안 과학자들이 계속해서 기계 학습의 경계를 확장함에 따라 점점 더 복잡해지는 신경망 모델을 훈련하는 데 필요한 시간, 에너지 및 비용이 급격히 증가했습니다. "모델을 구축할 수는 있지만 훈련이 너무 느리다"는 문제가 점점 더 많은 연구자들을 괴롭히는 골칫거리가 되었습니다.

최근에는 "아날로그 딥러닝"이라는 인공지능의 새로운 분야가 더 적은 에너지로 더 빠른 컴퓨팅을 약속합니다. 트랜지스터가 디지털 프로세서의 핵심 요소인 것처럼 프로그래밍 가능한 저항은 아날로그 딥 러닝의 핵심 부분입니다.

복잡한 층에 프로그래밍 가능한 저항을 반복적으로 배열함으로써 연구자들은 디지털 신경망처럼 계산을 수행하는 인공 뉴런과 시냅스의 시뮬레이션 네트워크를 만들 수 있습니다. 이 네트워크는 이미지 인식 및 자연어 처리와 같은 복잡한 인공 지능 작업을 구현하도록 훈련될 수 있습니다.

시뮬레이트된 신경망의 계산 속도는 "인공 시냅스"의 전송 속도에 크게 좌우됩니다. 이것이 MIT 팀이 해결하려고 하는 것입니다. 그들은 이전에 인공적으로 시뮬레이션된 시냅스를 개발한 적이 있으며, 이제 그들이 해야 할 일은 원래의 이전 버전을 능가하는 새로운 물질을 개발하는 것입니다.

이번에는 제조 과정에서 실용적인 무기 소재를 사용하여 위에서 언급한 프로그래밍 가능 저항이 이전 버전보다 100만 배 빠르게 작동하는 동시에 인간의 두뇌보다 빠른 속도를 달성했습니다. 배 더 빨라요. 또한 이 소재는 저항기를 매우 에너지 효율적으로 만듭니다. 이전 버전의 장치에 사용된 것과 달리 새로운 재료는 실리콘 제조 기술과 호환됩니다. 이러한 변화를 통해 나노미터 규모의 장치 제작이 가능해지고 딥 러닝 애플리케이션을 위한 상용 컴퓨팅 하드웨어에 통합될 수 있는 길을 열 수 있습니다. 이 연구 논문은 사이언스지에 게재되었습니다.

논문 링크: https://www.science.org/doi/pdf/10.1126/science.abp8064

논문 교신저자, MIT Electrical Engineering and Computer Science " 이 핵심 발견은 MIT.nano의 강력한 나노제조 기술과 결합되어 이 장치가 본질적으로 매우 빠르며 합리적인 전압에서 작동할 수 있음을 입증할 수 있었습니다. "이 장치는 가장 작은 이온을 전기화학적으로 삽입하여 작동합니다. 양성자 - 전자 전도도를 조절하기 위해 절연 산화물로 들어가는 것입니다. 우리가 사용하는 장치는 매우 얇기 때문에 강력한 전기장을 사용하여 이 이온 장치를 나노초 규모로 작동시킬 수 있습니다." Bilge, 해당 논문의 저자이자 원자력 과학 및 공학과의 Breene M. Kerr 교수와 Yildiz 재료 과학 및 공학과 교수가 설명했습니다. 논문의 교신 저자이자 원자력 과학 및 공학부 교수이자 Battelle Energy Alliance의 재료 과학 및 공학부 교수인 Ju Li는 다음과 같이 말했습니다.

"생물학적 세포의 활동 전위는 상승하고 하락합니다. 물의 안정성에 따라 약 0.1V의 전압 차이로 인해 밀리초 단위로 발생합니다. "여기서 우리는 영구적인 손상 없이 양성자를 전도할 수 있는 특수 나노미터 두께의 고체 유리 필름에 최대 10V의 전압을 적용합니다. 또한 전기장이 강할수록 이온화 장치가 더 빨리 작동합니다. 이 논문의 공동 저자로는 재료 과학 및 공학과의 Ellen Swallow Richards 교수인 Frances M. Ross, 박사후 연구원 Nicolas Emond 및 Baoming Wang, EECS 대학원생 Difei Zhang이 있습니다.

이러한 프로그래밍 가능 저항은 신경망의 훈련 속도를 크게 높이는 동시에 훈련 비용과 에너지 소비를 크게 줄입니다. 이는 과학자들이 자율주행차, 사기 탐지 또는 의료 이미지 분석과 같은 애플리케이션을 위한 딥 러닝 모델을 보다 신속하게 개발하는 데 도움이 될 수 있습니다. "아날로그 프로세서가 있으면 더 이상 다른 사람이 작업 중인 네트워크를 훈련할 필요가 없습니다. 다른 누구도 감당할 수 없는 전례 없이 높은 복잡성을 지닌 네트워크를 훈련할 수 있습니다. 즉, 단지 빠른 것만이 아닙니다. 차가 아니라 비행기야." 논문의 첫 번째 저자이자 MIT의 박사후 연구원인 Murat Onen은 말했습니다.

1백만 배 가속된 딥 러닝

아날로그 딥 러닝이 디지털 딥 러닝보다 더 빠르고 에너지 효율적인 두 가지 주요 이유가 있습니다.

우선, 계산이 메모리에서 이루어지기 때문에 막대한 데이터 로드가 메모리에서 프로세서로 왔다 갔다 하지 않습니다. 아날로그 프로세서도 병렬로 작동합니다. 행렬이 커지면 모든 계산이 동시에 수행되므로 아날로그 프로세서는 새 작업을 완료하는 데 더 많은 시간이 필요하지 않습니다. MIT의 새로운 아날로그 프로세서 기술의 핵심 요소는 양성자 프로그래밍 가능 저항기입니다. 이 저항기는 나노미터 단위로 측정되며 체커보드처럼 배열로 배열됩니다.

나노초 양성자 프로그래밍 가능 저항기

초고속, 에너지 효율적인 프로그래밍 가능 양성자 저항기를 개발하기 위해 연구원들은 다양한 전해질 재료를 살펴보았습니다. 다른 장치가 유기 화합물을 사용하는 반면, Onen은 무기 인산염 유리(PSG)에 중점을 둡니다. PSG는 기본적으로 수분을 제거하는 데 사용되는 분말형 건조제인 실리카입니다.

가습된 조건에서 연구원들은 이를 연료전지의 양성자 전도체로 연구했습니다. 이는 또한 실리콘 가공에서 가장 잘 알려진 산화물이기도 합니다. PSG를 만들기 위해 소량의 인이 실리콘에 첨가되어 양성자 전도의 특별한 특성을 부여합니다. Onen은 최적화된 PSG가 물 없이 실온에서 높은 양성자 전도성을 가질 수 있어 이상적인 고체 전해질이 될 수 있다는 가설을 세웠습니다.

놀라운 속도

PSG는 나노미터 크기의 기공을 다수 갖고 있고, 이 기공의 표면이 양성자 확산 경로를 제공하기 때문에 초고속 양성자의 운동이 가능합니다.

매우 강한 펄스 전기장도 견딜 수 있습니다.

Onen은 "장치에 더 많은 전압을 가하면 양성자가 매우 빠르게 움직일 수 있기 때문에 이것이 중요합니다."라고 말했습니다.

Onen은 "이 속도는 매우 놀랍습니다. 일반적으로 우리는 그렇게 강한 것을 사용하지 않습니다." 장치에 자기장을 가해 재로 변하는 것을 방지합니다. 하지만 그 대신에 양성자는 엄청난 속도로 장치 더미를 통과해 이동하게 됩니다. 그리고 그 속도는 여전히 우리가 이전에 했던 것보다 백만 배 더 빠릅니다. 작고 질량이 낮으며 이 운동은 아무것도 파괴하지 않습니다. 이는 마치 순간 이동과 비슷합니다. 양성자는 물질을 손상시키지 않기 때문에 저항기는 고장 없이 수백만 번 작동할 수 있습니다.

양성자 프로그래밍 가능 저항기의 초고속 및 에너지 효율적인 변조 특성

이 새로운 전해질은 프로그래밍 가능한 양성자 저항기를 이전 장치보다 최대 1백만 배 빠르게 구현하고 실온에서 Works에서 효율적으로 사용할 수 있습니다. 이는 컴퓨팅 하드웨어에 통합하는 데 중요합니다.

PSG의 절연 특성으로 인해 양성자가 이동할 때 재료에는 전류가 거의 흐르지 않습니다. Onen은 다음과 같이 덧붙였습니다. "이것은 장치를 매우 에너지 효율적으로 만듭니다."

del Alamo는 "이제 프로그래밍 가능한 저항기의 효율성을 입증했으므로 연구원들은 대량 생산을 위해 이를 다시 설계할 계획입니다. 그런 다음 연구할 수 있습니다." Yildiz는 "이 이온 장치가 가능하게 할 수 있는 또 다른 흥미로운 방향은 에너지 효율적인 하드웨어입니다."라고 Yildiz는 덧붙였습니다. 신경과학에서 파생된 가소성 규칙에 따라 우리는 MIT Quest for Intelligence의 지원을 받아 이러한 협력을 시작했습니다. Alamo는 "우리의 협력은 미래 혁신에 매우 중요합니다. 앞으로의 길은 여전히 ​​험난하지만 매우 흥미롭습니다!"라고 말했습니다. 스탠포드 대학교 재료 과학 및 공학 부교수는 "리튬 이온과 같은 배터리에서 발견되는 삽입 반응은 메모리 장치에서 광범위하게 연구되었습니다. 이 연구는 양성자 기반 메모리 장치가 인상적이고 놀라운 스위칭 속도와 내구성을 제공한다는 것을 보여줍니다. 그러나 William Chueh는 이 연구에 참여하지 않았습니다.

위 내용은 MIT의 신소재는 딥러닝 훈련을 시뮬레이션하고 속도를 100만 배 향상시키는 "인공 시냅스 2.0"을 만듭니다!의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!