현재 AI 세계는 전력 소모가 많고 계산 능력이 제한되어 있습니다. 모델 개발의 궤적은 빠르지만 이러한 발전으로 인해 컴퓨팅 성능이 크게 향상되어야 합니다. 기존 트랜지스터 기반 컴퓨팅은 물리적 한계에 접근하고 있으며 이미 증가하는 컴퓨팅 수요를 충족하기 위해 고군분투하고 있습니다.
대기업에서는 자체 맞춤형 칩 솔루션을 개발하여 이 문제를 해결하려고 노력해 왔습니다. 그러나 하드웨어 병목 현상은 기존 전자 프로세서로는 극복하기에는 너무 심각할 수 있습니다. 그렇다면 기술이 어떻게 컴퓨팅 능력에 대한 수요의 기하급수적인 증가를 적절하게 충족할 수 있습니까?
행렬 곱셈
대규모 언어 모델에서는 컴퓨팅 작업의 90% 이상이 행렬 곱셈을 사용합니다. 행렬 곱셈은 곱셈과 덧셈의 기본 연산을 구조화된 방식으로 수행함으로써 인공지능의 다양한 기능 모듈을 지원할 수 있습니다. 이는 언어 모델뿐만 아니라 거의 모든 신경망의 기초이기도 합니다. 대규모 뉴런 간의 연결을 실현하고, 이미지 분류 및 객체 감지를 위한 컨볼루션 연산을 수행하고, 순차적 데이터를 처리하는 등의 작업을 수행할 수 있습니다. 단순한 개념이지만 AI 및 수많은 기타 응용 프로그램을 지원하는 데이터를 효율적으로 조작하고 변환하는 데 중요하므로 행렬 곱셈의 중요성은 아무리 강조해도 지나치지 않습니다
AI 모델이 더욱 정교해짐에 따라 크기가 커질수록 더 많은 행렬 연산을 수행하게 됩니다. 수행하려면 더 강력한 컴퓨팅 성능이 필요하다는 뜻입니다. 이러한 수요를 충족시키기 위해 전자제품은 지금도 한계에 도달하고 있습니다. 다른 해결책이 있나요?
Optical Matrix Multiplication
광학은 우리의 삶을 변화시키기 위해 다양한 방법으로 사용되어 왔으며, 특히 광섬유 네트워크의 광통신에 사용되었습니다. 광컴퓨팅은 자연스러운 다음 단계입니다. 디지털 전자공학에서는 가장 간단한 산술 연산을 수행하기 위해 많은 수의 트랜지스터가 필요한 반면, 광학 컴퓨팅에서는 물리 법칙을 활용하여 계산을 수행합니다. 입력 정보는 광선으로 인코딩되고 간섭 및 회절과 같은 광학의 자연적 특성을 사용하여 행렬 곱셈이 수행됩니다. 정보는 다양한 파장, 편광 및 공간 모드로 인코딩될 수 있으므로 사실상 빛의 속도로 무제한의 병렬 처리 및 계산이 이루어질 수 있습니다.
3D 광학으로 새로운 차원 추가
데나드 스케일링과 무어의 법칙이 끝나감에 따라 컴퓨팅의 기본을 다시 살펴볼 시간입니다. 디지털 전자 장치는 본질적으로 "2D" 레이아웃으로 제한됩니다. 즉, 트랜지스터 게이트와 회로는 웨이퍼에 제작되고 계산은 2D 평면의 여러 장치 간의 정보 흐름에 의해 수행됩니다. 이 2D 컴퓨팅 아키텍처는 계속해서 증가하는 트랜지스터 밀도를 요구하고 심각한 상호 연결 문제를 일으키며 악명 높은 메모리 병목 현상을 겪습니다. 3D 스택 메모리의 개발로 이제 2D 디자인의 변화가 시작되었지만 업계 전체가 적응하려면 아직 갈 길이 멀다.
Optics는 이제 3D 공간에서 자연스럽게 계산을 수행하여 게임에 혁명을 일으킬 수 있습니다. 새로운 차원을 추가하면 기존 컴퓨팅의 많은 한계를 완화할 수 있습니다. 구성 요소를 상호 연결하는 것은 더 쉽고 에너지 효율적이며 대기 시간(각 계산이 수행되는 속도)을 저하시키지 않고 처리량(주어진 시간에 수행할 수 있는 계산 수)을 계속 증가시킬 수 있습니다. 이는 3D 광학의 고유한 기능입니다. 10개의 숫자를 곱하든 10,000개의 숫자를 곱하든 모든 것이 빛의 속도로 동시에 발생합니다. 이는 광학 프로세서의 확장성에 큰 영향을 미치며 현재 디지털 프로세서 속도의 1,000배에 도달할 수 있습니다.
3D 광학의 고유한 확장성 외에도 광학의 클록 속도는 기존 전자 장치보다 최대 100배 빠른 속도를 제공할 수 있으며 파장을 다중화하는 기능을 통해 최대 100배의 추가 개선이 가능합니다. 이 모든 것을 결합하면 3D 광학 매트릭스 곱셈만이 제공할 수 있는 더 높은 처리량, 더 낮은 대기 시간 및 더 높은 신뢰성으로 컴퓨팅 속도를 기하급수적으로 확장할 수 있습니다.
이것이 인공 지능에 미치는 영향 무엇입니까?
행렬 곱셈은 모든 인공 지능 계산의 중추를 형성합니다. 신청의. 특히, 3D 광학이 제공하는 높은 처리량과 낮은 대기 시간은 실시간 응답성과 효율성을 기반으로 하는 애플리케이션인 데이터 센터의 인공 지능 추론 작업에 특히 유용합니다.
3D 광학 컴퓨팅은 기존 전자 장치 또는 통합 포토닉스에 비해 대역폭, 대기 시간, 속도 및 확장성을 크게 향상시켰습니다. 또한 기존 기계 학습 알고리즘과 호환되므로 모든 인공 지능 애플리케이션에 혁명을 일으킬 가능성이 있습니다
위 내용은 인공 지능의 미래: 광학 매트릭스 곱셈의 혁명적인 영향의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

내 칼럼을 처음 접할 수있는 분들을 위해, 나는 구체화 된 AI, AI 추론, AI의 첨단 획기적인 혁신, AI 교육, AI의 수비, ai re

유럽의 야심 찬 AI 대륙 행동 계획은 EU를 인공 지능의 글로벌 리더로 설립하는 것을 목표로합니다. 핵심 요소는 AI Gigafactories 네트워크를 만드는 것입니다. 각각 약 100,000 개의 고급 AI 칩을 보유하고 있습니다 - Capaci의 4 배

AI 에이전트 애플리케이션에 대한 Microsoft의 통합 접근 방식 : 비즈니스를위한 명확한 승리 새로운 AI 에이전트 기능에 관한 Microsoft의 최근 발표는 명확하고 통합 된 프레젠테이션에 깊은 인상을 받았습니다. 많은 기술 발표와는 달리 TE에서 멍청한 것입니다

Shopify CEO Tobi Lütke의 최근 메모는 AI 숙련도가 모든 직원에 대한 근본적인 기대를 대담하게 선언하여 회사 내에서 중요한 문화적 변화를 표시합니다. 이것은 도망가는 트렌드가 아닙니다. 그것은 p에 통합 된 새로운 운영 패러다임입니다

IBM의 Z17 메인 프레임 : 향상된 비즈니스 운영을 위해 AI를 통합합니다 지난 달, IBM의 뉴욕 본사에서 Z17의 기능을 미리 보았습니다. Z16의 성공을 기반으로 (2022 년에 시작되어 지속적인 수익을 보여주는 시연

흔들리지 않는 자신감을 해제하고 외부 검증의 필요성을 제거하십시오! 이 다섯 개의 chatgpt 프롬프트는 완전한 자립과 자기 인식의 변형적인 변화로 당신을 안내 할 것입니다. 간단히 괄호를 복사, 붙여 넣기 및 사용자 정의하십시오

인공 지능 보안 및 연구 회사 인 Anthropic의 최근 [연구]는 이러한 복잡한 과정에 대한 진실을 밝히기 시작하여 우리 자신의인지 영역과 방해가되는 복잡성을 보여줍니다. 자연 지능과 인공 지능은 우리가 생각하는 것보다 더 유사 할 수 있습니다. 내부 스누핑 : 의인성 해석 가능성 연구 Anthropic이 수행 한 연구에서 얻은 새로운 연구 결과는 AI의 내부 컴퓨팅을 역 엔지니어링하는 것을 목표로하는 기계적 해석 성 분야에서 상당한 발전을 나타냅니다. AI가하는 일을 관찰 할뿐만 아니라 인공 뉴런 수준에서 어떻게 수행하는지 이해합니다. 누군가가 특정한 대상을 보거나 특정한 아이디어에 대해 생각할 때 어떤 뉴런이 발사하는지 그림으로 뇌를 이해하려고한다고 상상해보십시오. 에이

Qualcomm 's Dragonwing : 기업 및 인프라로의 전략적 도약 Qualcomm은 새로운 Dragonwing 브랜드를 통해 전 세계적으로 엔터프라이즈 및 인프라 시장을 대상으로 모바일을 넘어 범위를 적극적으로 확장하고 있습니다. 이것은 단지 Rebran이 아닙니다


핫 AI 도구

Undresser.AI Undress
사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover
사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool
무료로 이미지를 벗다

Clothoff.io
AI 옷 제거제

AI Hentai Generator
AI Hentai를 무료로 생성하십시오.

인기 기사

뜨거운 도구

SecList
SecLists는 최고의 보안 테스터의 동반자입니다. 보안 평가 시 자주 사용되는 다양한 유형의 목록을 한 곳에 모아 놓은 것입니다. SecLists는 보안 테스터에게 필요할 수 있는 모든 목록을 편리하게 제공하여 보안 테스트를 더욱 효율적이고 생산적으로 만드는 데 도움이 됩니다. 목록 유형에는 사용자 이름, 비밀번호, URL, 퍼징 페이로드, 민감한 데이터 패턴, 웹 셸 등이 포함됩니다. 테스터는 이 저장소를 새로운 테스트 시스템으로 간단히 가져올 수 있으며 필요한 모든 유형의 목록에 액세스할 수 있습니다.

메모장++7.3.1
사용하기 쉬운 무료 코드 편집기

드림위버 CS6
시각적 웹 개발 도구

Atom Editor Mac 버전 다운로드
가장 인기 있는 오픈 소스 편집기

SublimeText3 중국어 버전
중국어 버전, 사용하기 매우 쉽습니다.

뜨거운 주제



