인공지능의 미래는 인간-기계 환경 시스템 지능이다

군 정보는 전쟁과 같아서 안개이고 불확실성이 많고 예측할 수 없고 예측할 수 없습니다. 현재 인공지능의 발전 추세로 볼 때, 가까운 미래 전쟁에는 아직 해결되지 않은 인간-기계 통합의 숨겨진 위험이 많이 있습니다.

(1) 복잡한 정보 환경에서. , 인간과 기계는 한정된 정보를 특정 시간 내에 흡수하고 소화하고 적용하기 위해 사람에게는 압박감이 클수록 정보를 오해하게 되고 혼란과 혼란, 사고로 이어지기 쉽습니다. 기계가 도메인 간 구조화되지 않은 데이터를 학습하고, 이해하고, 예측하는 것은 여전히 ​​매우 어렵습니다.

(2) 전쟁에서 의사결정에 필요한 정보는 시공간적으로 광범위하게 분산되어 있어 일부 핵심 정보는 여전히 획득하기 어렵다고 판단됩니다. 더욱이, 기계가 수집한 중요한 객관적 물리적 데이터와 인간이 획득한 주관적 가공 정보 및 지식을 조율하고 통합하는 것은 어렵다.

(3) 미래의 전쟁에서는 비선형적인 특성과 예상치 못한 변동성이 많아 전투 과정과 결과를 예측할 수 없게 되는 경우가 많습니다. 공리를 기반으로 한 형식적인 논리적 추론만으로는 충분하지 않습니다. 복잡하고 끊임없이 변화하는 전투 상황에서 의사 결정을 내리는 데 사용됩니다. 핵무기의 지속적인 확산과 확산을 고려할 때, 미래의 국가 간 전쟁의 비용은 규모에 관계없이 점점 더 높아질 것입니다. 인공지능이 어떻게 발전하든 미래는 인류의 것이다. 인공지능이 인류의 운명을 결정하는 것이 아니라, 미래 전쟁을 위한 게임의 규칙을 인간이 공동으로 정의하고 인공지능의 운명을 결정해야 하는 이유는 바로 인공지능이 인류의 운명을 결정하기 때문이다. 미래전쟁은 논리적일 뿐만 아니라 비논리적인 요소도 많이 포함하고 있습니다.

(4) 국가마다 자율 장비의 분류가 다르기 때문에 강력한 인공 지능 또는 일반 인공 지능 무기의 개념에 대한 정의와 이해에 큰 격차가 있습니다. 현재의 과제는 특정 기술적 문제(기술은 매우 빠르게 반복되고 업데이트됨)를 해결하는 방법이지만 다음과 같은 인공 지능 응용 프로그램의 기본 개념과 정의에 대한 합의에 도달하는 방법은 다음과 같습니다. ① AI란 무엇입니까? ②자율이란 무엇인가? ③자동화와 지능의 차이점은 무엇인가요? ④기계 계산과 인간 계산의 차이점은 무엇입니까? ⑤인간-기계 기능/능력 분배의 경계는 어디인가? ⑥데이터와 AI, 리스크 책임은 어떤 관계가 있나요? 7계산가능성과 결정가능성의 차이 등

일부 정의는 여전히 매우 거칠며 추가 개선이 필요합니다. 예를 들어 인간 안보의 관점에서 "루프 외부의 사람"이라는 자율 무기를 금지하는 것은 보편적 가치에 부합하며 위험을 줄이는 데 필요합니다. 통제력을 상실했지만 시스템 루프에서는 어떤 사람들이 종종 무시되고 일부 무책임한 사람들은 전염병 예방 시스템에서 더 악화될 수 있습니다.

(5) 세계의 자율 기술 개발과 관련하여, 자율 기술을 정기적으로 평가하기 위해 공동 평가 팀을 구성하는 것이 좋습니다. 기술 개발에 대한 세부 평가 및 조기 경고를 수행하고, 기술 개발 이정표를 모니터링하고, 기술 개발에 대한 예측 분석을 수행하고, 개발에 참여하는 주요 기관 및 R&D 인력에 대한 대상 감독을 수행합니다. 민감한 기술을 다루고 어느 정도 학문적 개방성 요구 사항을 설정합니다.

(6) AI 군사화 발전이 직면한 보안 위험과 과제는 주로 다음과 같습니다.

① 인공지능과 자율 시스템은 예상치 못한 상황 확대와 위기 불안정으로 이어질 수 있습니다. 지능과 자율 시스템은 상대방 간의 전략적 안정성을 감소시킵니다(예: 중국, 미국, 미국 및 러시아 간의 전략적 관계가 더욱 긴장될 것입니다). 판단 + 인간 의사 결정, 인간 판단 + 기계 의사 결정, 기계 판단 + 인간 의사 결정, 기계 판단 + 기계 의사 결정)은 양측의 상황 확대에 영향을 미칩니다. 인간이 보내는 억제 신호(특히 긴장 완화 신호)

⑤ 시스템이 의도하지 않게 아군이나 민간인을 공격하는 자율 사고는 더 많은 의문을 제기할 수 있습니다.

7 자율 시스템의 확산은 심각한 대응책 모색을 촉발할 수 있으며, 이러한 대응책은 국가 간 불확실성을 증가시키고 안보 우려를 불러일으킬 것입니다.

계산은 "복잡성"을 다루고, 작문 쓰기는 계산 과정이지만 숫자와 그래픽이 아닌 텍스트 기호를 사용합니다.

인간은 세상을 완전히 마스터할 수는 없지만 세상을 이해하려고 노력할 수는 있습니다. 이러한 지능은 새로운 철학적 범주와 사고를 낳을 것입니다.

폰 노이만이 죽기 전에 출판한 뇌와 컴퓨터의 관계에 관한 마지막 저서 "컴퓨터와 뇌"에서 폰 노이만은 위의 관점을 요약하고 뇌가 뇌보다 훨씬 더 복잡할 뿐만 아니라 그러나 뇌는 그가 원래 생각했던 것과는 다른 방식으로 기능을 수행하는 것 같았습니다. 거의 결론적으로 그는 바이너리 컴퓨터가 뇌를 시뮬레이션하는 데 전혀 적합하지 않다고 결론지었습니다. 왜냐하면 그는 뇌의 논리구조가 논리나 수학의 논리구조와는 전혀 다르다고 거의 결론을 내릴 수 있기 때문이다. 그러면 “중추신경계가 실제로 사용하는 수학과 논리언어를 평가하는 관점에서 우리가 수학을 use 외부 형태는 그런 작업에 전혀 적합하지 않습니다.”​

최근 과학 연구에서도 이를 확인했습니다. 프랑스의 신경과학자 로맹 브레트(Romain Brette)의 발견은 근본적으로 신경 코딩으로 알려진 뇌와 컴퓨터의 기본 아키텍처의 일관성에 의문을 제기합니다. 뇌와 컴퓨터 사이의 은유에 영향을 받아 과학자들은 자극과 뉴런 사이의 연결을 기술적인 의미에서 신경 코딩이 자극을 철저하게 표현하는 표상적 의미로 전환했습니다. 실제로, 신경망이 최적의 디코딩 방식으로 뇌에 있는 이상화된 관찰자의 "하류 구조"에 신호를 전달하는 방법은 아직 알려지지 않았으며 단순한 모델에서도 명확하지 않습니다. 그렇다면 이 비유는 과학자들로 하여금 동물의 행동이 뉴런에 미치는 실제 영향을 무시하면서 감각과 뉴런 사이의 연결에만 초점을 맞추게 만듭니다.

헝가리 신경과학자 기오르기 부사키(Gyorgi Bussaki)의 연구 결과는 더욱 급진적입니다. Bussaki는 자신의 저서 The Brain Inside Out에서 뇌는 실제로 정보를 인코딩하여 표현하는 것이 아니라 정보를 구성한다는 점을 지적합니다. 그의 견해에 따르면, 뇌는 단순히 자극을 수동적으로 받아들이고 신경 코딩을 통해 이를 표상하는 것이 아니라, 다양한 가능성을 적극적으로 탐색하여 다양한 가능성을 시험해 본다. 이것은 의심할 여지없이 컴퓨터를 뇌에 대한 은유로 사용하는 은유를 완전히 전복시키는 것입니다.

뇌과학의 관점에서 보든 컴퓨터 과학의 관점에서 보든, 뇌를 컴퓨터에 비유하는 은유적인 수명은 더 이상 지속되지 않을 수 있습니다. 콥은 이런 은유가 사람들의 컴퓨터 연구에 적용되어 사람들을 눈멀게 하고 실제 연구의 범위가 좁아지고 있음을 날카롭게 지적했다.

위 내용은 인공지능의 미래는 인간-기계 환경 시스템 지능이다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!