IEEE 해석 가능한 AI 아키텍처 표준 P2894 공식 출시

Explainable AI(XAI)는 인공 지능의 새로운 분야로, 인공 지능 기능이 내리는 모든 결정의 논리를 분석하는 데 사용됩니다. 이는 인공 지능의 지속 가능한 발전을 위한 핵심 관심사 중 하나입니다. 대형 모델 시대의 도래와 함께 모델은 점점 더 복잡해지고 있으며, 해석 가능성에 주목하는 것은 인공지능 시스템의 투명성, 보안성, 신뢰성을 향상시키는 데 큰 의미가 있습니다. interpretable 국제 표준 i

eee p2894 s가 출시되어 릴리즈를 시작합니다. 설명 가능한 인공 지능을 위한 아키텍처 프레임워크)가 공식적으로 출시되었습니다. IEEE는 세계 최대 규모의 비영리 전문 기술 협회로 학술 및 국제 표준 분야에서 권위를 인정받고 있으며 현재 900개 이상의 산업 표준을 제정했습니다. 표준 원본 텍스트 링크:https://www.php.cn/link/b252e54edce965ac4408effd7ce41fb7이번에 발표된 해석 가능한 AI 아키텍처 표준은 업계에 기계 학습 모델을 구축, 배포 및 관리할 수 있는 기술을 제공합니다. Blueprint , 다양한 설명 가능한 AI 방식을 채택하여 투명하고 신뢰할 수 있는 AI의 요구 사항을 충족합니다. 이 표준은 설명 가능한 AI에 대한 설명 및 정의, 설명 가능한 AI 방법의 분류, 각 유형에 적용 가능한 적용 시나리오, 설명 가능한 AI 시스템의 정확성, 개인 정보 보호 및 보안을 포함하여 설명 가능한 AI에 대한 아키텍처 프레임워크 및 애플리케이션 지침을 정의합니다. 성과평가방법. 2020년 6월 초, WeChat Bank, Huawei, JD.com, Baidu, Yitu, Hisense, CETC 빅 데이터 연구소, 컴퓨팅 기술 연구소, 중국과학원, China Telecom, China Mobile, China Unicom, Shanghai Computer 소프트웨어 기술 개발 센터, ENN 그룹, 중국 자산 관리, 시노베이션 벤처스 등 20개 이상의 기업과 기관이 AI 기술 보안 사양에 대한 깊은 이해와 비즈니스 시나리오의 설명 가능성을 바탕으로 IEEE 표준 협회에서 공동으로 해석 가능성 이니셔티브를 설립했습니다. 금융, 유통, 스마트시티 등 다양한 분야에서 실무그룹을 구성하고 그 달 첫 번째 표준 실무그룹 회의를 조직했습니다. 위챗뱅크 인공지능 수석과학자 판 리신(Fan Lixin) 박사가 표준 실무그룹 의장을 맡고, 첸 이신(Chen Yixin) 미국 워싱턴대 교수가 부회장을 맡고 있다. 이후 표준 실무그룹은 여러 차례 회의를 가졌고, 최종 표준 초안은 2024년 2월 IEEE 표준 협회에서 공식적으로 발표될 예정이다.

표준 실무 그룹 의장인 Fan Lixin 박사는 "설명성은 현재 AI 기술 개발 단계에서 무시할 수 없는 중요한 문제이지만 관련 산업 표준과 규범 문서는 아직 충분하지 않습니다. 이번 표준 제정에는 금융, 통신 분야 인력이 흡수됐다. 유통, 인터넷 등 다양한 분야의 선도 기업과 연구기관의 최첨단 실무 경험이 AI의 폭넓은 구현에 귀중한 참고 자료가 될 것으로 믿는다.”

신뢰할 수 있는 연합 학습 및 신뢰할 수 있는 AI에 대한 관련 표준이 AI 데이터 보안 및 개인 정보 보호에 중점을 두고 차례로 발표될 예정입니다

” 데이터 Dr. Fan Lixin은 이번에 발표된 설명 가능한 AI 시스템 아키텍처 표준도 중요한 이정표라고 소개했습니다. "신뢰할 수 있는 연합 학습"이라는 새로운 패러다임을 연구하고 구현합니다. "신뢰할 수 있는 연합 학습"은 사용자와 감독자의 요구를 충족할 수 있는 분산형 기계 학습 패러다임입니다. 이 패러다임에서는 개인 정보 보호, 모델 성능 및 알고리즘 효율성이 핵심 삼각형 초석이며 모델 의사 결정 해석 가능성 및 모델 감독 가능성의 두 가지 기둥과 함께 보다 안전하고 신뢰할 수 있는 연합 학습을 형성합니다. 》신뢰할 수 있는 연합학습'이라는 새로운 패러다임을 소개하는 글입니다. 이 패러다임에서는 개인 정보 보호, 모델 성능 및 알고리즘 효율성이 핵심 삼각형 초석이며 모델 의사 결정 해석 가능성 및 모델 감독 가능성의 두 가지 기둥과 함께 보다 안전하고 신뢰할 수 있는 연합 학습을 형성합니다. 이 패러다임은 모든 측면의 요구를 충족할 수 있으며 새로운 분산 기계 학습 방법입니다. 이 기사에서는 이 패러다임의 중요성과 구성 요소를 소개합니다. 데이터의 안전한 순환이 핵심 역할을 하며, 신뢰할 수 있는 연합 학습은 데이터 요소의 안전한 순환을 촉진하는 데 핵심적인 역할을 합니다. 국가데이터청이 발표한 '데이터 요소' 3개년 실행 계획(2024~2026)에서는 '안전하고 신뢰할 수 있는 유통 환경을 조성하고, 개인 정보 보호 컴퓨팅 및 연합 학습과 같은 기술의 적용을 심화하며, 신뢰성과 신뢰성을 향상'할 것을 제안합니다. 데이터 활용의 제어 가능성", 측정 가능한 기능, 데이터 규정 준수의 효율적인 순환 및 사용을 촉진합니다. "신뢰할 수 있는 연합 학습은 개인 정보 보호 컴퓨팅, 연합 학습 및 기타 기술을 기반으로 하는 데이터 규정 준수 순환 방법으로 신뢰도, 제어 가능성 및 데이터 규정 준수를 향상시킬 수 있습니다. 데이터 활용의 예측 가능성 측정 기능은 데이터의 규정 준수, 효율적인 순환 및 사용을 촉진하여 데이터의 가치를 극대화합니다.

연합학습과 신뢰할 수 있는 인공지능에 산업계와 학계가 주목하는 가운데, IEEE 표준 협회에서 승인한 다수의 신뢰할 수 있는 연합학습과 신뢰할 수 있는 인공지능 표준도 속속 출시될 예정입니다. 이 중 연합학습의 개인정보 보호 및 보안 아키텍처에 관한 표준 IEEE P2986(Recommended Practice for Privacy and Security for Federated Machine Learning) 초안이 완성되어 곧 공식 출시될 예정입니다. 본 표준은 업계 최초로 연합학습의 개인정보 위험 수준 및 보안 위험 수준 평가 방법을 제안합니다. 특히 연합 기계 학습의 일반적인 결함과 대책, 연합 기계 학습에 대한 개인 정보 보호 및 보안 요구 사항, 연합 기계 학습 개인 정보 보호 및 보안 평가 지침이 포함되어 있습니다.

또한 IEEE P2986을 기반으로 연합 학습에 좀 더 초점을 맞춘 신뢰할 수 있는 연합 학습 표준인 IEEE P3187(Guide for Framework for Trustworthy Federated Machine Learning)도 예비 검토를 완료했습니다. 이 표준은 신뢰할 수 있는 연합 학습의 프레임워크와 기능을 제안하고, 이러한 기능의 구현에 대한 특정 제약 조건을 설정하며, 신뢰할 수 있는 연합 학습을 구현하기 위한 솔루션을 소개합니다.

Large Model AI Agent+대형 모델 시대에 신뢰할 수 있는 인공 지능을 만들기 위한 연합 학습

최근 China Telecom과 WeBank도 공동으로 의미 정보 정보 기관 설립을 시작했습니다. 연합 학습 표준 IEEE P3427(의미 정보 에이전트의 연합 기계 학습 표준) 작업 그룹. 본 표준안에서 논의되는 주제는 연합 머신러닝 기반의 의미인지 네트워크에서의 역할 정의, 인센티브 메커니즘, 다양한 의미 에이전트의 의미 전달, 인간이 이해하기 쉬운 의미 에이전트에 대한 의미 정보 표현, 의미 에이전트 간 연합 등이다. 정보보안, 효율적인 상호작용 등 표준워킹그룹은 2024년 3월말 표준 개발을 착수할 예정이며, 현재 다양한 업계의 관련 전문가를 모집해 공동으로 표준 개선과 산업 발전을 도모하고 있다.

관련 산업 표준의 연속 출시는 산업 간, 분야 간 기술 협력과 혁신을 더욱 촉진하고, AI의 "블랙박스"를 열고, 높은 정확도와 데이터 요소의 안전하고 효율적인 순환을 촉진할 것입니다. 높은 해석성은 인류에게 이익을 가져다주는 기술의 광범위하고 책임감 있고 효과적인 적용을 실현하는 데 도움이 될 것입니다.

위 내용은 IEEE 해석 가능한 AI 아키텍처 표준 P2894 공식 출시의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!