IEEE Interpretable AI Architecture Standard P2894 offiziell veröffentlicht

Erklärbare KI (XAI) ist ein aufstrebender Zweig der künstlichen Intelligenz. Sie wird verwendet, um die Logik hinter jeder Entscheidung zu analysieren, die von den Fähigkeiten der künstlichen Intelligenz getroffen wird. Mit Beginn der Ära großer Modelle werden Modelle immer komplexer, und die Beachtung der Interpretierbarkeit ist für die Verbesserung der Transparenz, Sicherheit und Zuverlässigkeit künstlicher Intelligenzsysteme von großer Bedeutung.

Interpretierbares AIInternationaler Standard IEEE P2894wird veröffentlicht und öffnet eine „Black Box“ AIKürzlich wurde der Standard P2894 der IEEE Standards Association zur interpretierbaren KI-Architektur veröffentlicht ( Guide for an Architectural Framework for Explainable Artificial Intelligence) wird offiziell veröffentlicht. IEEE ist die weltweit größte gemeinnützige Fach- und Technikgesellschaft. Sie gilt als maßgeblich im Bereich akademischer und internationaler Standards und hat mehr als 900 aktuelle Industriestandards formuliert.

Standard-Originaltext-Link:

https://www.php.cn/link/b252e54edce965ac4408effd7ce41fb7

Der diesmal veröffentlichte interpretierbare KI-Architekturstandard bietet der Branche Technologie zum Erstellen, Bereitstellen und Verwalten von Blueprint-Modellen für maschinelles Lernen , und erfüllt gleichzeitig die Anforderungen einer transparenten und vertrauenswürdigen KI durch den Einsatz verschiedener erklärbarer KI-Methoden. Der Standard definiert den architektonischen Rahmen und die Anwendungsrichtlinien für erklärbare KI, einschließlich der Beschreibung und Definition erklärbarer KI, der Klassifizierung erklärbarer KI-Methoden und anwendbarer Anwendungsszenarien für jeden Typ sowie der Genauigkeit, Privatsphäre und Sicherheit erklärbarer KI-Systeme. Methode zur Leistungsbewertung.

Bereits im Juni 2020 WeChat Bank, Huawei, JD.com, Baidu, Yitu, Hisense, CETC Big Data Research Institute, Institute of Computing Technology, Chinese Academy of Sciences, China Telecom, China Mobile, China Unicom, Shanghai Computer Software Technology Development Center, Mehr als 20 Unternehmen und Institutionen, darunter ENN Group, China Asset Management und Sinovation Ventures, haben gemeinsam die Interpretability Initiative bei der IEEE Standards Association gegründet, basierend auf ihrem tiefen Verständnis der Sicherheitsspezifikationen und Erklärbarkeit von KI-Technologie in Geschäftsszenarien in mehreren Bereichen wie Finanzen, Einzelhandel und Smart Cities und organisierte in diesem Monat das erste Treffen der Arbeitsgruppe für Standards. Dr. Fan Lixin, leitender Wissenschaftler für künstliche Intelligenz bei der WeChat Bank, fungiert als Vorsitzender der Arbeitsgruppe für Standards, und Dr. Chen Yixin, Professor an der University of Washington in den Vereinigten Staaten, fungiert als stellvertretender Vorsitzender. Seitdem hat die Arbeitsgruppe für Standards mehrere Sitzungen abgehalten und der endgültige Standardentwurf wird im Februar 2024 von der IEEE Standards Association offiziell veröffentlicht.

Dr. Fan Lixin, Vorsitzender der Standards Working Group, sagte: „Erklärbarkeit ist ein wichtiges Thema, das im aktuellen Entwicklungsstadium der KI-Technologie nicht ignoriert werden kann, aber die relevanten Industriestandards und normativen Dokumente sind noch nicht vollständig genug.“ Die Formulierung dieses Standards zog Menschen aus den Bereichen Finanzen und Kommunikation in ihren Bann. Die innovativen praktischen Erfahrungen führender Unternehmen und Forschungseinrichtungen in verschiedenen Bereichen wie Handel, Einzelhandel und Internet gelten als wertvolle Referenz für die umfassendere Implementierung von KI.“

Verwandte Standards für vertrauenswürdiges föderiertes Lernen und vertrauenswürdige KI werden nacheinander veröffentlicht, wobei der Schwerpunkt auf KI-Datensicherheit und Datenschutz liegt bei der Erforschung und Umsetzung des neuen Paradigmas des „Trusted Federated Learning“. „Trusted Federated Learning“ ist ein verteiltes maschinelles Lernparadigma, das den Bedürfnissen der Benutzer und der Aufsicht gerecht werden kann. In diesem Paradigma sind Datenschutz, Modellleistung und Algorithmuseffizienz die zentralen dreieckigen Eckpfeiler. Zusammen mit den beiden Säulen der Interpretierbarkeit der Modellentscheidung und der Modellüberprüfbarkeit bilden sie ein sichereres und vertrauenswürdigeres föderiertes Lernen. „Dies ist ein Artikel, der das neue Paradigma des „Trusted Federated Learning“ vorstellt. In diesem Paradigma sind Datenschutz, Modellleistung und Algorithmuseffizienz die zentralen dreieckigen Eckpfeiler. Zusammen mit den beiden Säulen der Interpretierbarkeit der Modellentscheidung und der Modellüberprüfbarkeit bilden sie ein sichereres und vertrauenswürdigeres föderiertes Lernen. Dieses Paradigma kann die Anforderungen aller Aspekte erfüllen und ist eine neue Methode des verteilten maschinellen Lernens. In diesem Artikel werden die Bedeutung und Komponenten dieses Paradigmas vorgestellt.

Der sichere Datenverkehr spielt eine Schlüsselrolle, und vertrauenswürdiges föderiertes Lernen spielt eine Schlüsselrolle bei der Förderung des sicheren Datenverkehrs. Der von der National Data Administration herausgegebene Dreijahres-Aktionsplan „Data Elements“ (2024-2026) schlägt vor, „eine sichere und vertrauenswürdige Verbreitungsumgebung zu schaffen, die Anwendung von Technologien wie Privacy Computing und föderiertes Lernen zu vertiefen und die Glaubwürdigkeit zu erhöhen.“ Kontrollierbarkeit der Datennutzung.“ , messbare Fähigkeiten und Förderung einer effizienten Verbreitung und Nutzung der Datenkonformität. „Vertrauenswürdiges föderiertes Lernen als Datenkonformitätsverbreitungsmethode, die auf Privacy Computing, föderiertem Lernen und anderen Technologien basiert, kann die Glaubwürdigkeit, Kontrollierbarkeit usw. verbessern Vorhersehbarkeit der Datennutzung. Messfunktionen fördern die gesetzeskonforme und effiziente Verbreitung und Nutzung von Daten und maximieren so den Wert der Daten.

Da Industrie und Wissenschaft auf föderiertes Lernen und vertrauenswürdige künstliche Intelligenz achten, werden nacheinander auch mehrere von der IEEE Standards Association genehmigte Standards für vertrauenswürdiges föderiertes Lernen und vertrauenswürdige künstliche Intelligenz veröffentlicht. Darunter ist der Entwurf des Standards IEEE P2986 (Recommended Practice for Privacy and Security for Federated Machine Learning) zur Datenschutz- und Sicherheitsarchitektur des Federated Learning, der fertiggestellt wurde und voraussichtlich bald offiziell veröffentlicht wird. Dieser Standard schlägt zum ersten Mal in der Branche die Methoden zur Bewertung des Datenschutzrisikoniveaus und des Sicherheitsrisikoniveaus des föderierten Lernens vor. Insbesondere umfasst es häufige Fehler und Gegenmaßnahmen beim föderierten maschinellen Lernen, Datenschutz- und Sicherheitsanforderungen für föderiertes maschinelles Lernen sowie Richtlinien zur Bewertung von Datenschutz und Sicherheit beim föderierten maschinellen Lernen.

Darüber hinaus hat auch der auf IEEE P2986 basierende vertrauenswürdige Federated-Learning-Standard IEEE P3187 (Guide for Framework for Trustworthy Federated Machine Learning), der sich stärker auf Federated Learning konzentriert, seine vorläufige Prüfung abgeschlossen. Der Standard schlägt den Rahmen und die Merkmale des vertrauenswürdigen föderierten Lernens vor, legt spezifische Einschränkungen für die Implementierung dieser Merkmale fest und stellt Lösungen für die Implementierung des vertrauenswürdigen föderierten Lernens vor. „Großes Modell A“ „Ich bin ein Mann“ Arbeitsgruppe zum Lernstandard IEEE P3427 (Standard for Federated Machine Learning of Semantic Information Agents). Zu den in diesem Standardplan behandelten Themen gehören die Rollendefinition, der Anreizmechanismus, die semantische Kommunikation verschiedener semantischer Agenten im semantischen kognitiven Netzwerk auf der Grundlage von föderiertem maschinellem Lernen, die Darstellung semantischer Informationen auf semantischen Agenten, die für den Menschen leicht verständlich ist, und die Verbindung zwischen ihnen semantische Agenten. Informationssicherheit, effiziente Interaktion usw. Die Standards-Arbeitsgruppe plant, Ende März 2024 mit der Standardentwicklung zu beginnen und rekrutiert derzeit relevante Experten aus verschiedenen Branchen, um gemeinsam die Standards zu verbessern und die Branchenentwicklung voranzutreiben.

Die sukzessive Veröffentlichung relevanter Industriestandards wird die branchen- und bereichsübergreifende technische Zusammenarbeit und Innovation weiter fördern, die „Black Box“ der KI öffnen und die sichere und effiziente Verbreitung von Datenelementen mit hoher Genauigkeit fördern Eine hohe Interpretierbarkeit wird dazu beitragen, den weit verbreiteten, verantwortungsvollen und effektiven Einsatz von Technologie zum Nutzen der Menschheit zu verwirklichen.

Das obige ist der detaillierte Inhalt vonIEEE Interpretable AI Architecture Standard P2894 offiziell veröffentlicht. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!