FATE 2.0 veröffentlicht: Realisierung der Verbindung heterogener föderierter Lernsysteme

• FATE 2.0Umfassendes Upgrade zur Förderung der großflächigen Anwendung von Private Computing Federationed Learning

Die Open-Source-Plattform FATE hat die Veröffentlichung der FATE 2.0-Version angekündigt , wie die Welt führendes Open-Source-Framework für föderiertes Lernen in Industriequalität. Dieses Update realisiert die Verbindung zwischen föderierten heterogenen Systemen und verbessert weiterhin die Verbindungsfunktionen der Privacy-Computing-Plattform. Dieser Fortschritt fördert die Entwicklung groß angelegter Anwendungen des föderierten Lernens und des Privacy Computing weiter.

FATE 2.0 setzt umfassende Interoperabilität als Designkonzept und nutzt Open-Source-Methoden, um die vier Ebenen der Anwendungsschicht, der Planung, der Kommunikation und des heterogenen Computing (Algorithmus) zu transformieren. , Es erkennt die Fähigkeit der heterogenen Interoperabilität zwischen Systemen und Systemen, Systemen und Algorithmen sowie Algorithmen und Algorithmen.

FATE 2.0 ist so konzipiert, dass es mit der „Financial Industry Privacy Computing InteroperabilityAPITechnical Documentation“ der Beijing Financial Technology Industry Alliance kompatibel ist [3] und anderen Industriestandards hat FATE 2.0 vor der Veröffentlichung die Überprüfung der Verbindung und Interoperabilität mit mehreren heterogenen Privacy-Computing-Plattformen abgeschlossen. Kürzlich erwähnte die „Beijing Financial Technology Industry Alliance“ in der Veröffentlichung von Dokumenten, dass „das Forschungsteam in Zusammenarbeit mit der FATE-Open-Source-Community und führenden Technologieunternehmen die plattform- und algorithmenübergreifende Interoperabilität von fünf Parteien abgeschlossen hat.“ gemeinsames Debuggen, Überprüfung, ob das Schnittstellendokument die Machbarkeit und Sicherheit der heterogenen Mehrparteien-Plattformverbindung unterstützt".

Besuchen Sie die folgende URL, um die FATE 2.0-Version zu erhalten:

https://www.php.cn/link/99113167f3b816bdeb56ff1af6cec7af

FATE 2.0

• Highlights im Überblick Application Layer Interconnection:
• Erstellen Sie ein Standard skalierbares Verbund-DSL, unterstützen Sie die Application Layer Interconnection und vereinheitlichen Sie DSL zur Anpassung an mehrere heterogene Datenschutz-Computing-Plattformen Missionsbeschreibung
  • PlanungsschichtVerbindung: Systemmodule von mehreren Ebenen entkoppeln, um eine offene und standardisierte Verbindungsplanungsplattform aufzubauen, die Aufgabenplanung zwischen mehreren heterogenen privaten Computerplattformen zu unterstützen

  
  

  • Standortübergreifende Transportschicht-Verbindung: Erstellen Sie offene standortübergreifende Verbindungskommunikationskomponenten, unterstützen Sie mehrere Übertragungsmodi und mehrere Kommunikationsprotokolle. Kann sich an die Datenübertragung zwischen mehreren heterogenen Datenschutz-Computing-Plattformen anpassen, die Übertragungseffizienz und Systemstabilität verbessern

  
  

  • Bundesheterogene Computerverbindung: Aufbau verteilter und Klartext Tensor/DataFrame, EntkopplungHE, . MPC und andere Sicherheitsprotokolle und föderierte Algorithmusprotokolle, Hilfe Verbundene heterogene Computing-Engine-Verbindung

  
  

  • Migration und Erweiterung des Kernalgorithmus, Erfahrung und Leistung bei der Algorithmusentwicklung werden erheblich verbessert: Verwendung des Programmiermodus „Verteilter, klarer Chiffretext“Tensor/Dataframe zur Realisierung der Migration und Erweiterung des Kernalgorithmus ; Leistungsverbesserung des Kernalgorithmus: PSILeistungsverbesserung des Datenschutz-Schnittalgorithmus 1,8+ Mal, vertikale FöderationSSHE-LR Algorithmusleistung wird 4,3+ Mal verbessert und vertikale föderierte neuronale Die Leistung des Netzwerkalgorithmus wurde um das 143-fache verbessert FATE 2.0

  Funktionen im Überblick

  FATE

  
  

  -Client 2.0:
  • Erstellen Sie ein skalierbares föderiertes DSL ,
  unterstützt die Verbindung auf Anwendungsebene

  1. Einführung einer neuen Skalierung und standardisierte föderierte DSL-IR, d. h. die standardisierte Mittelschichtdarstellung des föderierten Modellierungsprozesses DSL

  2. Unterstützt das Kompilieren von Python-Client-Verbundmodellierungsprozesscode in DSL IR

  Verbesserung der Protokollerweiterung: Unterstützt asymmetrische Mehrparteienplanung

  4.

  Unterstützt FATE Standardized Federal DSL IR- und

  andere Protokollkonvertierung, wie Beijing Financial Technology Industry Alliance Interconnection BFIA-Protokoll gegenseitige Konvertierung 5.

  Schließen Sie die Migration der Flow Cli- und Flow SDK-Funktionen ab

  
  FATE- Flow 2.0:

  Aufbau einer offenen und standardisierten vernetzten Planungsplattform 1

  . Passen Sie sich an das skalierbare und standardisierte FATE 2.0 Federal DSL IR an.

  3.

  Prozessplanung, Entkopplung und anpassbare Planungslogik und Hinzufügen von Prioritätsplanung

  4.

  Optimierung der Algorithmuskomponentenplanung, Unterstützung des Ladens von Algorithmen auf Containerebene und Verbesserung der plattformübergreifenden Unterstützung für heterogene Szenarien

  5.

  Optimieren Sie die Registrierung von Komponenten mit mehreren Versionen des Algorithmus und unterstützen Sie die Registrierung von Komponentenbetriebsmodi 7.

  Optimieren Sie die Client-Authentifizierungslogik und unterstützen Sie die Berechtigungsverwaltung mehrerer Clients

  8.

  Optimieren Sie die RESTful-Schnittstelle, um die Eingabefelder und -typen, Rückgabefelder und Statuscodes klarer zu gestalten

  9

  ． OFX-Modul (Open Flow Exchange) hinzugefügt: Kapselt den Planungsclient und ermöglicht so eine plattformübergreifende Planung

  10.

  Unterstützt die neue Kommunikations-Engine OSX und bleibt gleichzeitig mit allen Engines in FATE Flow 1.x kompatibel

  11

  Die Systemschicht und die Algorithmusschicht werden entkoppelt und die Systemkonfiguration wird vom FATE-Repository in das Flow-Repository verschoben

  12.

  Das FATE Flow-Paket wird in PyPI veröffentlicht und ein neuer Dienst für die Dienstverwaltung wird Level CLI hinzugefügt

  13. Schließen Sie die Migration der 1.x-Hauptfunktionen ab

  
  

  OSX (Open Site Exchange) 1.0: Erstellen Sie eine offene standortübergreifende Verbindungskommunikationskomponente

  1. Referenz Die von der Beijing Fintech Industry Alliance veröffentlichte „Technische Dokumentation zur Financial Industry Privacy Computing Interoperability API“ implementiert die Interoperabilitätsübertragungsschnittstelle, die mit der FATE 1.X-Version und der FATE 2.X-Version kompatibel ist unterstützt grpc-synchrone Übertragung und Streaming-Übertragung, unterstützt sicheres TLS-Übertragungsprotokoll, kompatibel mit der Rollsite-Komponente FATE 1
  Die Routing-Konfiguration ist im Wesentlichen die gleiche wie bei der ursprünglichen Rollsite, was die Schwierigkeit der Transplantation verringert.
  Unterstützt die HTTP-Schnittstelle zum Ändern der Routing-Tabelle und bietet eine einfache Berechtigungsüberprüfung.
  Verbesserung der Netzwerkverbindungsverwaltung Logik, wodurch das Risiko von Verbindungsverlusten verringert und die Übertragungseffizienz verbessert wird.
  Verwenden Sie unterschiedliche Ports, um Zugriffsanfragen innerhalb und außerhalb des Clusters zu verarbeiten. Dadurch ist es einfacher, unterschiedliche Sicherheitsrichtlinien für unterschiedliche Ports einzuführen.
  6. FATE-Arch 2.0:
  7. Erstellen Sie eine einheitliche und standardisierte API, um die Verbindung föderierter heterogener Computer-Engines zu erleichtern
  8. 1. Kontext: Führt „Kontext“ zur Verwaltung entwicklerfreundlicher APIs ein, z. B. „Verteiltes Computing“, „Verbundlernen“, „Verschlüsselungsalgorithmus“, „Tensoroperation“, „Metriken“ und „Eingabe und Ausgabe“. Management"
     2. Tensor: Führt eine Tensor-Datenstruktur zur Verarbeitung lokaler und verteilter Matrixoperationen ein und unterstützt integrierte heterogene Beschleunigung; Optimierung der PHETensor-Abstraktionsschicht unter Verwendung einer Vielzahl zugrunde liegender PHE-Implementierungen über Standardschnittstellen, freies Umschalten
     3. DataFrame: Führt die zweidimensionale tabellarische Datenstruktur „DataFrame“ für die Dateneingabe und -ausgabe sowie das grundlegende Feature-Engineering ein. Der neue Datenblockmanager unterstützt die Verwaltung mehrerer Spaltentypen und bietet anonyme Logik. Er fügt mehr als 30 Bedienerschnittstellen wie Statistiken, Vergleich, Indizierung, Datenklassifizierung und -transformation usw. hinzu.
     4. Rekonstruierte Föderation: Bietet eine einheitliche Föderation KommunikationSchnittstelle, einschließlich einheitlicher Serialisierungs-/Deserialisierungssteuerung und benutzerfreundlicherer API
     5. Config: Bereitstellung einheitlicher Konfigurationseinstellungen für FATE, einschließlich Sicherheitskonfiguration, Systemkonfiguration und Algorithmuskonfiguration
     6. Refactor „Logger“ : Anpassen der Protokollierungsdetails entsprechend unterschiedlicher Verwendungsmethoden und Anforderungen
     7. Launcher: Ein vereinfachtes föderiertes Programmausführungstool, besonders geeignet für eigenständige Ausführung und lokales Debuggen
     8. Protokollschicht: Unterstützt SSHE (Hybrid sicher Mehrparteienberechnung und homomorphes Verschlüsselungsprotokoll), ECDH, sicheres Aggregationsprotokoll
     9. Integration von Deepspeed: Unterstützung der Trainingsplanung verteilter GPU-Cluster durch Eggroll
     10. Experimentelle Integration von Crypten: Unterstützung von SMPC und weiteren Protokollen und Funktionen werden in Zukunft hinzugefügt Maschine Lernmodul in ein ausführbares Standardprogramm umwandeln

     Stellen Sie eine klare API über Spezifikation und Loader bereit, um die interne Erweiterung und Integration mit externen Systemen zu erleichtern
     

     Eingabe und Ausgabe: Entkoppeln Sie FATE-Flow weiter und stellen Sie einen standardisierten Black-Box-Aufrufprozess bereit Komponentendefinition: Unterstützt typbasierte Definition, prüft automatisch Komponentenparameter, unterstützt mehrere Daten- und Modelleingabe- und -ausgabetypen sowie mehrere Eingaben

     FATE-ML 2.0:
     Kernalgorithmusmigration und Erweiterung
     ,
     Die Erfahrung und Leistung der Algorithmusentwicklung werden erheblich verbessert

     
     

     1. Übernehmen Sie verteilten, einfachen und ChiffretextTensor/DataframeProgrammiermodell, um die Migration und Erweiterung des Kernalgorithmus zu realisieren:
     2. Datenvorverarbeitung: DataFrame Transformer hinzugefügt, Reader-, PSI-, Union- und DataSplit-Migration abgeschlossen
     3. Feature-Engineering: Migration von HeteroFederatedBinning, HeteroFeatureSelection, DataStatistics, Sampling, FeatureScale und Pearson-Korrelation abgeschlossen
     4. Föderierte Trainingsalgorithmus-Migration: einschließlich HeteroSecureBoost, HomoNN, HeteroCoordinatedLogisticRegressio, HeteroCoordinatedLinearRegression, SSHE-LogisticRegression und SS
     5. Neuer erhöhter Verbund Trainingsalgorithmus-Protokoll: SSHE-HeteroNN basierend auf MPC und homomorphem Verschlüsselungs-Hybridprotokoll

     , FedPASS-HeteroNN basierend auf dem FedPASS-Protokoll

     1. Erhebliche Leistungsverbesserung
     2. PSIDatenschutzgeschützt : getestet Bei einem Datensatz mit 100 Millionen IDs und einem Schnittergebnis von 100 Millionen beträgt die Leistung das 1,8-fache der Leistung von FATE-1.11 100.000 Zeilen*300-dimensionale Feature-Daten, die Leistung ist mehr als 1,5-mal so hoch wie die von FATE-1.11
     3. Vertikaler föderierter SSHE-LR-Algorithmus: auf Gast 100.000 Zeilen*300-dimensionale Features, Host 100.000 Zeilen *Getestet an Daten mit drei 100 dimensionale Features, die Leistung ist mehr als 4,3-mal so hoch wie die von FATE-1.11
     4. Longitudinal Federal Belt Coordinator LR-Algorithmus: Gast 100.000 Zeilen*30 dimensionale Features, Host 100.000 Zeilen*300 Getestet an Daten mit dimensionalen Features beträgt die Leistung 1,2 + mal so viel wie FATE-1.11
     5. Longitudinal Federated Neural Network (basierend auf dem FedPass-Protokoll): Gast 100.000 Zeilen*30 dimensionale Merkmale, Host 100.000 Zeilen*300 dimensionale Merkmale. Bei Datentests stimmt die Leistung im Wesentlichen mit der Klartextleistung überein , und die Leistung ist mehr als 143-mal höher als die von FATE-1.11 Verbesserung
     Rekonstruktion der Kernkomponenten: Cluster-Manager- und Node-Manager-Komponenten werden mithilfe der Java-Sprache vollständig neu erstellt, um Einheitlichkeit zu gewährleisten und die Leistung zu verbessern

     
     

     Änderung der Übertragungskomponente: Rollsite-Übertragungskomponente entfernen, durch effizientere OSX-Komponenten ersetzt

     Verbesserungen des Prozessmanagements: Erweiterte Prozessmanagementlogik implementiert, wodurch das Risiko von Prozesslecks erheblich reduziert wird. Verbesserung der Datenspeicherlogik: Optimierung des Datenspeichermechanismus, Verbesserung von Leistung und Zuverlässigkeit in den Originalkomponenten, um die Leistung zu verbessern

     2. PythonUpgrade

     • roll_pair und egg_pair-Rekonstruktion: Unterstützt Serialisierungs- und Partitionierungsmethoden, die vom Aufrufer gesteuert werden , Serialisierungssicherheit wird einheitlich vom Aufrufer verwaltet
     • Automatische Bereinigung von Zwischentabellen: Löst das Problem der Föderation und Berechnung Zwischen Tabellen werden automatisch bereinigt, ohne dass zusätzliche Vorgänge durch den Aufrufer erforderlich sind: Einführung eines flexiblen Konfigurationssystems, das die direkte Übertragung, Konfigurationsdateien und Umgebungsvariablen unterstützt, um den unterschiedlichen Anforderungen des Clients gerecht zu werden Installation über PyPI
     • Optimierung der Protokollkonfiguration: Anrufer können das Protokollformat nach Bedarf anpassen
     Sammeln von Open-Source-Power, um die Entwicklung der privaten Computerbranche zu unterstützen

     Branchen- und institutionenübergreifende Datenintegration in den Bereichen Finanzen, Telekommunikation, Medizin, Regierungsangelegenheiten und Werbemarketing , Smart Cities und viele andere Szenarien haben umfangreiche Anforderungen. Privacy Computing hat sich zu einem leistungsstarken Werkzeug zur Überwindung von Datenbarrieren zwischen Branchen entwickelt, und die Vernetzung ist der Wetzstein, um dieses leistungsstarke Tool voll auszuschöpfen. FATE 2.0
     

     bietet ein Open-Source-Framework zur Erzielung von Verbindung und Interoperabilität und löst damit ein großes Problem in der Branche. Die meisten Privacy-Computing-Plattformen können den Zweck der Interaktion und Integration mit heterogenen Systemen durch die Implementierung offener Interoperabilitätsschnittstellen erreichen. Die Einführung von

     
     

     • FATE 2.0 bietet starke Unterstützung für die Verbindung und Interoperabilität zwischen heterogenen Plattformen, und die kontinuierliche Iteration zeigt das Engagement für eine kontinuierliche Verbesserung der Technologie. Dabei geht es nicht nur um Datenschutz, sondern auch um die Entwicklung der gesamten Branche. An diesem Prozess haben Benutzer und Technologiepartner der Privacy-Computing-Branche mehr Möglichkeiten zur Beteiligung. Durch die gemeinsamen Anstrengungen der Community können wir die Herausforderungen der Datensicherheit und des Datenschutzes besser bewältigen und eine solide Grundlage für den Aufbau einer sichereren und zuverlässigeren digitalen Gesellschaft legen. Die Veröffentlichung von
     FATE 2.0

     ist ein neues Kapitel der Branchenkooperation und Win-win-Situation. Wir freuen uns darauf, dass sich weitere Innovatoren und Praktiker zusammenschließen, um gemeinsam die dynamische Entwicklung der Datenschutz-Computing-Technologie voranzutreiben.

     [1]

     Nationales Datenbüro: Mitteilung des Nationalen Datenbüros und anderer Abteilungen zur Herausgabe der „Datenelemente [2] Lv Ailin von der China Academy of Information and Kommunikationstechnologie und andere: Fortschritte und Trends bei der Marktbearbeitung für Datenelemente in meinem Land : https://github.com/FederatedAI/InterOp

Das obige ist der detaillierte Inhalt vonFATE 2.0 veröffentlicht: Realisierung der Verbindung heterogener föderierter Lernsysteme. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!