Trendtechnologie: Durch die Bündelung von Ressourcen wird der Wert der KI-Rechenleistung freigesetzt

„Laut Statistik übersteigt die durchschnittliche GPU-Auslastung nicht 30 %, was zu einer enormen Verschwendung von Rechenressourcen führt. Wir verwenden softwaredefinierte Methoden, um die GPU-Auslastung der Benutzer normalerweise um das Drei- bis Achtfache oder sogar zu erhöhen.“ 10 Mal.

Dies sind die neuesten Daten von TrendForce, einem Unternehmen für Rechenleistungs-Pooling-Software, das Branchenberichtsdaten zitiert und eigene Best-Practice-Erfahrungen des Unternehmens kombiniert. Durch die selbst entwickelte KI-Rechenressourcen-Pooling-Software OrionX kann Trend Technology Kunden beim Aufbau eines KI-Rechenressourcenpools auf Rechenzentrumsebene unterstützen. Kunden können die KI-Rechenleistung jedes Servers im Rechenzentrum nutzen, ohne die Anwendung zu ändern Durch die erhebliche Optimierung der Anwendungsbereitstellung und die Verbesserung der Benutzerressourcennutzung bringt es ein neues Rechenstromversorgungsmodell in die KI-Branche.

KI-Computing-Ressourcen neu definieren

Im zweiten Wettbewerb für KI-Lösungen einer photosynthetischen Organisation hat Trend Technology mit dem Plan „Xinchuang Full-stack Independent Controllable Heterogeneous AI Computing Power Resource Pool“ (im Folgenden als „AI Computing Resource Pool“ bezeichnet) den ersten Preis in diesem Wettbewerb gewonnen.

Wen Yuxiang, Ecological Operations Director von Trend Technology, stellte vor, dass die KI-Rechenleistungs-Ressourcen-Pool-Lösung hauptsächlich die derzeit umfangreiche Nutzung heterogener Rechenleistung und die Schwierigkeit bei der einheitlichen Verwaltung und Planung heterogener Rechenleistungsressourcen über alle Anbieter hinweg adressiert. Die Lösung bündelt und verwaltet physische heterogene Computerressourcen, um eine bedarfsgerechte Planung heterogener Computerressourcen und eine verfeinerte Verwaltung herstellerübergreifender heterogener Computerressourcen zu erreichen.

Projektarchitekturdiagramm

Die Infrastrukturebene der Lösung nutzt die Leistungsvorteile der Haiguang-Server, um zwei große Fortschritte zu erzielen: Auf der Betriebssystemebene basiert der KI-Rechenressourcenpool auf dem Galaxy Kirin-Serverbetriebssystem und nutzt die Vorteile der Haiguang-CPU und DCU-Plattformen zur Gewährleistung der Kernel-Sicherheit, RAS-Funktionen, E/A-Leistung, Virtualisierung und inländische Hardware, Treiberunterstützung und andere Aspekte werden auf der Virtualisierungsebene weiter optimiert und verbessert, OrionX abstrahiert KI-Rechenleistungsressourcen in virtuelle Ressourcen realisiert die Software zur Definition von KI-Rechenleistungsressourcen.

„Derzeit sind Ressourcen bei der Anwendungsbereitstellung direkt miteinander verbunden und exklusiv, was zu Problemen wie der Verschwendung von Rechenressourcen und einer unflexiblen Nutzung führt. Die Kostenbelastung für Rechenleistungsnutzer nimmt weiter zu, was die Weiterentwicklung der KI-Technologie bis zu einem gewissen Grad behindert Wir hoffen, dass Rechenleistung, die in der Vergangenheit „hell und weiß“ schien, tatsächlich zu einer Ressource werden kann, die der Öffentlichkeit zugute kommt, genau wie Wasser und Strom, die nach Bedarf flexibel, bequem, günstig und kostengünstig genutzt werden können effizient", sagte Wen Yuxiang.

Lassen Sie das ökologische Schwungrad schneller werden

Kürzlich wurde in „Financial Electronicization“, einer von der People's Bank of China verwalteten Zeitschrift, ein vom CIO der Hua In diesem Artikel wird der Anwendungswert der heterogenen Rechenleistungs-Ressourcen-Pooling-Software im Bereich der Informationsinnovation ausführlich erörtert, die Machbarkeit der heterogenen Rechenleistungs-Pooling-Softwarelösung von OrionX von OrionX weiter überprüft und auch die Leistung inländischer Hardware wie Haiguang-Beschleunigerkarten getestet .bestätigt.

„Der Aufbau eines Computerressourcenpools im Bereich der Informationsinnovation muss von inländischen Software- und Hardwareherstellern gemeinsam gefördert werden. Haiguang ist führend in der inländischen Chipindustrie und bietet uns große Unterstützung.“ In Zusammenarbeit mit Haiguang hat der Trend von Dong Technology die Diversifizierung der heterogenen Rechenleistung gepoolter Software realisiert und so den Anwendungsanforderungen des Xinchuang-Marktes besser gerecht.

Tatsächlich hat Trend Technology seit seinem Beitritt zur Photosynthetic Organization eine Reihe ökologischer Kooperationen mit vor- und nachgelagerten Partnern in der Industriekette wie Haiguang durchgeführt. Nach Ansicht von Trend Technology benötigen Benutzer eine Komplettlösung, und es ist für einen einzelnen Hersteller schwierig, eine vollständige Produktpalette von der zugrunde liegenden Architektur bis hin zu Front-End-Anwendungen bereitzustellen. In diesem Zusammenhang ist die Integration ökologischer Kräfte sehr wichtig .

„Photosynthetic Organization bietet eine gute Plattform für das ökologische Andocken der KI-Industrie.“ Wen Yuxiang wies darauf hin, dass Trend Technology auf der Grundlage des Photosynthetic Organization-Wettbewerbs nicht nur die Produkttechnologiekooperation mit Partnern vertieft und Programmergebnisse demonstriert hat, sondern auch umfassend Verbunden Immer mehr industrielle Kräfte haben nach und nach ein ökologisches „Schwungrad“ gebildet und sich in Bereichen wie Marktstärkung und Projekteinführung schrittweise beschleunigt.

„Ich glaube, dass die Rechenleistungs-Pooling-Lösung mit zunehmender Geschwindigkeit des Schwungrads in Zukunft mehr Geschäftsanwendungsszenarien erreichen wird und die KI-Rechenleistung einen größeren Wert freisetzen wird“, sagte Wen Yuxiang.

Das obige ist der detaillierte Inhalt vonTrendtechnologie: Durch die Bündelung von Ressourcen wird der Wert der KI-Rechenleistung freigesetzt. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!