Turing-Award-Gewinner Jack Dongarra: An der Spitze des Supercomputings ist noch viel Platz

Supercomputer können als Olympiasieger im wissenschaftlichen Rechnen bezeichnet werden. Durch numerische Simulationen bereichern Supercomputer unser Verständnis der Welt: ob es um die Lichtjahre entfernten Sterne im Universum geht, um das Wetter und Klima der Erde oder um die Funktionsweise des menschlichen Körpers.

Jack Dongarra ist seit mehr als vier Jahrzehnten eine treibende Kraft im Hochleistungsrechnen. Anfang des Jahres wurde Dongarra mit dem ACM A.M. Turing Award „für seine bahnbrechenden Beiträge zu numerischen Algorithmen und Werkzeugbibliotheken ausgezeichnet, die es Hochleistungsrechnersoftware ermöglicht haben, mit den exponentiellen Fortschritten in der Hardware Schritt zu halten.“

Bennie Mols, der Autor dieses Artikels, traf Dongarra während des 9. Heidelberg Laureate Forums im September in Deutschland und diskutierte über die Gegenwart und Zukunft des Hochleistungsrechnens. Dongarra, 72, ist ein angesehener Professor an der University of Tennessee und seit 1989 ein angesehener Forscher am Oak Ridge National Laboratory des US-Energieministeriums. Bennie Mols ist ein Wissenschafts- und Technologieautor mit Sitz in Amsterdam, Niederlande.

Das Folgende ist der Inhalt des Interviews

F1: Was war Ihre Motivation für die wissenschaftliche Forschung in den letzten Jahrzehnten?

A: Mein Hauptforschungsgebiet ist die Mathematik, insbesondere die numerische lineare Algebra. Alle meine Arbeiten basieren darauf. Für Fächer wie Physik und Chemie, die Berechnungen erfordern – insbesondere das Lösen linearer Gleichungssysteme – ist Software, die Antworten berechnen kann, zweifellos sehr wichtig. Gleichzeitig müssen Sie sicherstellen, dass der Betrieb der Software mit der Architektur der Maschine übereinstimmt, damit Sie tatsächlich die hohe Leistung erzielen können, die die Maschine erreichen kann.

F2: Was sind die wichtigsten Voraussetzungen für die Ausführung von Software auf Supercomputern?

A: Wir hoffen, dass die Berechnungsergebnisse dieser Software korrekt sind. Wir hoffen, dass die wissenschaftliche Gemeinschaft diese Software nutzt und versteht und sogar zu ihrer Verbesserung beiträgt. Wir möchten, dass die Software eine gute Leistung erbringt und auf verschiedenen Computern portierbar ist. Wir möchten, dass der Code lesbar und zuverlässig ist. Letztendlich wollen wir, dass Software die Menschen, die sie nutzen, produktiver macht.

Software zu entwickeln, die all diese Anforderungen erfüllt, ist ein nicht trivialer Prozess. Diese technische Ebene umfasst oft Millionen von Codezeilen und etwa alle 10 Jahre erleben wir einige große Änderungen in der Maschinenarchitektur. Dies wird dazu führen, dass sowohl die Algorithmen als auch die Software, die sie verkörpert, umgestaltet werden müssen. Software folgt der Hardware, und an der Spitze des Supercomputings gibt es noch viel Spielraum, um eine bessere Maschinenleistung zu erreichen.

F3: Gibt es aktuelle Entwicklungen im Hochleistungsrechnen, die Sie begeistern?

A: Unsere Hochleistungs-Supercomputer basieren auf Komponenten von Drittanbietern. Sie und ich können beispielsweise auch High-End-Chips kaufen, aber Hochleistungscomputer erfordern viele davon. Normalerweise verwenden wir einige Beschleuniger in Form von GPUs auf Hochleistungscomputern. Wir stellen mehrere Chip-Entwicklungsboards in ein Rack, und viele dieser Racks bilden zusammen einen Supercomputer. Der Grund, warum wir Komponenten von Drittanbietern verwenden, liegt darin, dass diese kostengünstiger sind. Wenn Sie jedoch einen Chip speziell für wissenschaftliche Berechnungen entwickeln, erhalten Sie einen Supercomputer mit besserer Leistung, was ein spannender Gedanke ist.

Tatsächlich machen Unternehmen wie Amazon, Facebook, Google, Microsoft, Tencent, Baidu und Alibaba ihre eigenen Chips. Sie können dies tun, weil sie über riesige Mittel verfügen, während Universitäten nur über begrenzte Mittel verfügen und daher leider auf Produkte von Drittanbietern zurückgreifen müssen. Dies hängt mit einem anderen Anliegen von mir zusammen: Wie halten wir Talente in der Wissenschaft, anstatt zu sehen, wie sie für größere Unternehmen arbeiten, die besser bezahlen?

F4: Welche weiteren wichtigen Entwicklungen gibt es für die Zukunft des Hochleistungsrechnens?

A: Es gibt tatsächlich einige wichtige Dinge. Es ist klar, dass maschinelles Lernen bereits einen großen Einfluss auf das wissenschaftliche Rechnen hat, und dieser Einfluss wird noch zunehmen. Ich betrachte maschinelles Lernen als ein Werkzeug, das dabei hilft, Probleme zu lösen, die Informatiker lösen möchten.

Dies geht mit einer weiteren wichtigen Entwicklung einher. Traditionell verwendet unsere Hardware 64-Bit-Gleitkommaoperationen, sodass Zahlen in 64 Bit dargestellt werden. Wenn Sie jedoch weniger Bits verwenden, beispielsweise 32, 16 oder sogar 8 Bits, können Sie die Berechnung beschleunigen. Durch die Beschleunigung der Berechnungen geht jedoch die Genauigkeit verloren. Es scheint jedoch, dass KI-Berechnungen häufig mit weniger Bits, 16 oder sogar 8 Bits, durchgeführt werden können. Dies ist ein Bereich, der erforscht werden muss, und wir müssen herausfinden, wo das Reduzieren von Bits gut funktioniert und wo nicht.

Ein weiterer Forschungsbereich ist die Frage, wie man mit Berechnungen mit geringer Genauigkeit beginnt, eine Näherung erhält und dann Berechnungen mit höherer Genauigkeit verwendet, um die Ergebnisse zu verfeinern.

F5: Wie hoch ist der Stromverbrauch von Supercomputern?

A: Die besten Supercomputer verbrauchen heute 20 oder 30 Megawatt, um Exaflops zu erreichen. Wenn jeder auf der Erde jede Sekunde eine Berechnung durchführen würde, würde es mehr als vier Jahre dauern, das zu schaffen, was ein sehr großer Computer in einer Sekunde schafft. Vielleicht werden wir innerhalb von 20 Jahren die Größenordnung von Zettaflop erreichen, die 10 hoch 21 Gleitkommaoperationen beträgt. Allerdings kann der Stromverbrauch ein limitierender Faktor sein. Man bräuchte eine 100- oder 200-Megawatt-Maschine, was derzeit zu energieintensiv ist.

F6: Wie sehen Sie die Rolle des Quantencomputings im zukünftigen Hochleistungsrechnen?

A: Ich denke, die Probleme, die Quantencomputing lösen kann, sind begrenzt. Probleme wie dreidimensionale partielle Differentialgleichungen, bei denen wir häufig Supercomputer verwenden, wie zum Beispiel die Klimamodellierung, werden damit nicht gelöst.

In Zukunft werden wir ein integriertes Tool entwickeln, das verschiedene Arten von Berechnungstools enthält. Wir werden Prozessoren und Beschleuniger haben, wir werden Werkzeuge haben, die beim maschinellen Lernen helfen, wir werden höchstwahrscheinlich Geräte haben, um neuromorphes Rechnen nach Art des Gehirns durchzuführen, wir werden optische Computer haben und darüber hinaus werden wir Quantencomputer haben, um dies zu tun spezifische Probleme lösen.

Das obige ist der detaillierte Inhalt vonTuring-Award-Gewinner Jack Dongarra: An der Spitze des Supercomputings ist noch viel Platz. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!