Heim >Technologie-Peripheriegeräte >KI >Berechnung der CO2-Kosten künstlicher Intelligenz

Berechnung der CO2-Kosten künstlicher Intelligenz

WBOY
WBOYnach vorne
2023-04-12 08:52:051509Durchsuche

Wenn Sie auf der Suche nach interessanten Themen sind, wird Sie Künstliche Intelligenz (KI) nicht enttäuschen. Künstliche Intelligenz umfasst eine Reihe leistungsstarker, umwerfender statistischer Algorithmen, die Schach spielen, schlampige Handschriften entziffern, Sprache verstehen, Satellitenbilder klassifizieren und vieles mehr können. Die Verfügbarkeit riesiger Datensätze zum Trainieren von Modellen für maschinelles Lernen war einer der Schlüsselfaktoren für den Erfolg der künstlichen Intelligenz. Aber all diese Rechenarbeit ist nicht kostenlos. Einige KI-Experten sind zunehmend besorgt über die Umweltauswirkungen, die mit der Entwicklung neuer Algorithmen einhergehen. Diese Debatte hat zu neuen Ideen geführt, wie Maschinen effizienter lernen können, um den CO2-Fußabdruck von KI zu verringern.

Berechnung der CO2-Kosten künstlicher Intelligenz

Zurück auf der Erde

Um ins Detail zu gehen, müssen wir zunächst die Tausenden von Rechenzentren (über die ganze Welt verstreut) betrachten, die unsere Rechenanfragen rund um die Uhr bearbeiten. Für KI-Forscher umfassen diese Aufgaben das Training mehrschichtiger Algorithmen mit Milliarden von Datenelementen (oder Tokens – Wortbits, die vier Zeichen oder etwa drei Viertel eines Wortes im Englischen entsprechen). Der damit verbundene Rechenaufwand ist erstaunlich. Lambda, ein Infrastrukturunternehmen für künstliche Intelligenz, liefert einige interessante Fakten über GPT-3, das leistungsstarke natürliche Sprachmodell von OpenAI zur Generierung von menschenähnlichem Text. Laut der Analyse von Lambda würde es 665 Jahre dauern, wenn man das 175-Milliarden-Parameter-Modell von GPT-3 auf einer einzigen NVIDIA RTX 8000 trainieren wollte, was bei Grafikkarten kein Problem ist.

Einfach ausgedrückt: Je größer das Modell, desto besser die Leistung. Das Lambda-Team wies darauf hin, dass die Größe moderner Sprachmodelle jedes Jahr um das Zehnfache zunimmt, was uns wieder zu den Bedenken bringt das Wachstum der KI-Fußabdrücke. Zurück im Rechenzentrum ist es möglich, zumindest auf hohem Niveau weitere Zahlen in die Diskussion einzubringen. Nach Schätzungen der Internationalen Energieagentur (IEA) liegt der Gesamtstromverbrauch von Rechenzentren weltweit zwischen 200 und 250 TWh. Um diese Zahl besser verständlich zu machen: Unter der Annahme, dass Lokomotiven und Schienenfahrzeuge durchschnittlich 2,5 Kilowattstunden pro zurückgelegtem Kilometer verbrauchen, reichen 225 Terawattstunden aus, um einen Hochgeschwindigkeitszug mit Elektroantrieb 9 Millionen Kilometer zurücklegen zu lassen. Während nur ein Teil (in Rechenzentren) zum Trainieren und Ausführen von KI-Modellen verwendet wird, deuten Quellen darauf hin, dass der Rechenbedarf für maschinelles Lernen und Training das durchschnittliche Wachstum der Rechenzentrumsaktivität übersteigt.

An dieser Stelle muss man mit Fug und Recht anerkennen, dass Rechenzentren ihren Energiebedarf gut verwalten – Umweltbelange sind ein Motivator, aber es ist erwähnenswert, dass Strom einen erheblichen Betriebsaufwand darstellt, da jede Einrichtung „geschäftskritisch“ ist. Trotz eines Anstiegs des weltweiten Internetverkehrs, der allein im Jahr 2020 um 40 % zunahm, ist der Energieverbrauch von Rechenzentren im letzten Jahrzehnt relativ stabil geblieben. „Das starke Wachstum der Nachfrage nach Rechenzentrumsdiensten wird weiterhin durch anhaltende Effizienzsteigerungen bei Servern, Speicher, Netzwerk-Switches und Rechenzentrumsinfrastruktur sowie durch den wachsenden Anteil an Diensten ausgeglichen, die von effizienten Cloud- und Hyperscale-Rechenzentren bereitgestellt werden“, so die IEA schrieb.

Photonik und mehr

Darüber hinaus werden vertikal integrierte Rechenzentrumsbetreiber wie Amazon, Google, Facebook usw. bald hinzufügen, dass ihre Einrichtungen mit erneuerbarer Energie betrieben werden. Dies verringert natürlich die Umweltbelastung durch die Datenverarbeitung, da der Strom für die Stromversorgung von Racks mit Computerhardware und notwendigen Nebendienstleistungen wie Heizung, Kühlung und Beleuchtung aus Sonne und Wind stammen kann. Da sich die Financial Times jedoch nicht dafür entschieden hat, können Einrichtungen, selbst wenn ein Energievertrag für Rechenzentren 100 % ihres Stromverbrauchs durch erneuerbare Energien ausgleichen kann, immer noch fossile Brennstoffe verbrauchen, wenn Wind- und Solarenergie nicht verfügbar sind. Es besteht auch die Notwendigkeit, die eingebetteten Kohlenstoffemissionen des Computergeräts selbst zu berücksichtigen, da Herstellungsmethoden und Aktivitäten zur Beschaffung von Komponentenmaterialien ebenfalls Kohlenstoffemissionen verursachen – was Microsoft anerkennt.

Anfang des Jahres diskutierte Microsoft in einem aktuellen Blogbeitrag das Thema effizientes Modelltraining. Entwickler sind damit beschäftigt, Wege zu finden, den CO2-Fußabdruck von KI zu verringern – oder zumindest ihr Wachstum einzudämmen. Zu den Schritten hier gehört die Suche nach Möglichkeiten zur Reduzierung des Rechen- und Speicherbedarfs während der Feinabstimmung des Modells. Die Empfehlungen empfehlen eine Verdreifachung der GPU-Nutzung in dieser Phase des Prozesses. Vielversprechend ist auch die Modellkomprimierung, bei der Unterschichten von KI-Daten in spärlichere, aber dennoch repräsentative Versionen zuvor kombinierter Bedingungen beschnitten werden. Hier zeigen Untersuchungen, dass das Komprimieren von Modellen etwa 40 % weniger Trainingszeit erfordern kann und gleichzeitig ähnliche algorithmische Ergebnisse erzielt.

Entwickler können auch von Überwachungstools profitieren, die die durch die Optimierung von Code- oder Datenhosting-Vereinbarungen erzielten Gewinne genau bestimmen. „CodeCarbon ist ein leichtes Softwarepaket, das sich nahtlos in Ihre Python-Codebasis integriert“, schreiben die Erfinder, die ihr Tool kostenlos zur Verfügung stellen. „Es schätzt die Menge an Kohlendioxid (CO2), die von Cloud- oder Personal-Computing-Ressourcen erzeugt wird, die zur Ausführung von Code verwendet werden.“

Der Kreis schließt sich

Der Kreislauf geht hin und her, und in Zukunft könnte energieeffizientere KI eingesetzt werden, um den Rechenzentrumsbetrieb effizienter zu gestalten und – Sie haben es erraten – den CO2-Fußabdruck der KI zu reduzieren. Heute stellt Cirrus Nexus verfügbare Software zur Verfügung, die Rechenzentrumsbetreiber nutzen können, um Kohlenstoffkosten zuzuordnen und diese durch Algorithmen der künstlichen Intelligenz zu verbreiten. Die Ergebnisse zeigen nicht nur CO2-Berechnungen, sondern geben auch Einblicke in die Art und Weise, wie Benutzer ihre Anlagen so konfigurieren können, dass die verfügbaren Umweltvorteile maximiert werden.

Die Sichtbarmachung des CO2-Fußabdrucks der Algorithmen, die die heutige Technologie antreiben, hilft in mehrfacher Hinsicht. Es eröffnet Diskussionen über die effektivsten Möglichkeiten, zukünftige künstliche Intelligenz zu trainieren und IT-Abteilungen und ihre Kunden stärker für die Umweltkosten der Datenverarbeitung verantwortlich zu machen. Am Ende könnte es gut fürs Geschäft sein. Insbesondere hat Amazon Anfang des Jahres ein Tool zum CO2-Fußabdruck seiner Kunden herausgebracht, und andere große Unternehmen wie Google ermöglichen Kunden den Export von Informationen zu CO2-Emissionen aus der Cloud – ein Dienst, der sich derzeit in der Vorschau befindet.

Das obige ist der detaillierte Inhalt vonBerechnung der CO2-Kosten künstlicher Intelligenz. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Stellungnahme:
Dieser Artikel ist reproduziert unter:51cto.com. Bei Verstößen wenden Sie sich bitte an admin@php.cn löschen