GordonHannes schrieb am 05.11.2024 10:30:

Es wird nicht weniger Strom verbraucht wo bitte hast Du denn das her?

Dass die Effizenz der CPUs steigt hat keine Bedeutung - denn die Anzahl der CPUs steigt.

Statt einer 600W CPU arbeiten dann 2 x effizientere 550W CPUs ergibt aber dann trotzdem 1100W statt 600W Denn die erforderliche Rechenleistung steigt sehr viel schneller als die Effizenz.

Bisher wurde die Rechenleistung bei gleich bleibendem Stromverbrauch alle zwei Jahre verdoppelt.

Das wird schon sehr erfolgreich eingesetzt https://neptune.ai/blog/knowledge-distillation
z,B. von Bytedance die glaube ich gerne ChatGPT dafür nehmen xD

Da trainieren sich nicht KI gegenseitig, sondern die Ergebnisse eines großen KI-Modells wie ChatGTP werden auf andere, für einen bestimmten Zweck konstruierte, spezialisierte KI-Modelle übertragen, um diese nicht erneut komplett neu trainieren zu müssen, was den Energiebedarf erheblich verringert.

Herbstprinz schrieb am 04.11.2024 15:03:

Dann müssten ja jedes Jahr Millionen an Facharbeitskräften auswandern.

"Im Jahr 2023 verließen insgesamt knapp 1,3 Millionen Menschen Deutschland. "

+ Frührentner + und reguläre Rentner.

Es ist eben nicht nur eine quantitaive Auswanderung sondern vor allem auch eine qualitative zurück in D bleibt nur der "Bodensatz" sozusagen - ja etwas übertrieben aber einfach die statstischen Zahlen ansehen - im Kern ist das halt so.

GordonHannes schrieb am 05.11.2024 12:26:

Herbstprinz schrieb am 04.11.2024 15:03:

Dann müssten ja jedes Jahr Millionen an Facharbeitskräften auswandern.

"Im Jahr 2023 verließen insgesamt knapp 1,3 Millionen Menschen Deutschland. "

+ Frührentner + und reguläre Rentner.

Und diese Rentner arbeiten im Ausland als Fachkräfte statt in Deutschland?

Herbstprinz schrieb am 05.11.2024 10:56:

GordonHannes schrieb am 05.11.2024 10:30:

Es wird nicht weniger Strom verbraucht wo bitte hast Du denn das her?

Dass die Effizenz der CPUs steigt hat keine Bedeutung - denn die Anzahl der CPUs steigt.

Statt einer 600W CPU arbeiten dann 2 x effizientere 550W CPUs ergibt aber dann trotzdem 1100W statt 600W Denn die erforderliche Rechenleistung steigt sehr viel schneller als die Effizenz.

Bisher wurde die Rechenleistung bei gleich bleibendem Stromverbrauch alle zwei Jahre verdoppelt.

Das wird schon sehr erfolgreich eingesetzt https://neptune.ai/blog/knowledge-distillation
z,B. von Bytedance die glaube ich gerne ChatGPT dafür nehmen xD

Da trainieren sich nicht KI gegenseitig, sondern die Ergebnisse eines großen KI-Modells wie ChatGTP werden auf andere, für einen bestimmten Zweck konstruierte, spezialisierte KI-Modelle übertragen, um diese nicht erneut komplett neu trainieren zu müssen, was den Energiebedarf erheblich verringert.

https://cdn.prod.website-files.com/65b8f36fa600366bc7cf9a67/661fc2ae538fbe13d3b84ba8_Group%201000007729.webp

Bei GTP 5 ist man sicher deutlich im Billiarden(!) Bereich..... und es wird weltweit immer mehr solcher Modell geben die alle parallel trainiert werden.

(Alles Europäische Masseinheiten)

Das ist eine Steigerung um mehr als Faktor 1000 in ~ 2 Jahren - die Zahl der Paramter geht ja grob mind linear ein - es sind halt am Ende einfach Matritzenoperationen.

Ganz grob wird die Rechenleistung allein bei GPT (zwei bis fünf) innerhalb von ~ 6 Jahren um Faktor 1 Milliarde steigen (1000x1000x1000)

Was soll da Effizenz bei den CPU Gens wirklich bringen?

GordonHannes schrieb am 05.11.2024 12:35:

Das ist mit Effizenz nicht mal ansatzweise auszugleichen#

Von einem Ausgleich durch Effizienzsteigerung habe ich auch nicht gesprochen, sondern von einer starken Minderung des Energiebedarfs.

Ganz grob wird die Rechenleistung allein bei GPT innerhalb von ~ 6 Jahren um Faktor 1 Milliarde steigen (1000x1000x1000)

Je größer die Anzahl der Rechenoperationen, desto stärker die Wirkung einer Effizienzsteigerung.

Herbstprinz schrieb am 05.11.2024 12:52:

GordonHannes schrieb am 05.11.2024 12:35:

Das ist mit Effizenz nicht mal ansatzweise auszugleichen#

Von einem Ausgleich durch Effizienzsteigerung habe ich auch nicht gesprochen, sondern von einer starken Minderung des Energiebedarfs.

Ganz grob wird die Rechenleistung allein bei GPT innerhalb von ~ 6 Jahren um Faktor 1 Milliarde steigen (1000x1000x1000)

Je größer die Anzahl der Rechenoperationen, desto stärker die Wirkung einer Effizienzsteigerung.

Aber da ist halt egal. Denn der Basiverbrauch auf den man die Effizenz rechnet geht halt duch die Decke

Wenn man 500 TWh mehr vebraucht für AI spart man mit Effizensteiegrung vielleicht dann 50 TWh - aber es bleiben halt dann 450 TWh Mehrverbrauch. Und ein paar Jahre später hat man 2000 TWH Vebrauch und spart vielleicht durch noch mehr Effizensteigerung 300 TWh bleibt trotzdem ein Zuwachs von 1700 TWh

Das sind nunmal die realistischen Szenarien aktuell

https://www.researchgate.net/publication/275653947/figure/fig2/AS:614231611285505@1523455636625/Global-electricity-demand-of-data-centers-2010-2030.png

Und das ist natürlich unter der Berücksichtigung von ertwartbaren Effizenzsteigerungen.

Ganz grob kommt bereits 2029 - 2030 (also in 5 Jahren) im "realistischen" Szenario das an Stromverbrauch in einem einzigen Jahr zusätzlich dazu was Deutschland insgesamt komplett vebraucht.

GordonHannes schrieb am 05.11.2024 13:06:

Wenn man 500 TWh mehr vebraucht für AI spart man mit Effizensteiegrung vielleicht dann 50 TWh - ...

Wenn, wie bisher, sich die Effizienz alle zwei Jahre verdoppelt, dann würden aus den 500 TWh in sechs Jahren 25 TWh werden.

Herbstprinz schrieb am 05.11.2024 13:18:

GordonHannes schrieb am 05.11.2024 13:06:

Wenn man 500 TWh mehr vebraucht für AI spart man mit Effizensteiegrung vielleicht dann 50 TWh - ...

Wenn, wie bisher, sich die Effizienz alle zwei Jahre verdoppelt, dann würden aus den 500 TWh in sechs Jahren 25 TWh werden.

Effizienz ist nur Leistung pro Rechenoperation

Eine Effizenzsteigerung bringt nur was wenn die Rechenleistung gleich bleibt, sie verzehnfacht sich aber in dem Zeitraum immer siehe GPT

Nehmen wir also mal Deine 50% Effsteigerung

500 TWh => 250 WTWh OHNE Veränderung der Rechenleistung - aber in der Realität bei 10x so vielen Rechneoperationen von jeden jeder 50% effizienter ist ergibt das trotzdem 2.500 Twh

Ausgang 2.500 TWh => Effizenz jede Rechenoperation wieder 50% aber wieder 10x mehr Rechenoperationen => 12.500 Twh

12.500 TWH => 50% Eff 10x so viele Rechenop => 62.000 TWh

etc.

Herbstprinz schrieb am 05.11.2024 12:34:

GordonHannes schrieb am 05.11.2024 12:26:

Herbstprinz schrieb am 04.11.2024 15:03:

Dann müssten ja jedes Jahr Millionen an Facharbeitskräften auswandern.

"Im Jahr 2023 verließen insgesamt knapp 1,3 Millionen Menschen Deutschland. "

+ Frührentner + und reguläre Rentner.

Und diese Rentner arbeiten im Ausland als Fachkräfte statt in Deutschland?

Äh ein (Früh)Rentner muss nicht irgendwo arbeiten um den dt Arbeitsmarkt verlorenzugehen.

GordonHannes schrieb am 08.11.2024 17:02:

Herbstprinz schrieb am 05.11.2024 13:18:

GordonHannes schrieb am 05.11.2024 13:06:

Wenn man 500 TWh mehr vebraucht für AI spart man mit Effizensteiegrung vielleicht dann 50 TWh - ...

Wenn, wie bisher, sich die Effizienz alle zwei Jahre verdoppelt, dann würden aus den 500 TWh in sechs Jahren 25 TWh werden.

Effizienz ist nur Leistung pro Rechenoperation

Eine Effizenzsteigerung bringt nur was wenn die Rechenleistung gleich bleibt, sie verzehnfacht sich aber in dem Zeitraum immer siehe GPT

Nehmen wir also mal Deine 50% Effsteigerung

500 TWh => 250 WTWh OHNE Veränderung der Rechenleistung - aber in der Realität bei 10x so vielen Rechneoperationen von jeden jeder 50% effizienter ist ergibt das trotzdem 2.500 Twh

Der Einwand ist zwar berechtigt, aber innerhalb von zwei Jahren steigt die benötigte Rechenleistung nicht um das zehnfache.