Wichtige Info: Zukunft von SFML // Docker - Version

NERD STUFF - Was passiert beim Training was weiß TSF bereits - Vergleich mit SFML

(sehr einfach herunter gebrochen)

Pro Epoch: 78.020 Batches × 32 Samples = ~2.5 Millionen Samples
Bis jetzt trainiert: 9 Epochs komplett (Epoch 10 läuft Batch 5.500 = 7%)

= 9 × 2.5 Mio + 0.07 × 2.5 Mio
= 22.5 Mio + 175 K
≈ 22.7 Millionen Samples gesehen

Aber Achtung — das sind gleiche Samples mehrfach: → Das habe ich bei SFML und der Definition von Samples schon einmal sehr ausführlich erklärt.

Eindeutige Samples: ~2.5 Mio (1 Epoch)
Gesehene Samples (mit Wiederholung): ~22.7 Mio

Was ist 1 Training -Sample?

  • 72 Stunden historische Solar-Daten
  • 24 Stunden Forecast-Horizont
  • = 96 Stunden = 4 Tage

Umgerechnet auf “Zeitraum”:

2.5 Mio Samples × 4 Tage = 10 Mio Tage = ~27.000 Jahre simuliertes Solar
× 9 Epochs = 245.000 Jahre Solar gesehen

Im Vergleich zu Solar Forecast ML nach 3 Monaten:

SFML V1 DB:  2.655 Stunden = 110 Tage = 0.3 Jahre
Pretrained:  ~245.000 Jahre simuliertes Solar

Beim Start / installation von TFS hat die KI bereits 800.000x mehr Solar-Beispiele gesehen als das Solar Forecast seit dem Release. → das nach 10 Samples von 150. → aber hier passiert genau das gleiche wie bei dem täglichen EOD-Training von SFML .. wenn keine Verbesserung mehr erkannt wird kommt es zum “Early -Stopping”

Das seht ihr jeden Abend im Protokoll z.B. 600 Samples aber bei z.B. bei Epoch 50 hört er auf " Early-Stopping".
Bei dem Training von TSF rechne ich mit einem Early Stopping in 1- 2 Tagen (also nach 6 Tagen durchgender Berechnungen auf GPU und CPU) bei Epoch 40. – Hoffentlich! → nachdem ca. 80 -90 kWh an Strom durch meinen Linux-PC geflossen sind… diese Dimensionen (im kleinen) zeigen auch, warum KI Training großer Modelle so rechenintensiv und stromhungrig sind!

Zara

Könnte dir meine GPU noch anbieten :grinning_face:

Verteiltes Rechnen so wie damals nach Proteinen gesucht wurde.

@CaptSonic

Prinzipiell habe ich darüber sogar nachgedacht einen Cluster zu bauen und mir einige GPU (Grafikkarten) von Freunden für das Training auszuleihen.. aber der Overhead an Strom wäre dann noch höher und ich würde irgendwo bei 100+ Kilowattstunden landen.. oder eben möglichst effizient ohne Overhead “rödel” lassen dauert zwar länger.. aber am Ende des Tages ist es doch sparsamer..

Aktuell rödeln hier

2x Asus Radeon a 16GB also 32 GB
1X Ryzen mit 12 Kernen und 32 GB
1x MacMini M4 32 GB

Ich habe damit erst jetzt mit begonnen, um zumindest einen Bruchteil aus Solar-Energie zu decken. Der Plan selbst ist schon aus dem November letzten Jahres. Ich hatte es zu dem Zeitpunkt auch schon “angekündigt”. Er basiert auf den Erfahrungen der Ki auf dem Raspberry PI 4 8GB aus dem vergangenen Jahr und dessen Training.

Ehrlich gesagt drücke ich die Daumen, dass das Training (ich streame die Batches) sauber durchläuft und ich nicht von vorn beginnen muss.

Im Kern ist der wesehentliche Unterschied zwischen SFML und TSF:

SFML lernt von 0 auf die eigene Anlage und benutzt Brückenlösungen bis genügend Lernmaterial vorhanden ist

Toorx hingegen kommt direkt aus der Schule und adaptiert nur die lokale Situation.

Ich meinte damit auch hier bei mir um die Stromkosten aufzuteilen.

Meine GPU ist das rechnen für KI gewohnt :grin:

Ich habe auf einem Dell Wyse 5070 Proxmox laufen, einige Docker (Adguard, unbound, npm) und Home Assistant als vm.

Ist der Thin Client zu schwach für solche Operationen?

Hallo @webwude,

vielen Dank für Deine Frage. Leider muss ich Dir sagen, dass es nicht funktioineren wird.
Der Dell Wyse 5070 hat eine sehr schwache, aber für seine Zwecke ausreichende CPU, aus dem Jahr 2016 die dafür leider nicht geeignet ist. Selbst wenn es die etwas stärkere Intel Pentium Silver J5005 CPU ist reicht es nicht.
Ein Prozessor aus der I-Serie ist absolutes Minimum - oder vergleichbare AMD

Zara

Würde auch als app in HA testen. Aber irgent wie finde ich das app nicht.:lying_face:

Es gibt sie ja auch noch nicht. Bitte lese den Thread.

Wird Zeit für einen TFS-Coffee! Wo hin damit?

aua dann habe ich es vielleicht übersehen.. :grinning_face:

Das gebe ich dann direkt an die Familie weiter.. die schimpfen schon :slight_smile:

Fuel my Kilowattstunden :slight_smile:

Buy Me a Coffee

a 30 ct/kWh = 27,— € —> das sollten wir hier ja locker aufteilen können, was? :grin:

Ich hoffe das ist keine dumme Frage​:see_no_evil_monkey:. Verbräuche können beliebiger Natur zukünftig prognostiziert werden mit TFS? Wie zum Beispiel Pool, Klimaanlage, Saugroboter, E-Zahnbürste usw… worauf man halt so Wert legt :sweat_smile:

Die Frage kommt daher, weil es für die E-Zahnbürste keine Trainingsdaten gibt aber ML selbstständig lernen kann wie bei deinem Akku(?)

Zwischenbericht… - sprachlos!

Testaufbau:

  • 3 Tage Pre-Training
  • neu gebaute Prognose geladen
  • DB von SFML importiert
  • Test-Container auf einem alten 2016 Dell Debian Linux
  • Live-Daten / Recorder von Home Assitant
  • Berechnugsdauer Prognose: ca. 5 Sek
  • Modellgröße (Container komplett) 400MB
  • Modell: toorox-zara-20.5m-ft-fp32-1.0 d256

Ergebis:

IST: 9,16 kWh
Pre-Trained TFS + Import SFML DB: 9,1 kWh
Abweichung: 0,65% (!!!)

… ich bin selber sprachlos! Klar — ein einzelner Tag ist Glück und keine Statistik. Über 100 Tage gemessen werden wir vermutlich auch im einstelligen Prozent-Bereich landen. Aber dass der erste Live-Test überhaupt so funktioniert ist beeindruckend… hier entsteht gerade etwas ziemlich großes.. wenn es stabil bliebt und nach 100 Tagen noch immer 1 Stellige Abweichungen gibt, ist es besser als alles was es aktuell auf dem Markt gegen “teuer Geld” gibt.

HA SQL Sensor

TFS (Pre-Trained + import SFML DB)

Nun bleibt es abzuwarten bis die KI komplett trainiert ist (noch 2-3 Tage) und ob es sich noch weiter verbessert :slight_smile: .. aber ich glaube das ich spätestens morgen in ein early-stopping laufe, da viel mehr eigentlich nicht geht!

Ja, ALLES was die Parameter Wetter, Sonne, Einstrahlung, Solar, Verbräuche / Erzeugung hat - bzw davon Abhängig ist.

TFS wird in einer leichten Version in Solar Forecast ML als App-Option verfügbar sein. Die HA-Version basiert auf der selben Archiektur ist aber “eingedampft” das sie so kompatibel wir nur irgendmöglich ist.

einmal hier rauf bezug nehmend.

Einfach Installieren und SFML nimmt dann diese Ki als Rechengrundlage?
Wie wird das Zusammenspiel mit SFML und TFS aussehen?
Wird TFS Daten aus der SFML DB benötigen?

Hmm frag mich ob mein NUC dafür noch ausreichen würde?

CPU ist nen Intel Core i3-5010U.

Was sagst du @Tom-HA? Könnte man es probieren und mal beobachten und bei Problemen dann einfach wieder entfernen?

Hatte ich mir dazu raus gesucht gehabt, I-Prozessoren von Intel ab 2016 starten mit 7er Nummer im Namen.

Da der I-3 5… 2 Kerne hat, wird das wohl ein Stresstest werden für den. Ausprobieren kann man das sicher, aber das würde ich dann nur auf einem Testsystem machen…

Du machst es dir zu kompliziert.. einfach im BIOS schauen welcher Prozessor verbaut ist da findest sowas wie z.B. i5-6300U CPU Wenn du das dann in eine Suchmachine deiner Wahl eingibst hast Du alle notwendigen Daten. In diesem Fall (Google): i5-6300U CPU Herstellungsdatum und Technische Daten

Antwort:

Technische Daten (i5-6300U)

  • Markteinführung: September 2015
  • Architektur: Skylake (6. Generation)
  • Kerne / Threads: 2 Kerne / 4 Threads (Dual-Core)
  • Taktfrequenz:
    • Basistakt: 2,4 GHz
    • Max. Turbo-Takt: 3,0 GHz (Single-Core), 2,9 GHz (Dual-Core)
  • Cache: 3 MB Intel® Smart Cache
  • Grafikeinheit: Intel® HD Graphics 520
  • TDP (Verbrauch): 15 Watt (ULV - Ultra Low Voltage), konfigurierbar auf 7,5 Watt
  • Speicherunterstützung: DDR4-2133, LPDDR3-1866, DDR3L-1600

Damit ist er raus.. Grenze ist 2016