Vorüberlegung zur Verarbeitung von Wetterdaten

Für Geräte von froggit
Antworten
richard-os
Offline
Beiträge: 18
Registriert: 14 Aug 2024, 21:46
Hat sich bedankt: 6 mal

Vorüberlegung zur Verarbeitung von Wetterdaten

#1

Beitrag von richard-os »

Hallo,
Vorab: Falls es ein Tutorial gibt, was meinen Fragenkomplex behandelt, dann bitte gerne den Hinweis.
Das habe ich vor:
Ich habe im Moment eine kleine Wetterstation (Ecowitt GW1200+WH40 Regenmesser), Eine Reihe von Shellys, eine Wärmepumpe, PV-Anlage und Tibberaccount mit Pulse Stromsensor.
Geplant ist eine umfangreichere Wetterstation mit dem GW2000.
Zu jeder dieser Hardware gibt es eine eigene App und ich zappe immer hin und her um Daten zu sehen und Aktoren zu schalten. Daher möchte ich eine gemeinsame Oberfläche, z.B. mit dem Homeassistant (HA), den ich schon mal auf einem Raspberry installiert habe..
Meine grundsätzliche Frage ist die, wo werden im Falle von HA die Daten, die zu jeder Hardware anfallen gespeichert, also brauch ich dazu eine Datenbank oder kann HA die verschiedenen Datenbank abfragen?
Wie ist es mit der längerfristigen Speicherung. Kann ich meine Wetterdaten auch woanders hochladen und welchen Vorteil hätte man damit? Kann ich Grafana einsetzten?
Vielen Dank für einführende Hinweise.
Grüße Richard
Benutzeravatar
Gyvate
Offline
Beiträge: 3750
Registriert: 10 Aug 2021, 23:41
Wohnort: Saarbrücken
Hat sich bedankt: 14 mal
Danksagung erhalten: 534 mal
Kontaktdaten:

Re: Vorüberlegung zur Verarbeitung von Wetterdaten

#2

Beitrag von Gyvate »

erst mal kurz zum Thema: HomeAssistant und wo dieser seine Daten speichert.
Für die restlichen Fragen brauchts etwas mehr Zeit.

Also HA arbeitet mit sogenannten Integrationen, über die die Daten der zu einer Integration gehörenden Geräte (Device), z.B. ein GW2000, eine Fritz!Box u.v.a.m. gesammelt und verarbeitet und abgespeichert werden.
Das Abspeichern erfolgt in einer sqlite Datenbank, in der mit Primärschlüssel Zeitstempel (die Sekunde im EPOCH Format) alle Einzeldaten eines Gerätes und auch für alle Geräte abgespeichert werden.

Zu Grafana - man kann die Daten auch mit einem Informationbroker (für Ecowitt Konsolen und Sensoren ist hierzu FOSHKplugin sehr geeignet) sowohl an HA als auch in eine influx Datenbank schicken. Letztere hat eine Grafana "Integration", d.h. die Daten aus der InfluxDB können mit Grafana dargestellt werden.

Es gbt sicher noch viele andere Möglichkeiten ...

Dazu gibt es hier im Forum einige Threads/Themen - insbesondere zu FOSHKplugin und auch HomeAssistant
Ecowitt Konsolen und Sensoren
WS2320E, HP2553, HP3501, WN1910, WN1980, WN1820, WS3800, WS3910, WH2810,
GW1000, GW1100, GW1200, GW2000, GW3000, WH2650,WS6210,
WS68, WS69, WS80, WS85, WS90,
WN30, WH31[EP], WH32[EP], WN32P, WN34L, WN34S,WN34D, WN35, WH41, WH45, WH46D, WH51, WH55, WH57, LDS01
Meteobridge Pro, MB RPi (2), MB VM, Weewx v4, CumulusMX v3, CumulusMX v4
Barani MeteoShield Pro (G2 + G3), MetSpec Rad02, SIAP SMarTCELLino,
Personal Weather Tablet(PWT), FOSHKplugin, Dracal BAR20
Weather Landing page: http://meshka.eu
Ecowitt WiKi Englisch: http://meshka.eu/Ecowitt/dokuwiki
richard-os
Offline
Beiträge: 18
Registriert: 14 Aug 2024, 21:46
Hat sich bedankt: 6 mal

Re: Vorüberlegung zur Verarbeitung von Wetterdaten

#3

Beitrag von richard-os »

Hallo,
also HA hat eine sqlite-DB integriert?
(Nachtrag: ok. sqlite-Funktionalität wird als Paket in python im HA bereitgestellt. )
Hab mich inzwischen mal bei WU angemeldet und bei Ecowitt die Keys generiert und eine http-Abfrage ausprobiert. Das hat auf Anhieb geklappt.
Noch eine Zwischenfrage zu WU. Dort muss man einen Stationstyp angeben. In der Typliste ist FOSH/Ecowitt nicht enthalten. also hab ich "other" gewählt.
Grüße Richard
Zuletzt geändert von richard-os am 21 Sep 2024, 00:45, insgesamt 1-mal geändert.
Benutzeravatar
Gyvate
Offline
Beiträge: 3750
Registriert: 10 Aug 2021, 23:41
Wohnort: Saarbrücken
Hat sich bedankt: 14 mal
Danksagung erhalten: 534 mal
Kontaktdaten:

Re: Vorüberlegung zur Verarbeitung von Wetterdaten

#4

Beitrag von Gyvate »

"other" sollte funktionieren - die Ecowitt-Konsolen senden an WU im WU-Format/Protokoll
Ecowitt Konsolen und Sensoren
WS2320E, HP2553, HP3501, WN1910, WN1980, WN1820, WS3800, WS3910, WH2810,
GW1000, GW1100, GW1200, GW2000, GW3000, WH2650,WS6210,
WS68, WS69, WS80, WS85, WS90,
WN30, WH31[EP], WH32[EP], WN32P, WN34L, WN34S,WN34D, WN35, WH41, WH45, WH46D, WH51, WH55, WH57, LDS01
Meteobridge Pro, MB RPi (2), MB VM, Weewx v4, CumulusMX v3, CumulusMX v4
Barani MeteoShield Pro (G2 + G3), MetSpec Rad02, SIAP SMarTCELLino,
Personal Weather Tablet(PWT), FOSHKplugin, Dracal BAR20
Weather Landing page: http://meshka.eu
Ecowitt WiKi Englisch: http://meshka.eu/Ecowitt/dokuwiki
Benutzeravatar
RunMike
Offline
Beiträge: 180
Registriert: 24 Mai 2023, 13:28
Hat sich bedankt: 62 mal
Danksagung erhalten: 12 mal

Re: Vorüberlegung zur Verarbeitung von Wetterdaten

#5

Beitrag von RunMike »

Hallo Richard!
Ich mache das, was du vorhast, nun schon eine Weile.
Das sind zwar andere Geräte und Systeme (alles Selbstbau oder Open-Source-Projekte), aber alle melden ihre Sensor- und Status-Daten an Home-Assistant.
Auch der GW2000. So kann ich zB die Markise einfahren lassen, wenn Wind oder Niederschlag es erfordern.
Bei mir laufen alle am Smarthome Beteiligten (außer Node-Red) in Docker-Containern auf einem 4GB Raspberry Pi 4B.
Der ist damit RAM-mäßig gut ausgelastet (60 - 70%).
HA speichert das, was und wielange du willst, in der sqlite-Datenbank "home-assistant_v2.db".
Die nimmt dann bei entsprechender Anzahl an Sensoren, Aktoren, Stati etc sehr schnell eine Größe an, die sich verlangsamend auf das System auswirkt.
Daher mein Tipp: In der "configuration.yaml" eine Retention von 20 -30 Tagen konfigurieren.
Zusätzlich zB "VictoriaMetrics" als Add-On installieren. Das ist eine sehr gute Alternative für Longterm-Speicherung.
Von VictoriaMetrics aus lasse ich dann Grafana (ebenfalls als Add-On)alle Daten nach Belieben darstellen.

Als "privacy-first"-Fan brauche ich so keine Verbindung zu irgendwelchen Clouds oder externen Diensten. Das geht also auch, wenn man das will ...

Gruß

Mike
"Walk through fire and through brimstone and there were no pearly gates;
I'll be sure to ask about it on my final judgement day ... " (Ivan L. Moody)
Antworten