alte PWS Netatmo Daten offline speichern???

Für allgemeine Software
Antworten
UrsulaB
Offline
Beiträge: 32
Registriert: 13 Mai 2023, 14:51
Hat sich bedankt: 2 mal

alte PWS Netatmo Daten offline speichern???

#1

Beitrag von UrsulaB »

Hallo an alle Wetterfrösche

Ich lese hier schon einige Zeit mit und habe nun ein eigenes Anliegen, wo ich nicht weiter komme und hoffe "ich werde geholfen" :D

Ich habe NOCH eine Netatmo Wetterstation mit Regen, Temperatur- und Windsensor, leider gibt es immer wieder ausfälle bei den Sensoren, sodass ich mich dazu entschieden habe, eine neue Station zu kaufen!

Es soll eine Ecowitt werden, mit getrennten Sensoren (Wind/Regen/Temperatur/Poolsensor evtl. Bodenfeuchtesensor) und einen GW2000 Gateway!

Die Daten möchte ich gerne auf meinen Android Geräten ansehen können, ähnlich wie die Netatmo App, außerdem müsste ich die Daten auch wieder an WU senden (das habe ich mehr schlecht als recht bisher auch getan), da meine Beregnungsanlage (Hunter Hydrawise) sich die Daten von da zieht.


Meine Idee ist nun (aber ich bitte um Gnade, ich bin blond und auch nicht mehr die aller jüngste ;) ), ich hoffe, dass man das auch umsetzen kann, meine NAS Synology dazu zu nutzen, einen Server einzurichten.
Ich würde auch gerne die alten Daten der Netatmo mit dazu nehmen (sind ja doch 3 Jahre), diese kann ich ja vom Netatmo Server in csv Dateien runterladen.
Ist es möglich, die alten mit den neuen Daten weiterzuführen und wenn ja wie?

Vielleicht kann mir hier ja jemand einen Tipp geben und Danke schon mal im Voraus

Gruß Ursula
Benutzeravatar
Gyvate
Offline
Beiträge: 2479
Registriert: 10 Aug 2021, 23:41
Wohnort: Saarbrücken
Hat sich bedankt: 12 mal
Danksagung erhalten: 375 mal
Kontaktdaten:

Re: alte PWS Netatmo Daten offline speichern???

#2

Beitrag von Gyvate »

Hallo Ursula,
im Prinzip geht (fast) alles. Meistens ist es eine Frage des Aufwandes.
Die meisten Ecowitt-Konsolen speichern ja keine Daten ab - und darum scheint es Dir ja zu gehen.

Sie senden zwar die Daten in die verschiedenen Wetter-Clouds (WU, WeatherCloud, WOW, Ecowitt), auch parallel, aber dort werden die Daten ja nicht beliebig lange aufbewahrt (i.d.R. zwei Jahre) und sind auch nicht immer einfach im direkten Zugriff.

Allerdings kannst Du mit der WSView Plus im lokalen Netzwerk Deine Daten in Echtzeit sehen, so wie die Sensoren ihre Daten an die Konsole übertragen (mit den GW1x00, GW2000, WH2650, WN19x0 Konsolen). Ausserhalb des lokalen Netzwerk liest die WS View Plus App die Daten aus der Ecowitt-Cloud und WU-Cloud (muss zuvor eingerichtet worden sein ;) ).
Auch die sehr schöne SmartMixin Weather App zeigt die Daten aus der Ecowitt-Cloud an.
Du kannst auch ein 10-Zoll Android Tablett als Anzeige-Konsole benutzen. Der GW2000 wird so konfiguriert, dass er seine Daten zusätzlich an das Tablett schickt. Dazu wird die PWT (Personal Weather Tablett) App benötigt.
Soweit zur Anzeige.

Um auf Deine historischen Daten zugreifen zu können, müsstest Du also ein Datenlogger-Programm einsetzen, das Dir Deine Daten speichert - und in dessen Datenbank Du auch Deine alten Netatmo-Daten übernehmen könntest.
Geeignete (kostenfreie) Programme wären z.B. CumulusMX, weewx, die auch beide auf einer/einem Synology-NAS (kommt sicher auf das Modell an 8-)) laufen müssten. Mit weewx habe ich das selbst auf meinem QNAP-NAS ausprobiert, und das funktioniert - und CMX sollte das auch können (ist auf einem NAS komplizierter, auf einem RaspberryPi, Windows oder MacOS Computer kinderleicht).

Nehmen wir mal an, wir machen das Ganze mit weewx.
Dazu wird ein sogenannter Container (eine Art virtueller Server) auf dem NAS eingerichtet und dort dann z.B. Ubuntu (ein Linux-Derivat) als Betriebssystem installiert. Beliebte Container-Variante ist ein sogenannter Docker-Container.
Sobald das fertig ist (normaler ein Standardverfahren mit ein paar Mausklicks), wird dann weewx in diesem Container installiert.
Im Grunde gibt es dazu (weewx Installation) Installationsanleitungen, und es ist dabei im Prinzip egal, ob weewx auf einem RaspberryPi Computer, einem NAS etc. installiert wird.
Es müssen ein paar Dinge berücksichtigt werden. z.B. muss ein Webserver eingerichtet sein (das ist ein Programm, das die Anzeige von Daten auf Webseiten also im Browser ermöglicht) und der Netzwerkzugriff für die Konsole (GW2000) und auf den Webserver muss konfiguriert werden. Dann läuft es.

Weewx holt sich die Daten von Deiner Konsole z.B. GW2000) ab und speichert sie in einer Datenbank. Alle 5 Minuten wird ein "Report", genaugenommen ganze Webseiten, erstellt, auf denen man sich dann sowohl die aktuelle als auch die historische Wettersituation im Browser anschauen kann.
Weewx Bespiele findest Du auf meiner Wetter-Landingpage (--> Signatur)

Wenn weewx läuft, lassen sich auch CSV-Dateien in die Datenbank einspielen.
Es ist eine Portion Arbeit, bis alles zur Zufriedenheit funktioniert, aber danach ist es ein Selbstläufer.
Ecowitt WS2320E,HP2553,HP3501,GW2001,GW1100, GW1000,WH2650,WN1910,WN1980, Meteobridge RPi4B-2GB/(16)32GB SLC 3165, Weewx 4.5.1/4.10.2, CumulusMX 3.28.4 b3282, Barani MeteoShield Pro, MetSpecRad02, Personal Weather Tablet(PWT) - http://meshka.eu
UrsulaB
Offline
Beiträge: 32
Registriert: 13 Mai 2023, 14:51
Hat sich bedankt: 2 mal

Re: alte PWS Netatmo Daten offline speichern???

#3

Beitrag von UrsulaB »

Vielen lieben Dank für die ausführliche Info, seltsamerweise habe ich gar keine Benachrichtigung bekommen, dass eine Antwort auf meine Frage da ist, daher antworte ich erst jetzt!!

Das hört sich ja schon mal sehr spannend an, ich habe eine Synology DS720+ einen Docker habe ich schon laufen, da ich die Daten meiner Netatmo, von da aus über Home assistant an WU sende, direkt ging das nicht mehr, da WU die Stationen von Netatmo nicht mehr unterstützt!
Die Einrichtung war echt kompliziert und da hatte mir derzeit ein Forenmitglied tatsächlich über Remote Zugriff geholfen, dass ganze zum laufen zu bringen!
Nun bin ich etwas ratlos, ob ich das wohl hinbekomme, dass auf meiner NAS zum laufen zu bekommen.....
Gibt es hierfür irgendwo eine Anleitung, ich suche da schon seit Tagen im Internet, habe aber noch nichts passendes gefunden...

Ich bin über jede Hilfe wirklich Dankbar
Benutzeravatar
Gyvate
Offline
Beiträge: 2479
Registriert: 10 Aug 2021, 23:41
Wohnort: Saarbrücken
Hat sich bedankt: 12 mal
Danksagung erhalten: 375 mal
Kontaktdaten:

Re: alte PWS Netatmo Daten offline speichern???

#4

Beitrag von Gyvate »

wir können das ja Schritt für Schritt angehen.
1. erst mal die GW2001 Station oder die Eigenkomposition und die Zusatzsensoren einrichten, die Konsole die Daten zu WU und Ecowitt und ggf. weiteren Wetterservices senden lassen. Dass erst mal alles in der WS View Plus App sichtbar ist und funktioniert.
2. einen Ubuntu-Docker-Container auf der Synology einrichten.
3. weewx installieren und zum Laufen bringen.
4. Altdaten in die weewx-DB importieren.

Ich kann dazu gerne Hilfestellung geben, ggf. auch per TeamViewer.

Am Besten sendest Du mir dazu eine persönliche Message (heisst hier "Private Nachricht") und berichtest, wo Du bei den obigen 4 Punkten stehst. Gggf. erst bei 0 oder 0,5 ;);
dann sehen wir mal, wie ein Zeitplan aussehen könnte.

Wenn Du aus dem Forum keine Nachricht bekommen hast, prüfe doch mal Deine Benachrichtigungseinstellungen in Deinem Konto
Ecowitt WS2320E,HP2553,HP3501,GW2001,GW1100, GW1000,WH2650,WN1910,WN1980, Meteobridge RPi4B-2GB/(16)32GB SLC 3165, Weewx 4.5.1/4.10.2, CumulusMX 3.28.4 b3282, Barani MeteoShield Pro, MetSpecRad02, Personal Weather Tablet(PWT) - http://meshka.eu
UrsulaB
Offline
Beiträge: 32
Registriert: 13 Mai 2023, 14:51
Hat sich bedankt: 2 mal

Re: alte PWS Netatmo Daten offline speichern???

#5

Beitrag von UrsulaB »

OK, Dankeschön PN ist raus 😄
Benutzeravatar
Gyvate
Offline
Beiträge: 2479
Registriert: 10 Aug 2021, 23:41
Wohnort: Saarbrücken
Hat sich bedankt: 12 mal
Danksagung erhalten: 375 mal
Kontaktdaten:

Re: alte PWS Netatmo Daten offline speichern???

#6

Beitrag von Gyvate »

Für alle Mitleser.
Wenn wir alles zum Laufen gebracht haben, werde ich das in einem eigenen Post bzw. im WiKi unter weewx dokumentieren.
Die Docker-Container Lösung auf einem QNAP-NAS und in einer Windows 10/Windows 11 WSL-Umgebung (Windows Subsystem for Linux) wurde ja bereits in anderen threads dokumentiert. Sowohl für weewx als auch für FOSHKplugin.
Ecowitt WS2320E,HP2553,HP3501,GW2001,GW1100, GW1000,WH2650,WN1910,WN1980, Meteobridge RPi4B-2GB/(16)32GB SLC 3165, Weewx 4.5.1/4.10.2, CumulusMX 3.28.4 b3282, Barani MeteoShield Pro, MetSpecRad02, Personal Weather Tablet(PWT) - http://meshka.eu
Benutzeravatar
Gyvate
Offline
Beiträge: 2479
Registriert: 10 Aug 2021, 23:41
Wohnort: Saarbrücken
Hat sich bedankt: 12 mal
Danksagung erhalten: 375 mal
Kontaktdaten:

Re: alte PWS Netatmo Daten offline speichern???

#7

Beitrag von Gyvate »

Also, sowohl weewx 4.10.2 als auch CumulusMX 3.25.1 (3244) ließen sich (relativ *) problemlos in einem Ubuntu LXC Container auf einem QNAP NAS (QTS 5) in der Container Station bzw. einer Synology DS720+ in einer Ubuntu VM mit Hilfe des Synology VMM (Virtual Machine Manager) installieren. Benutzt wurde auf beiden NAS Servern Ubuntu 22.04.2 LTS.
Wichtig bei der Containererstellung ist, eine Freigabe auf dem regulären NAS für den Container zugänglich zu machen, um einen Datenaustausch zu vereinfachen. (Man kann natürlich auch alles von Hand zu Fuss via scp machen).

CumulusMX ist dabei seinem Ruf für einfache Installation gerecht geworden.

*) heisst: da Ubuntu im Auslieferungszustand etwas dünn bestückt ist, musste insbesondere für den Betrieb von weewx einiges an Programmen nachgeladen werden (Apache2/nginx Webserver, wget, nano etc.)
Auch muss man, je nach weewx Installationsmethode (Debian oder setup.py) und Wahl der Installationsverzeichnisse im Dateisystem, die Berechtigungen für die von weewx genutzten Verzeichnisse anpassen.

Da die historischen Daten (ursprünglicher Post) aus Netatmo direkt herunter geladen wurde, wird der Import nach CumulusMX (für weewx im Prinzip ähnlich), zu einer Art "Pfriemelei", da die Daten pro Sensor aus Netatmo heruntergeladen werden. Man muss die Sensordaten also spaltenweise zusammenstückeln, so dass Datum/Uhrzeit-bezogen Zeilen (Datensätze) herauskommen, die dann importiert werden können. Methode für CMX - im Format der Monatsdatei monatsweise abspeichern und das Hilfsprogramm CreateMissing laufen lassen, das die fehlenden Einträge in der Tagesdatei (dayfile) einfügt. Methode für weewx: die entsprechende CSV-Import Definitionsdatei erstellen und die Datensätze importieren. Allerdings auch erst, nachdem eine CSV-Datei mit Datum-Uhrzeit-Zeilen zusammengepfriemelt wurde.
Ecowitt WS2320E,HP2553,HP3501,GW2001,GW1100, GW1000,WH2650,WN1910,WN1980, Meteobridge RPi4B-2GB/(16)32GB SLC 3165, Weewx 4.5.1/4.10.2, CumulusMX 3.28.4 b3282, Barani MeteoShield Pro, MetSpecRad02, Personal Weather Tablet(PWT) - http://meshka.eu
Antworten