Clientstatistiken Broken

Fortsetzung der Diskussion von Meshviewer Niersufer:

Huhu,

hier gibts wohl gerade Probleme mit den Clientstatistiken?

Gruß
Thomas

Das Problem ist bekannt. Der Meshviewer skaliert nicht auf diese Größe von Netz. Durch die große Zahl an Nodes schafft unser Server es nicht, innerhalb des Intervalls alle Graphen zu erzeugen.

Für Statistiken verweise ich auf https://grafana.lambdacore.de/, wo @CyrusFox eine schöne Lösung bereitgestellt hat.

Wir werden bei der nächsten Installation der Karte versuchen, diese Graphen anstatt jener von RRDtool einzubinden.

Wir haben das gleiche Problem und sind aktuell dazu übergegangen, nicht mehr alle Graphen vorzuhalten, sondern die Graphen on demand aus den Daten von Graphite zu erstellen (siehe: http://map.freifunk-aachen.de/v2/#!n:14cc20b97f42).

Dazu wird es auch demnächst ™ einen Patch für den Meshviewer geben, sobald ich die Graphite-Anbindung ins ffmap-backend eingebaut habe.

Wer bis dahin selber basteln möchte findet die Integration des Graphen unter GitHub - ffac/meshviewer at stats, die Übergabe der Statistiken an Graphite muss man sich hier raussuchen map-scripts/cron.sh at master · ffac/map-scripts · GitHub.

2 Likes

Ich schreibe momentan an einem Backend-Patch welcher direkt alle Metriken in OpenTSDB speichert. OpenTSDB lässt sich gut skalieren und es speichert die Daten granularer als Graphite ohne dabei zuviel Performance zu verlieren. Außerdem gibt es Plugins um direkt Daten im Carbon Format anzunehmen oder auch zu exportieren. :smile:
Es ist auch einfach Daten von collectd an OpenTSDB zu schicken, da gibt es extra ein Plugin für. Außerdem gibt es Python libraries falls man selbst die Daten an OpenTSDB schicken möchte.

Link: http://opentsdb.net/

Bis gestern hatten wir testweise auch noch InfluxDB laufen.
Allerdings haben sich dort innerhalb weniger Tage 14 GB an Daten angesammelt, das Datenvolumen von Graphite liegt nach etlichen Monaten nur bei 1,7 GB.

Da wir auf Grund von Datenschutz und der anfallenden Datenmenge ältere Daten nicht granular vorhalten möchten und wir die Retentions bzgl. der Garbage-Collection in Graphite dementsprechend konfiguriert haben, werden wir erst mal bei Graphite bleiben.

Bei InfluxDB hatte ich auf die Schnelle auch keine Konfigurationsmöglichkeit gefunden, die eine automatische Aggregation älterer Werte bewirkt, aber vielleicht habe ich’s auch einfach übersehen.

Wie sieht’s denn diesbezüglich bei OpenTSDB aus?

Wir haben mit InfluxDB jetzt nach etwa 8 Wochen 6.6 GB Daten gesammelt. (Jede Minute einen Datenpunkt)
Bei InfluxDB lässt sich das durch die Retention von den einzelnen Datenbanken einstellen, bei dem momentanen Grafana / InfluxDB Setup habe ich 3 Tage eingestellt :slight_smile:
Wohl gemerkt InfluxDB 0.9

OpenTSDB hat ähnliche Retention Settings :smile:

Hier ein Beispiel für InfluxDB

CREATE RETENTION POLICY freifunk_policy
ON freifunk
DURATION 3d
REPLICATION 1
DEFAULT

1 Like

Hier noch der Link zum Backend-Script das ich für den Datenimport nutze:

1 Like