# FFRL Standort FRA Probleme oder Kapazitätsgrenze erreicht?

**URL:** <https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588>\
**Category:** FFRL Backbone\
**Created:** [18. März 2017 um 20:23 UTC](https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588 "2017-03-18T20:23:22Z")\
**Posts on this page:** 14\
**Page:** 1

<div class="post-metadata">

**Author:** ![descilla](https://forum.freifunk.net/letter_avatar_proxy/v4/letter/d/b2d939/32.png) [@descilla](https://forum.freifunk.net/u/descilla)\
**Post date:** [18. März 2017 um 20:23 UTC](https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588/1 "2017-03-18T20:23:22Z")

</div>

Bei uns (Freifunk Münster) schlagen derzeit wieder gehäuft „Freifunk lahmt“ Meldungen auf. Bei der Suche nach möglichen Fehlerquellen ist mir aufgefallen, dass die RTT (icmp echo) von unseren Gateways zun den Tunnel-Gegenstellen in Frankfurt häufig (aber nicht immer) tagsüber plötzlich sehr viel größer werden und dann über Stunden auch so hoch bleiben. Interessanterweise ist es aber nicht jeden Tag so.  
Im selben Zeitraum steigt auch die droprate (icmp echo).

![](https://forum.freifunk.net/uploads/default/original/2X/f/fc7c29985e365234ac6b1570e86413e77e5fa29f.png)

(Quelle: [https://freifunk-muensterland.de/grafana/dashboard/db/experimente?refresh=30s&panelId=26&fullscreen&orgId=1&from=now-7d&to=now](https://freifunk-muensterland.de/grafana/dashboard/db/experimente?refresh=30s&panelId=26&fullscreen&orgId=1&from=now-7d&to=now) und [https://freifunk-muensterland.de/grafana/dashboard/db/experimente?refresh=30s&panelId=27&fullscreen&orgId=1&from=now-7d&to=now](https://freifunk-muensterland.de/grafana/dashboard/db/experimente?refresh=30s&panelId=27&fullscreen&orgId=1&from=now-7d&to=now), bei den betroffenen Addressen handelt es sich ausschließlich um Tunneladdressen aus Frankfurt)

Schaue ich mir die Grafiken auf [ffrl.de](http://ffrl.de) an, sieht es so aus als ob Frankfurt bei 2 Gbit/s saturiert:  
 ![](https://forum.freifunk.net/uploads/default/original/2X/d/de51fff1e008d4c7354c049cb9c34004ebc88ab3.png)

Gibt es dort aktuell Probleme oder ist einfach die Kapazitätsgrenze dort erreicht?

PS: Vielleicht haben wir auch ein Problem in unserem Setup aber bevor ich da tagelang alles unter die Lupe nehme, wollte ich lieber kurz abklären ob euch da etwas bekannt ist. 😉

Grüße,  
Simon

---

<div class="post-metadata">

**Author:** ![MrMM](https://forum.freifunk.net/user_avatar/forum.freifunk.net/mrmm/32/328_2.png) [@MrMM](https://forum.freifunk.net/u/MrMM)\
**Post date:** [18. März 2017 um 21:48 UTC](https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588/2 "2017-03-18T21:48:46Z")

</div>

@takt @lars das Plateau sieht in der Tat ausgesprochen falsch aus.

> [@descilla](#):
>
> Schaue ich mir die Grafiken auf [ffrl.de](http://ffrl.de) an, sieht es so aus als ob Frankfurt bei 2 Gbit/s saturiert:  
> ffrl\_saturated.png1407x850 89.6 KB

Wobei ich in Aachen kein Plateau erkennen kann.  
 ![](https://forum.freifunk.net/uploads/default/original/3X/6/a/6af6d08ec42d1d60817e96bc54bfa66375f7034d.png)  
Allerdings hat der Traffic Richtung Frankfurt in letzter Zeit abgenommen:  
 ![](https://forum.freifunk.net/uploads/default/original/3X/2/4/2490d290c41c4525fe8669e125d2fa55f88321a0.png)

Wird bei uns aber dem Anschein nach über die Tunnel zu den anderen Standorten kompensiert:  
 ![](https://forum.freifunk.net/uploads/default/original/3X/d/a/da407b44d3eba179a84526ac3e8351dfa5cd5697.png)

[https://zabbix.ffac.rocks/zabbix/screens.php?elementid=23](https://zabbix.ffac.rocks/zabbix/screens.php?elementid=23)

---

<div class="post-metadata">

**Author:** ![windoof](https://forum.freifunk.net/user_avatar/forum.freifunk.net/windoof/32/1434_2.png) [@windoof](https://forum.freifunk.net/u/windoof)\
**Post date:** [18. März 2017 um 22:04 UTC](https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588/3 "2017-03-18T22:04:45Z")

</div>

In En kreis das selbe problem

---

<div class="post-metadata">

**Author:** ![takt](https://forum.freifunk.net/user_avatar/forum.freifunk.net/takt/32/18297_2.png) [@takt](https://forum.freifunk.net/u/takt)\
**Post date:** [18. März 2017 um 23:48 UTC](https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588/4 "2017-03-18T23:48:46Z")

</div>

Servus, in der Tat scheint da was schief zu gehen. Ich kann nichts offensichtliches sehen aktuell.  
Wir schauen morgen im Detail rein.

---

<div class="post-metadata">

**Author:** ![takt](https://forum.freifunk.net/user_avatar/forum.freifunk.net/takt/32/18297_2.png) [@takt](https://forum.freifunk.net/u/takt)\
**Post date:** [19. März 2017 um 11:31 UTC](https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588/5 "2017-03-19T11:31:15Z")

</div>

Servus!

Das Bild ist weiterhin nicht klar. Aktuell liegt der Traffic schon deutlich hoeher als gestern und unsere Graphen zeigen, dass das Problem in der letzten Woche mehrfach auftrat. Undzwar immer tagesweise. Mo/Di: Max 2Gbps. Mi: Ok. Do: Max 2Gbps, Fr: Ok, Sa: Max 2 Gbps.

Kein Router wurde rebootet in der Zeit oder umkonfiguriert.

Soeben habe ich von der [bb-a.fra2.fra.de](http://bb-a.fra2.fra.de) zur bb-b ueber den Pfad gepingt wo in Frankfurt typischerweise der Meiste Traffic ist: 130ms. Das ist deutlich erhoeht. Auch ein Ping zu unserem Upstream Core Backbone (am selben Iinterface/Switch der bb-a) zeigte hohe Latenz. Ein Ping von der bb-b ueber den selben Switch was unauffaellig. Ein Router Drain & Undrain der bb-a hat das Problem aktuell geloest. Ursache unklar.

Wir sind weiter dran. WIrd vermutlich ein paar Tage dauern bis wir die Ursache finden da das Problem aktuell eben nicht auftritt.

-takt

---

<div class="post-metadata">

**Author:** ![takt](https://forum.freifunk.net/user_avatar/forum.freifunk.net/takt/32/18297_2.png) [@takt](https://forum.freifunk.net/u/takt)\
**Post date:** [21. März 2017 um 19:58 UTC](https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588/6 "2017-03-21T19:58:17Z")

</div>

Update!

Heute trat das Problem erneut auf.  
Aufgefallen ist uns dabei, dass der Prozess ksoftirqd/2 der [bb-a.fra2.fra.de](http://bb-a.fra2.fra.de) auf 100% rotierte (non-stop).  
Gleichzeitig hatten wir ca. 1500 interrupts/s.

Nachdem wir den Router [bb-a.fra2.fra.de](http://bb-a.fra2.fra.de) gedrained haben (reject aller Routen an den Peerings und Community BGP sessions) beruhigte sich besagter Prozess und auch die Interrupts gingen in den 1 stelligen Bereich zurück.

Nach dem undrain trat das Problem nicht wieder auf und der Traffic in FRA ist von 2Gbps auf 2,8Gbps gestiegen.  
Mit dem Traffic stiegen die Interrupts auf 4400/s an.  
Wir wissen nicht was genau das Problem ist und wie es ausgelöst wird.  
Allerdings könnte das Problem im Zusammenhang mit einem Kernel Upgrade vor 3 Wochen auf Kernel 4.9 stehen.

---

<div class="post-metadata">

**Author:** ![descilla](https://forum.freifunk.net/letter_avatar_proxy/v4/letter/d/b2d939/32.png) [@descilla](https://forum.freifunk.net/u/descilla)\
**Post date:** [21. März 2017 um 21:39 UTC](https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588/7 "2017-03-21T21:39:04Z")

</div>

> [@takt](#):
>
> Allerdings könnte das Problem im Zusammenhang mit einem Kernel Upgrade vor 3 Wochen auf Kernel 4.9 stehen.

Welche BUGFIX-Version verwendet ihr denn? Wir hatten anfänglich (~4.9.3/4.9.4) auch sehr diffuse Netzwerkprobleme. Nachdem wir jetzt bei 4.9.13 (und ein paar Versionen davor) sind, treten diese nicht mehr auf. Kann natürlich auch Zufall sein. In der Zusammenfassung der Commits hatte ich eigentlich auch nichts spezifisches zu unserem Setting gelesen, aber das heißt ja nichts.

---

<div class="post-metadata">

**Author:** ![takt](https://forum.freifunk.net/user_avatar/forum.freifunk.net/takt/32/18297_2.png) [@takt](https://forum.freifunk.net/u/takt)\
**Post date:** [22. März 2017 um 10:05 UTC](https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588/8 "2017-03-22T10:05:19Z")

</div>

Aktuell läuft 4.9.11. 4.9.1 führte regelmäßig in die Kernel Panic: [LKML: Ian Kumlien: [BUG] 4.9 - kernel oops when pptp connection is established and the kernel doesn't have pptp modules compiled](https://lkml.org/lkml/2016/12/30/304)

Als nächstes werden wir mal perf oder system-tap einsetzen.  
Mal sehen mit was die CPU Zeit verschwendet wird.

---

<div class="post-metadata">

**Author:** ![takt](https://forum.freifunk.net/user_avatar/forum.freifunk.net/takt/32/18297_2.png) [@takt](https://forum.freifunk.net/u/takt)\
**Post date:** [22. März 2017 um 20:06 UTC](https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588/9 "2017-03-22T20:06:10Z")

</div>

Wir haben heute die Kernel Version auf 4.9.17 angehoben und verfügen nun über funktionierendes perf und systemtap.

---

<div class="post-metadata">

**Author:** ![BauerJup](https://forum.freifunk.net/user_avatar/forum.freifunk.net/bauerjup/32/9139_2.png) [@BauerJup](https://forum.freifunk.net/u/BauerJup)\
**Post date:** [18. April 2017 um 19:09 UTC](https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588/10 "2017-04-18T19:09:33Z")

</div>

Moin, ich war bis jetzt stiller Teilnehmer hier,  
Jetzt haben mir die Münsteraner einmal zu oft gesagt „mach doch“

wie auch immer, ich habe gerade mal auf [ffrl.de](http://ffrl.de) geschaut und das Bild vom Standort Fra. ist mir doch sehr bekannt vorgekommen. Klemmt da vielleicht wieder etwas?

 ![](https://forum.freifunk.net/uploads/default/original/2X/d/d1e241153f4e6d5d9839b8a5c611d62cff32721f.png)

PS.: Begleiterscheinungen wie beim letzten mal sind mir bisher noch fast keine aufgefallen. Einzig nach Frankreich werden scheinbar Pakete verloren, aber das wird hier wohl nix mit zu tun haben.

Mfg.

---

<div class="post-metadata">

**Author:** ![takt](https://forum.freifunk.net/user_avatar/forum.freifunk.net/takt/32/18297_2.png) [@takt](https://forum.freifunk.net/u/takt)\
**Post date:** [22. April 2017 um 15:09 UTC](https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588/11 "2017-04-22T15:09:07Z")

</div>

Hallo,

leider ist die Ursache des Problems immernoch nicht gefunden.  
Aktuell befinde ich mich im Umzug und kann nur sehr begrenzt taetig werden.  
In gut einer Woche wird das anders aussehen.

Ich bitte um Geduld.

takt

---

<div class="post-metadata">

**Author:** ![windoof](https://forum.freifunk.net/user_avatar/forum.freifunk.net/windoof/32/1434_2.png) [@windoof](https://forum.freifunk.net/u/windoof)\
**Post date:** [24. April 2017 um 11:46 UTC](https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588/12 "2017-04-24T11:46:27Z")

</div>

vielen Dank fuer deine Suche.

---

<div class="post-metadata">

**Author:** ![stefan6](https://forum.freifunk.net/user_avatar/forum.freifunk.net/stefan6/32/7984_2.png) [@stefan6](https://forum.freifunk.net/u/stefan6)\
**Post date:** [26. April 2017 um 17:07 UTC](https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588/13 "2017-04-26T17:07:37Z")

</div>

Hallo zusammen,

auch wir haben mit unseren Tunneln in Richtung FRA-A aktuell Probleme.

Dabei ist zu sagen, dass nach wenigen Sekunden Routen umgeschwenkt werden (konkretes Beispiel LeasWeb): gegen 18 Uhr ging der Web über den NL-ix, wenige Sekunden später tat sich nach gre.bb-a.fra nix mehr.

Endpunkt in unserem Fall wäre die 5.9.56.25.

Danke für eure Mühe 🙂

---

<div class="post-metadata">

**Author:** ![takt](https://forum.freifunk.net/user_avatar/forum.freifunk.net/takt/32/18297_2.png) [@takt](https://forum.freifunk.net/u/takt)\
**Post date:** [14. Mai 2017 um 19:54 UTC](https://forum.freifunk.net/t/ffrl-standort-fra-probleme-oder-kapazitaetsgrenze-erreicht/14588/14 "2017-05-14T19:54:55Z")

</div>

Hallo zusammen,

ein Upgrade auf Kernel 4.9.26 hat das Problem scheinbar behoben!

takt
