Fibercrew Lelystad - snelheid gehalveerd na 24 uur

De oplevering van de Fibercrew lijn gaf op zich toch wat meer problemen dan ik initieel opmerkte. Een deel daarvan kwam door eigen routering fouten in de IPv6 stack, maar het meest opvallende is de snelheid die, na de eerste 24u dat de lijn actief is, is gehalveerd en het best wel stevige verschil in snelheid tussen ipv4 en ipv6 (gaat via dezelfde pppoe link)

In de eerste 24 uur haalde ik net geen 800 (max 770) Mbps op ipv6 en net iets meer als 400 (max 410) Mbps op ipv4. Daarna kelderde de snelheid via 200 Mbps (ipv4) naar krap meer dan 100. 5 Mei ben ik gaan experimenteren met MTU, MSS clamping e.d., maar dat maakte de zaak erger, 75 Mbps was het dieptepunt om na herstel van de instellingen (conform Freedom settings) en de ONT een keer power cycelen weer op ± 200 Mbps uit te komen. DIt alles ipv4 download. Upload en ipv6 in alle gevallen ± 2x zo snel. AL het verkeer gaat

Is die ZTE ZXHN F601 (GPON ONU volgens de doos) zo instabiel dat de performance instort na 24u?

Is er overigens iemand in geslaagd om op de ONT via de LAN poort in te loggen? Hij luistert op 192.168.1.1 en ondanks dat ssh niet werk wordt er wel gereageerd op telnet en op poort 80 luistert er ook iets. (Ik ga even klussen in de firewall om daar een connectie naar te kunnen maken)

Edit: Yeah, binnen op web interface van de ZTE (admin admin) op de LAN poort. Helaas geen info over de kwaliteit van de lijn.

Monitoring op de snelheid aangezet voor de Fibercrew lijn en ik blijf constant qua snelheid. 260 Mbps ip ipv4 naar KPN testpunt van Ookla, 360 Mbps op ipv6 T-Mobile testpunt. Dat is Download (inkomend) Uitgaand is voor beide de snelheid ongeveer 335 Mbps (333 Mbps voor ipv4, 337 Mbps voor ipv6) Deze tests vanaf het ip adres op het uitgaande (pppoe) interface van de firewall

Het opvallende is wel dat speedtest.freedom.nl op ipv6 een snelheid van ± 225 Mbps down, 300 Mbps up laat zien op ipv6 (Ik zou verwachten dat freedom intern sneller zou zijn) en speedtest.cloudflare.com laat ruwweg dezelfde snelheden zien. Dat is dan wel vanaf de laptop die bedraad aan de firewall zit (1 Gb)

Tijdens de tests zie ik geen significante load toename op de firewall. De load is ± 20% op een 4 core Rpi 4B met 4GB geheugen nu ik elke 5 min de speedtests uitvoer. De snelheden die ik de eerste 24 uur zag zie ik niet meer terug, alsof er ergens geknepen wordt.

Het is wel een hele verbetering t.o.v. de 50 Mbit die ik bij KPN had, maar dit komt niet in de buurt van de ‘volle snelheid haal je niet, maar 75% wel en meestal zelfs 85%’ (Die ik overigens opde site ook niet meer terug vind :wink: ).

Nu heb ik eigen hardware en heb ik ook ± 77% gehaald, eenmalig op IPv6 in de eerste 24 uur, maar niet boven de 36% uitkomen na de eerste 24u vind ik wat apart. Of ik had die snelheden de eerste dag al moeten hebben of, als het de belasting van de gedeelde uplink is, had ik variaties in de snelheid gedurende de nacht verwacht. Dit lijkt verdacht veel op een storing in een van de routers in de uplink of een geknepen verbinding.

De optie ‘dan maar een fritzbox’ is al aangeboden, maar daar heb ik geen vertrouwen in. (en betekend dat ik m’n gehele netwerk waar ik prive en zakelijk van afhankelijk ben moet ombouwen. Ik verdenk eerder de ZTE ONU die roet in het eten gooit. Schijnt bij de uitrol in Hilversum ook een uitdaging te zijn geweest bij sommige mensen die van KPN naar Fibercrew zijn overgestapt.

Ik ben benieuwd naar de ervaringen van andere overstappers, ook in andere plaatsen.

Is het een idee om die er een een paar uur aan te hangen om vast te stellen of dat wel of geen verschil maakt en daarmee de ZTE aan te kunnen wijzen als oorzaak (of niet)? Was de suggestie via de ZTE, of direct glas? In het laatste geval kun je de ZTE uitsluiten en aantonen of die wel of niet voor vertraging zorgt en desnoods de FB instellen op PPPoE passthrough zodat je je eigen apparatuur daarochter kunt blijven gebruiken (uitgaande van het nog vast te stellen feit dat de ZTE de oorzaak is). Als de FB via wanpoort weer aan de ZTE hangt zie ik nog niet zo snel dat dat beter zou gaan en de oplossing zou zijn.

Wat ik tussen de regels door las was dat het idee was om de RPi te vervangen door de FB (en die dan tijdelijk te huren). (dus achter de ZTE te knopen)

Het feit dat de RPi eerder wel 770 Mbps haalde op ipv6 en 400 Mpbs op ipv4 (en 500 Mbps upload) zelfs met verkeerde MTU (1508 interface, 1500 pppoe) terwijl de ZTE duidelijk max 1492 voor pppoe aangeeft (mijn conclusie, fiber kant is 1500 MTU), doet mij vermoeden dat het de RPi niet is. Die draait al ruim een jaar. De ZTE is nieuw, maar ook bij de overstap van KPN naar Fibercrew in Hilversum is er al 1 melding geweest hier dat de ZTE defect bleek na een dag goed werken.

Ik denk dan eerder aan een FB met fiber poort of een media converter om te testen. Ik heb zelfs 2 Netgear switches waar een SPF in kan. Daar kan ik evt wat mee testen als ik toch naar een media converter wil overstappen, maar dan schijn je weer geen TV via Freedom aan te kunnen. (Dan moet ik m’n vrouw zo gek krijgen iets als een chromecast 4K of Nokia 8000 te nemen met NL ziet voor BBC First)

@KoffieNu ik had het al eens geopperd, maar hang je pc eens rechtstreeks aan de ZTE en zet een pppoe verbinding op met Freedom. Ik ben benieuwd wat je snelheid dan zal zijn.

Ik heb al gevraagd wat gaat dit oplossen?

  1. Het snelste wat ik in huis heb, waar RJ45 in past, is de RPi en die hangt rechtstreeks aan de ZTE met pppoe. (zit geen switch tussen, gewoon eigen kabel)
  2. Ik heb voor de officiele oplevering van de lijn (ontvangen email ‘je nieuwe internetverbinding werkt!’ op 3 mei) 770 Mbps gehaald op ipv6 (1 mei) en 410 Mbps op ipv4 (1 en 2 mei), daarna nooit meer dan ± 360 Mbps op ipv6 en 260 Mbps op ipv4.

Ik test al direct op de pppoe verbinding, zonder tussenkomst van andere hardware dan de ZTE van de provider en ik heb de verwachte snelheden al gehaald. Het is niet dat ik de snelheden nooit gehaald heb, het is dat ik de snelheden na 2 mei nooit meer gehaald heb, ervoor wel. Wat is er gewijzigd? Niets aan mijn kant.

De verbinding blijft relatief traag. 1/3 van de ‘max snelheid’ op ipv6, 1/4 op ipv4. Niet dat ik het nodig heb, maar bij een GB lijn zou je verwachten dat je toch minimaal de helft haalt. Dat is met MTU van 1500 op het interface en 1492 op pppoe. De hogere snelheden in de eerste 24-36 uur haalde ik met 1508 op interface en 1500 op pppoe. Dat zo maar weer eens een weekje testen, kijken of het dan verbetert of verslechtert.

In het ergste geval de ZTE eens vervangen door een eigen media converter/SFP. Dan kan ik in elk geval statistieken los peuteren om te bepalen waar de issues zijn. De ZTE geeft in elk geval geen errors het interne interface. (RJ45) Geen stats beschikbaar vande glas kant.

Ik moet wel toegeven, de eerste 24-36 uur schommelde de snelheid wel erg, die is nu constant. Het lijkt er op dat de uitdaging bij Fibercrew verderop in het netwerk zit.

Ok, er is een Fritzbox onderweg om te testen. Ik ben benieuwd of ie met SFP komt of achter de ZTE komt te hangen, daar de ZTE aan deze kant mijn hoofdverdachte is. We gaan het merken. In elk geval kan Freedom met de FB wat meer uitlezen kreeg ik te horen.

Ik ben benieuwd of ik dat ding zo kan africhten zodat ik niet m’n gehele interne netwerk (erg complex) moet gaan verbouwen. Met een aanwezige glas koppelvlak op de FB zou mijn eerste test via pppoe bridging zijn om in elk geval de ZTE uit te kunnen sluiten (of aanwijzen als verdachte)

Edit: Ok, huurmodem snel aankoppelen, speedtest uitvoeren, resultaten insturen en modem retour (zodat ik weer netwerk heb). Beetje omslachtig, maar als dat zo moet, prima. Even m’n RPi uitsluiten, ook al heeft die de eerste 24-36u een dubbele snelheid gehaald t.o.v. nu.

Yeah, getest met Fritzbox achter de ONU (hoort dat geen ONT te zijn?)…

Nette download op speedtest.freedom.nl (ipv6) van 628 Mbps en een upload van 0.49 Mbps?
Cloudflare (ipv6) 278 Mbps en 465 kbps… Ookla (ipv4) 404Mbps en 0.47 Mbps…
Verse set tests, 0.5 Mbps up kan niet goed zijn, maar helaas, dezelfde resultaten, alleen komt de download vanaf de freedom site niet verder dan 415 Mbps. (Zag ik hier ook, snelle eerste meting, daarna inzakken)

Bevindingen ingestuurd en maar weer snel terug naar de RPi. Snelheid is weer ± 150 Mbps down en 200 Mbps up. Hier kan ik in elk geval mee thuiswerken.

De Friztbox kan zo retour, dat scheelt.

Edit: Argh… natuurlijk is er iets als een profiel dat correct ingesteld moet worden. Anders heb je maar max 0.5 Mbps up en beperkt down… Wordt achterhalen wat er gedaan wordt in dat profiel, want deze info kwam natuurlijk net nadat ik het verzendbewijs voor het retour zenden had bemachtigd. (de FB is dus al retour)

Het is niet mijn week, cavia overleden vanochtend (vanmiddag begraven), hond die een simpele operatie moet ondergaan, ware het niet dat d’r leverwaarden slecht zijn en om te bepalen wat daar de oorzaak van is moet ze ook onder narcose en die narcose kan het probleem zijn en gezeur op het werk…

De lijn moet het zo maar even doen, de 200 Mbps die ik nu haal op ipv4 en 350-400 Mbps op ipv6 is al veel sneller dan ik had. Het heeft het maar te zijn. ik geef even op tot ik er weer helemaal bij ben.

En toch bleef het knagen… heb ik verkeerde tools gebruikt om te testen. (en misschien is een flush van de iptables mangle tabel wel handig bij een reload :shushing_face: ) Dat laatste was de uitdaging niet, de tooling (speedtest van ookla, freedom en cloudflare) echter wel.

Ondanks dat ik de speectest-cli van ookla gebruikte, die betere resultaten gaf, was het nog niet optimaal. Dan maar iperf3 installeren op de firewall (RPi4), laptop (Lenovo P50) en de interne server (RPi 3) om eens te kijken wat ik intern haal (is de RPi de bottleneck)
De RPi4 naar laptop haalt ± 850 Mbps

[  5]   0.00-1.00   sec   103 MBytes   866 Mbits/sec    0    382 KBytes       
[  5]   1.00-2.00   sec   101 MBytes   843 Mbits/sec    0    382 KBytes       
[  5]   2.00-3.00   sec  99.3 MBytes   833 Mbits/sec    0    382 KBytes       
[  5]   3.00-4.00   sec   102 MBytes   855 Mbits/sec    0    382 KBytes       
[  5]   4.00-5.00   sec   101 MBytes   843 Mbits/sec    0    382 KBytes       
[  5]   5.00-6.00   sec   101 MBytes   845 Mbits/sec    0    382 KBytes       
[  5]   6.00-7.00   sec   102 MBytes   854 Mbits/sec    0    382 KBytes       
[  5]   7.00-8.00   sec   100 MBytes   842 Mbits/sec    0    382 KBytes       
[  5]   8.00-9.00   sec  98.5 MBytes   827 Mbits/sec    0    414 KBytes       
[  5]   9.00-10.00  sec  99.8 MBytes   837 Mbits/sec    0    414 KBytes       
- - - - - - - - - - - - - - - - - - - - - - - - -
[ ID] Interval           Transfer     Bitrate         Retr
[  5]   0.00-10.00  sec  1007 MBytes   844 Mbits/sec    0             sender
[  5]   0.00-10.00  sec  1004 MBytes   842 Mbits/sec                  receiver

naar de RPi3 560 Mbps. (ja de RPi4 on-board interface is een verbetering)

[ ID] Interval           Transfer     Bitrate         Retr  Cwnd
[  5]   0.00-1.00   sec  75.0 MBytes   629 Mbits/sec    0    428 KBytes       
[  5]   1.00-2.00   sec  68.0 MBytes   570 Mbits/sec    0    447 KBytes       
[  5]   2.00-3.00   sec  65.7 MBytes   550 Mbits/sec   58    334 KBytes       
[  5]   3.00-4.00   sec  66.0 MBytes   554 Mbits/sec    0    375 KBytes       
[  5]   4.00-5.00   sec  66.6 MBytes   559 Mbits/sec    0    375 KBytes       
[  5]   5.00-6.00   sec  67.7 MBytes   568 Mbits/sec    0    375 KBytes       
[  5]   6.00-7.00   sec  66.9 MBytes   561 Mbits/sec    0    491 KBytes       
[  5]   7.00-8.00   sec  65.1 MBytes   546 Mbits/sec   77    342 KBytes       
[  5]   8.00-9.00   sec  67.4 MBytes   566 Mbits/sec    0    342 KBytes       
[  5]   9.00-10.00  sec  66.6 MBytes   559 Mbits/sec    0    410 KBytes       
- - - - - - - - - - - - - - - - - - - - - - - - -
[ ID] Interval           Transfer     Bitrate         Retr
[  5]   0.00-10.00  sec   675 MBytes   566 Mbits/sec  135             sender
[  5]   0.00-10.00  sec   672 MBytes   564 Mbits/sec                  receiver

Ok, de 2 zakelijke VMs bij Hetznet (nurenberg en helsinki) ook voorzien van iperf3 en tot mijn verbazing, tussen de 520 Mbps (ipv4 helsinki)

[ ID] Interval           Transfer     Bitrate         Retr  Cwnd
[  5]   0.00-1.00   sec  60.5 MBytes   506 Mbits/sec    0   3.73 MBytes       
[  5]   1.00-2.02   sec  55.0 MBytes   452 Mbits/sec    0   3.73 MBytes       
[  5]   2.02-3.00   sec  47.5 MBytes   407 Mbits/sec    0   3.73 MBytes       
[  5]   3.00-4.00   sec  48.8 MBytes   409 Mbits/sec    0   3.73 MBytes       
[  5]   4.00-5.01   sec  50.0 MBytes   417 Mbits/sec    0   3.73 MBytes       
[  5]   5.01-6.00   sec  68.8 MBytes   581 Mbits/sec    0   3.73 MBytes       
[  5]   6.00-7.02   sec  73.8 MBytes   609 Mbits/sec    0   3.73 MBytes       
[  5]   7.02-8.00   sec  71.2 MBytes   607 Mbits/sec    0   3.73 MBytes       
[  5]   8.00-9.00   sec  72.5 MBytes   608 Mbits/sec    0   3.73 MBytes       
[  5]   9.00-10.00  sec  72.5 MBytes   606 Mbits/sec    0   3.73 MBytes       
- - - - - - - - - - - - - - - - - - - - - - - - -
[ ID] Interval           Transfer     Bitrate         Retr
[  5]   0.00-10.00  sec   620 MBytes   520 Mbits/sec    0             sender
[  5]   0.00-10.03  sec   620 MBytes   519 Mbits/sec                  receiver

en 602 Mbps (ipv6)

[ ID] Interval           Transfer     Bitrate         Retr  Cwnd
[  5]   0.00-1.01   sec  64.6 MBytes   535 Mbits/sec    0   1.38 MBytes       
[  5]   1.01-2.01   sec  73.8 MBytes   618 Mbits/sec    0   1.54 MBytes       
[  5]   2.01-3.01   sec  72.5 MBytes   613 Mbits/sec    0   1.67 MBytes       
[  5]   3.01-4.00   sec  72.5 MBytes   610 Mbits/sec    0   1.75 MBytes       
[  5]   4.00-5.02   sec  73.8 MBytes   610 Mbits/sec    0   1.75 MBytes       
[  5]   5.02-6.01   sec  72.5 MBytes   611 Mbits/sec    0   1.89 MBytes       
[  5]   6.01-7.02   sec  72.5 MBytes   606 Mbits/sec    0   1.89 MBytes       
[  5]   7.02-8.00   sec  71.2 MBytes   607 Mbits/sec    0   2.03 MBytes       
[  5]   8.00-9.00   sec  72.5 MBytes   608 Mbits/sec    0   2.03 MBytes       
[  5]   9.00-10.01  sec  72.5 MBytes   605 Mbits/sec    0   2.03 MBytes       
- - - - - - - - - - - - - - - - - - - - - - - - -
[ ID] Interval           Transfer     Bitrate         Retr
[  5]   0.00-10.01  sec   718 MBytes   602 Mbits/sec    0             sender
[  5]   0.00-10.02  sec   718 MBytes   602 Mbits/sec                  receiver

Vanaf de laptop door de RPi4 kom ik niet boven de 330 Mbps uit

[ ID] Interval           Transfer     Bitrate         Retr  Cwnd
[  5]   0.00-1.00   sec  40.5 MBytes   340 Mbits/sec   93    954 KBytes       
[  5]   1.00-2.00   sec  40.0 MBytes   336 Mbits/sec   26    731 KBytes       
[  5]   2.00-3.00   sec  38.8 MBytes   325 Mbits/sec    0    778 KBytes       
[  5]   3.00-4.00   sec  38.8 MBytes   325 Mbits/sec    0    810 KBytes       
[  5]   4.00-5.00   sec  38.8 MBytes   325 Mbits/sec    0    828 KBytes       
[  5]   5.00-6.00   sec  40.0 MBytes   336 Mbits/sec   20    645 KBytes       
[  5]   6.00-7.00   sec  38.8 MBytes   325 Mbits/sec    0    718 KBytes       
[  5]   7.00-8.00   sec  40.0 MBytes   336 Mbits/sec    0    770 KBytes       
[  5]   8.00-9.00   sec  37.5 MBytes   315 Mbits/sec    2    806 KBytes       
[  5]   9.00-10.00  sec  40.0 MBytes   336 Mbits/sec    0    842 KBytes       
- - - - - - - - - - - - - - - - - - - - - - - - -
[ ID] Interval           Transfer     Bitrate         Retr
[  5]   0.00-10.00  sec   393 MBytes   330 Mbits/sec  141             sender
[  5]   0.00-10.02  sec   390 MBytes   327 Mbits/sec                  receiver

Nu ik weet wat voor hit je krijgt met een USB nic t.o.v. on board (de RPi 4 heeft voor intern de on-board, extern een USB nic) vind ik het niet raar meer.

Vrij vertaald, na enkele correcties na de tests met de FB en een andere test wijze (iperf3 naar een ‘known quiet’ host hebben de juiste waarden boven water gekregen. Iets zegt me dat ik nu uitgaand vanaf de RPi eindelijk de juiste waarden boven water heb. Alle verschillen zijn logisch verklaarbaar.

Het enige wat ik nog niet snap is waarom de snelheid bij ookla zo ineen dook met een apparaat direct connected aan de ONU/via de FB, maar dat deed ie bij zowel de RPi als de FB (met onjuist profiel… apart dat de FB dan toch werkt). Ik beschouw dat maar als issue bij Ookla.

Ik denk, solved.

MTU en MRU op 1492, MTU van vlan6 en wan interface op 1500, geen MSS clamping en testen met een target ‘buiten’ dat je volledig onder controle hebt.

Nu wachten totdat Fibercrew 1500 (pppoe) - 1508 (vlan6) ondersteund.

Hoewel je natuurlijk prima snelheden haalt om te internetten, lijkt het me nog steeds niet zoals het zou moeten zijn toch? Ter vergelijking: ik haal op mijn RPi 4 achter een FB 5590 eigenlijk altijd meer dan 900/900:

Dan gebruik je vast het on-board interface van de RPi. Mijn RPi 4 is m’n firewall en zit met on-board aan het internet netwerk en met een TP-Link UE300 USB interface aan de ONU. Ik zou dat nog even kunnen wisselen om te kijken of ik dan hogere snelheden haal. Intern haal ik over het onboard interface ook ruim 900 Mbps.

Daarnaast zijn alle tests via de website, waarvoor ik een interne laptop gebruik, door de dubbele connectie heen. Dus ongeacht welk interface ik voor wat gebruik, er zit altijd een USB interface in. Dan heb ik het liefste intern het snelle interface.

Dan zal die USB Ethernet adapter inderdaad je beperkende factor zijn. Mijn RPi draait alleen wat docker containers, doet verder niks van routing dus inderdaad alleen de onboard Ethernet adapter in gebruik.

Daar ging ik ook wel een beetje vanuit, maar de USB HUB kan meer dan de 40-200 Mbps aan dus ik na het inzakken zag. Zeker nu de on-board van de RPi4 eindelijk met een eigen chip is uitgerust ipv op de USB hub mee lift. Sustained moet die USB chip (USB3 poort) 400 Mbps aan kunnen, burst 800 Mbps, dus dat ik 600 haal is voldoende. Zeker als je bedenkt dat op de andere USB 3 poort m’n extrene SSD hangt. Verschil tussen IPv4 en IPv6 verklaar ik maar door de NAT die de RPi ook nog moet uitvoeren.

Het systeem doet naast routeren verder helemaal niets, dus dat moet eigenlijk allemaal uit geheugen kunnen.

Dit topic is 24 uur na het laatste antwoord automatisch gesloten. Nieuwe antwoorden zijn niet meer toegestaan.