Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Un QumranMX avec la licence OCNOS sort à ~15k€. Difficile de faire moins cher au port / débit. Le ven. 14 sept. 2018 à 19:50, Alexandre DERUMIER a écrit : > >>J'ai plus survolé que lu, mais ce que j'en ai retenu est que le miracle > qui fait tout à pas cher n'existe pas vraiment; si on veut 1 million de > routes et la performance, va falloir sortir le carnet de chèques ou > >>implémenter une solution d'optimisation BGP. > > Sinon, il y a turborouter de 6wind. (distro linux avec dpdk + frr), déjà > plus abordable. > ils ont porté pas mal de choses dans le dataplane (iptables, gre, ...). > > > > > > > > > - Mail original - > De: "Michel Py" > À: "aderumier" , "guillaume barrot" < > guillaume.bar...@gmail.com> > Cc: "Jérôme Nicolle" , "frnog" > Envoyé: Vendredi 14 Septembre 2018 19:41:24 > Objet: RE: [FRnOG] [TECH] BGP avec des switches "OpenNetwork" > > > Alexandre DERUMIER a écrit : > > de la doc interessante qui explique tout ca pour jericho: > > > https://xrdocs.io/cloud-scale-networking/tutorials/Understanding-ncs5500-jericho-plus-systems/ > > > https://xrdocs.io/cloud-scale-networking/tutorials/2017-08-03-understanding-ncs5500-resources-s01e02/ > > > https://xrdocs.io/cloud-scale-networking/tutorials/2017-08-07-understanding-ncs5500-resources-s01e03/ > > J'ai plus survolé que lu, mais ce que j'en ai retenu est que le miracle > qui fait tout à pas cher n'existe pas vraiment; si on veut 1 million de > routes et la performance, va falloir sortir le carnet de chèques ou > implémenter une solution d'optimisation BGP. > > Michel. > > --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
>>J'ai plus survolé que lu, mais ce que j'en ai retenu est que le miracle qui >>fait tout à pas cher n'existe pas vraiment; si on veut 1 million de routes et >>la performance, va falloir sortir le carnet de chèques ou >>implémenter une >>solution d'optimisation BGP. Sinon, il y a turborouter de 6wind. (distro linux avec dpdk + frr), déjà plus abordable. ils ont porté pas mal de choses dans le dataplane (iptables, gre, ...). - Mail original - De: "Michel Py" À: "aderumier" , "guillaume barrot" Cc: "Jérôme Nicolle" , "frnog" Envoyé: Vendredi 14 Septembre 2018 19:41:24 Objet: RE: [FRnOG] [TECH] BGP avec des switches "OpenNetwork" > Alexandre DERUMIER a écrit : > de la doc interessante qui explique tout ca pour jericho: > https://xrdocs.io/cloud-scale-networking/tutorials/Understanding-ncs5500-jericho-plus-systems/ > > https://xrdocs.io/cloud-scale-networking/tutorials/2017-08-03-understanding-ncs5500-resources-s01e02/ > > https://xrdocs.io/cloud-scale-networking/tutorials/2017-08-07-understanding-ncs5500-resources-s01e03/ > J'ai plus survolé que lu, mais ce que j'en ai retenu est que le miracle qui fait tout à pas cher n'existe pas vraiment; si on veut 1 million de routes et la performance, va falloir sortir le carnet de chèques ou implémenter une solution d'optimisation BGP. Michel. --- Liste de diffusion du FRnOG http://www.frnog.org/
RE: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
> Alexandre DERUMIER a écrit : > de la doc interessante qui explique tout ca pour jericho: > https://xrdocs.io/cloud-scale-networking/tutorials/Understanding-ncs5500-jericho-plus-systems/ > https://xrdocs.io/cloud-scale-networking/tutorials/2017-08-03-understanding-ncs5500-resources-s01e02/ > https://xrdocs.io/cloud-scale-networking/tutorials/2017-08-07-understanding-ncs5500-resources-s01e03/ J'ai plus survolé que lu, mais ce que j'en ai retenu est que le miracle qui fait tout à pas cher n'existe pas vraiment; si on veut 1 million de routes et la performance, va falloir sortir le carnet de chèques ou implémenter une solution d'optimisation BGP. Michel. --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
>>Le switch (et je parle bien d'un switch) qui tient le plus de routes à ma >>connaissance, c'est le Dell S4248FBL ou équivalent chez d'autres >>constructeurs >>https://i.dell.com/sites/doccontent/shared-content/data-sheets/en/Documents/dell-emc-networking-s4200-on-spec-sheet.pdf >>https://www.dell.com/support/home/us/en/04/product-support/product/networking-s4248fb-on/manuals >>" • Supports greater than 1 million IPv4 route entries". Voilà, on sait pas >>exactement combien. >>Mais 700k IPV4 HOST table, attention. Donc, en clair, faut le bencher en >>condition réelle avant de prendre sa décision, on peut pas s'amuser à se >>lancer là dedans avec la bite et le couteau. Arista Egalement, jusque 2millions de routes dans les derniers models, asic jericho mais c'est +- la meme chose, 700k HOST routes.(memoire LEM), et le reste en mémoire LPM. En fonction de la taille du préfix, ca va dans telle ou telle mémoire. (autour de 30K pour un arista 7280r2k) de la doc interessante qui explique tout ca pour jericho: https://xrdocs.io/cloud-scale-networking/tutorials/Understanding-ncs5500-jericho-plus-systems/ https://xrdocs.io/cloud-scale-networking/tutorials/2017-08-03-understanding-ncs5500-resources-s01e02/ https://xrdocs.io/cloud-scale-networking/tutorials/2017-08-07-understanding-ncs5500-resources-s01e03/ - Mail original - De: "guillaume barrot" À: "Michel Py" Cc: "Jérôme Nicolle" , "frnog" Envoyé: Vendredi 14 Septembre 2018 00:10:57 Objet: Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork" Le switch (et je parle bien d'un switch) qui tient le plus de routes à ma connaissance, c'est le Dell S4248FBL ou équivalent chez d'autres constructeurs https://i.dell.com/sites/doccontent/shared-content/data-sheets/en/Documents/dell-emc-networking-s4200-on-spec-sheet.pdf https://www.dell.com/support/home/us/en/04/product-support/product/networking-s4248fb-on/manuals " • Supports greater than 1 million IPv4 route entries". Voilà, on sait pas exactement combien. Mais 700k IPV4 HOST table, attention. Donc, en clair, faut le bencher en condition réelle avant de prendre sa décision, on peut pas s'amuser à se lancer là dedans avec la bite et le couteau. Attention aussi à un détail : la mémoire d'un Qumran, c'est la DDR. C'est clairement pas aussi rapide que la mémoire d'un ASIC traditionnel, même si les écarts se réduisent à chaque génération. Donc la perf à 2M de routes et les ports saturés de petits paquets, ça se teste avant d'annoncer "ouais bien sur que ça marche, c'est marqué dans la datasheet". Un ASIC de switch, c'est pensé pour du DC, donc pensé pour tenir des millions de MAC, pas de routes v4 préfixées, ou de classes de QoS hierarchiques. Donc ça fait du routage, ça fait du MPLS même, mais faut pas réver non plus on peut pas magiquement le transformer en PE. En metroethernet switch ou en routeur P, oui, à condition de bien vérifier ses besoins en terme de QoS et d'encapsulation (notamment le QinQ NSTO = Not So Transparent Obviously). Attention à l'OS aussi, et aux demons de routage. Mieux vaut partir avec un NOS payant mais avec du support, à moins de savoir (vraiment) tatilloner le kernel et débugguer l'API SAI qui permet la communication avec l'ASIC. Openswitch (en fait un Dell OS 10 en mode community) est un bon départ pour se former, mais je conseille de partir sur un vrai NOS si on veut partir en prod (OCNOS, OS10EE). Pour un PE qui tient N x millions de routes et si pas de grosses contraintes sur les ports, un bon vieux serveur des familles, un Linux DPDK-FRRisé (par une vraie boite de logiciel qui sait faire, hein, apt-get install all-and-it-magically-works ne fonctionne pas, même avec le -f qui va bien), et tu peux avoir un routeur sympa. Un slot PCIe 3.0x8 c'est line rate à 64Gbit/s donc une quad 10G dessus, ou une 2 x 25G ça passe. 1 x 100G ou 2 x 40G splittée en 8 x 10G ça passe sur un PCIe x16. Sur un serveur 2U bi CPU, ça commence à faire quelques ports. Après faut pas réver, c'est pas gratuit, et un ASR ou MX au broke (des fois même neuf) sera surement moins cher. Mais y a d'autres intérêts à tourner en soft pur. En route reflector basique (pas d'adress familly trop exotique), pas photo, un serveur à la con (récup, broke, VM) en 2 x 1G, avec FRR, le tour est joué. Le nombre de routes ne sera limité que par la RAM. Le jeu. 13 sept. 2018 à 18:35, Michel Py a écrit : > >> Philippe Bourcier a écrit : > >> Si j'étais fabricant de switchs... que je n'avais pas de gamme de > >> routeurs, mais que ca m'intéresse quand même d'attaquer ce marché par le > >> bas (petits ISPs, etc)... ce serait un truc que je creuserais, > clairement. > > > Jérôme Nicolle a écrit : > > À quoi bon s'emmerder alors que des ASIC juste un cran au dessus >
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Le switch (et je parle bien d'un switch) qui tient le plus de routes à ma connaissance, c'est le Dell S4248FBL ou équivalent chez d'autres constructeurs https://i.dell.com/sites/doccontent/shared-content/data-sheets/en/Documents/dell-emc-networking-s4200-on-spec-sheet.pdf https://www.dell.com/support/home/us/en/04/product-support/product/networking-s4248fb-on/manuals " • Supports greater than 1 million IPv4 route entries". Voilà, on sait pas exactement combien. Mais 700k IPV4 HOST table, attention. Donc, en clair, faut le bencher en condition réelle avant de prendre sa décision, on peut pas s'amuser à se lancer là dedans avec la bite et le couteau. Attention aussi à un détail : la mémoire d'un Qumran, c'est la DDR. C'est clairement pas aussi rapide que la mémoire d'un ASIC traditionnel, même si les écarts se réduisent à chaque génération. Donc la perf à 2M de routes et les ports saturés de petits paquets, ça se teste avant d'annoncer "ouais bien sur que ça marche, c'est marqué dans la datasheet". Un ASIC de switch, c'est pensé pour du DC, donc pensé pour tenir des millions de MAC, pas de routes v4 préfixées, ou de classes de QoS hierarchiques. Donc ça fait du routage, ça fait du MPLS même, mais faut pas réver non plus on peut pas magiquement le transformer en PE. En metroethernet switch ou en routeur P, oui, à condition de bien vérifier ses besoins en terme de QoS et d'encapsulation (notamment le QinQ NSTO = Not So Transparent Obviously). Attention à l'OS aussi, et aux demons de routage. Mieux vaut partir avec un NOS payant mais avec du support, à moins de savoir (vraiment) tatilloner le kernel et débugguer l'API SAI qui permet la communication avec l'ASIC. Openswitch (en fait un Dell OS 10 en mode community) est un bon départ pour se former, mais je conseille de partir sur un vrai NOS si on veut partir en prod (OCNOS, OS10EE). Pour un PE qui tient N x millions de routes et si pas de grosses contraintes sur les ports, un bon vieux serveur des familles, un Linux DPDK-FRRisé (par une vraie boite de logiciel qui sait faire, hein, apt-get install all-and-it-magically-works ne fonctionne pas, même avec le -f qui va bien), et tu peux avoir un routeur sympa. Un slot PCIe 3.0x8 c'est line rate à 64Gbit/s donc une quad 10G dessus, ou une 2 x 25G ça passe. 1 x 100G ou 2 x 40G splittée en 8 x 10G ça passe sur un PCIe x16. Sur un serveur 2U bi CPU, ça commence à faire quelques ports. Après faut pas réver, c'est pas gratuit, et un ASR ou MX au broke (des fois même neuf) sera surement moins cher. Mais y a d'autres intérêts à tourner en soft pur. En route reflector basique (pas d'adress familly trop exotique), pas photo, un serveur à la con (récup, broke, VM) en 2 x 1G, avec FRR, le tour est joué. Le nombre de routes ne sera limité que par la RAM. Le jeu. 13 sept. 2018 à 18:35, Michel Py a écrit : > >> Philippe Bourcier a écrit : > >> Si j'étais fabricant de switchs... que je n'avais pas de gamme de > >> routeurs, mais que ca m'intéresse quand même d'attaquer ce marché par le > >> bas (petits ISPs, etc)... ce serait un truc que je creuserais, > clairement. > > > Jérôme Nicolle a écrit : > > À quoi bon s'emmerder alors que des ASIC juste un cran au dessus > (Jericho ou Qumran > > avec BCM52311) peuvent largement encaisser des millions de routes ? > > Le prix ? Quelle est la différence entre un switch qui a une FIB de 8K et > un qui a une FIB de 2 millions ? > (je n'achète plus "que" 1 million, pas le temps de se retourner que çà va > déjà déborder). > > Michel. > > > --- > Liste de diffusion du FRnOG > http://www.frnog.org/ > -- Cordialement, Guillaume BARROT --- Liste de diffusion du FRnOG http://www.frnog.org/
RE: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
>> Philippe Bourcier a écrit : >> Si j'étais fabricant de switchs... que je n'avais pas de gamme de >> routeurs, mais que ca m'intéresse quand même d'attaquer ce marché par le >> bas (petits ISPs, etc)... ce serait un truc que je creuserais, clairement. > Jérôme Nicolle a écrit : > À quoi bon s'emmerder alors que des ASIC juste un cran au dessus (Jericho ou > Qumran > avec BCM52311) peuvent largement encaisser des millions de routes ? Le prix ? Quelle est la différence entre un switch qui a une FIB de 8K et un qui a une FIB de 2 millions ? (je n'achète plus "que" 1 million, pas le temps de se retourner que çà va déjà déborder). Michel. --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Philippe, Le 13/09/2018 à 11:59, Philippe Bourcier a écrit : > Si j'étais fabricant de switchs... que je n'avais pas de gamme de > routeurs, mais que ca m'intéresse quand même d'attaquer ce marché par le > bas (petits ISPs, etc)... ce serait un truc que je creuserais, clairement. À quoi bon s'emmerder alors que des ASIC juste un cran au dessus (Jericho ou Qumran avec BCM52311) peuvent largement encaisser des millions de routes ? @+ -- Jérôme Nicolle 06 19 31 27 14 --- Liste de diffusion du FRnOG http://www.frnog.org/
RE: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Re, J'avais pas percuté avant (le Stroh et l'age, hein çà aide pas) mais pourquoi que çà serait pas une fonctionnalité d'un switch L3 moderne de n'injecter dans la FIB/TCAM la petite partie de la RIB "que" les nK Topn préfixes sans l'aspect un peu usine à gaz de faire dur SIR ? Réponse con à une question con : parce ce que Junisco ne pourraient plus continuer à nous faire payer la peau des c... pour l'upgrade de TCAM. Le premier qui fait un switch "open" avec un CPU qui soit autre chose qu'un vieux Intel Atom ou un AMD anémique, dignes d'un NAS Synology d'il y a 10 ans, aura gagné... Si j'étais fabricant de switchs... que je n'avais pas de gamme de routeurs, mais que ca m'intéresse quand même d'attaquer ce marché par le bas (petits ISPs, etc)... ce serait un truc que je creuserais, clairement. Ensuite faudrait porter SIR dans un language qui soit un peu plus performant, mais bon ce n'est pas la chemin qu'on prend globalement... l'idée aujourd'hui est bien de laisser le switch switcher/router et de sortir le smart control plane, la couche SDN, en dehors sur des serveurs. Je ne sais pas pourquoi les fabricants ne comprennent pas qu'ils pourraient faire des produits plus "all-in-one" et qu'il y aurait certainement un publique pour... en tout cas je ne crois pas avoir vu un fabricant audacieux tester la chose. Cordialement, -- Philippe Bourcier web : http://sysctl.org/ blog : https://www.linkedin.com/today/author/philippebourcier --- Liste de diffusion du FRnOG http://www.frnog.org/
RE: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
>> Michel Py a écrit : >> Le use-case est intéressant; faut être de quelle taille pour que le >> travail investi à comprendre le biniou et à le déployer en prod en >> valle l'effort ? Pour 2 switch/routeur c'est clair qu'il vaut mieux >> raquer pour mettre la RIB dans la FIB, ou est le point ou çà devient >> rentable ? > Philippe Bourcier a écrit : > La différence entre essayer de faire tourner du SIR en prod et monter > un bird/FRR en full-view sur deux box blindées d'interfaces 10G (voire > 100G), qui, elles, seront connectées sur ces fameux switchs low-cost, > semble pour l'instant être en faveur de cette seconde solution. > Il faut bien dire qu'en terme de features et doc/REX c'est mieux... J'avais pas percuté avant (le Stroh et l'age, hein çà aide pas) mais pourquoi que çà serait pas une fonctionnalité d'un switch L3 moderne de n'injecter dans la FIB/TCAM la petite partie de la RIB "que" les nK Topn préfixes sans l'aspect un peu usine à gaz de faire dur SIR ? Réponse con à une question con : parce ce que Junisco ne pourraient plus continuer à nous faire payer la peau des c... pour l'upgrade de TCAM. Dites-moi que j'ai rien compris. Michel. --- Liste de diffusion du FRnOG http://www.frnog.org/
RE: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Re, Toute le réseau de prod de Spotify tourne avec ca depuis 2015 Le use-case est intéressant; faut être de quelle taille pour que le travail investi à comprendre le biniou et à le déployer en prod en valle l'effort ? Pour 2 switch/routeur c'est clair qu'il vaut mieux raquer pour mettre la RIB dans la FIB, ou est le point ou çà devient rentable ? La différence entre essayer de faire tourner du SIR en prod et monter un bird/FRR en full-view sur deux box blindées d'interfaces 10G (voire 100G), qui, elles, seront connectées sur ces fameux switchs low-cost, semble pour l'instant être en faveur de cette seconde solution. Il faut bien dire qu'en terme de features et doc/REX c'est mieux... A+, -- Philippe Bourcier web : http://sysctl.org/ blog : https://www.linkedin.com/today/author/philippebourcier --- Liste de diffusion du FRnOG http://www.frnog.org/
RE: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
> Philippe Bourcier a écrit : > On avait parlé de SIR à une table-ronde FRnOG, je crois que c'était celle sur > l'ubérisation du switch router ou sur le SDN (à ne pas confondre avec SD-WAN). > La soft est dispo sur github et est documenté ici : > https://sdn-internet-router-sir.readthedocs.io/en/latest/ Merci aussi pour le lien, pas ce soir mais intéressant. > Toute le réseau de prod de Spotify tourne avec ca depuis 2015 Le use-case est intéressant; faut être de quelle taille pour que le travail investi à comprendre le biniou et à le déployer en prod en valle l'effort ? Pour 2 switch/routeur c'est clair qu'il vaut mieux raquer pour mettre la RIB dans la FIB, ou est le point ou çà devient rentable ? > Ceci était un gentil rappel... je peux aussi sortir la sulfateuse. > ==> CELUI QUI REPOND A CE MAIL SUR LA LISTE [JOBS] (vs MISC) EST SOIT > INCONSCIENT, SOIT SUICIDAIRE. Merci d'être le Chef, Chef. D'habitude je suis pas trop mauvais à re-tagger dans MISC. J'aurais du. Ceux qui lisent cette liste depuis des années n'interprèteront pas çà comme du lèche-cul mais comme du respect. J'ai beau être le troll, c'est toi le boss et tu le fais bien. Michel. --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
On 11/09/2018 10:05, Philippe Bourcier wrote: On aura Paolo Lucente, auteur de pmacct, à la prochaine réunion FRnOG. Il nous parlera pas exactement de ce use-case, mais d'un use-case plus générique de son outil, très intéressant IMHO :) /teasing En voila une bonne nouvelle. Je serais content de enfin rencontrer IRL Paolo qui est vraiment charment online. -- Raphael Mazelier --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Bonjour, https://sdn-internet-router-sir.readthedocs.io/en/latest/use_cases/peering_switch.html Spotify utilise aussi des 7280 de chez Arista Cordialement, > Le 11 sept. 2018 à 10:05, Philippe Bourcier a écrit : > > > Bonjour, > >>> On sur-estime beaucoup le fait de recevoir une full... >>> En général on tiens 95% de son trafic sur 5% des pfx. >> >> +1 >> >> http://www.pmacct.net/dbarroso_plucente_waltzing_v0.7.pdf >> Ce qui est intéressant dans le lien de Vincent c'est de regarder la >> différence entre 1K, 5K et 15K. > > On avait parlé de SIR à une table-ronde FRnOG, je crois que c'était celle sur > l'ubérisation du switch router ou sur le SDN (à ne pas confondre avec SD-WAN). > > La soft est dispo sur github et est documenté ici : > https://sdn-internet-router-sir.readthedocs.io/en/latest/ > > Toute le réseau de prod de Spotify tourne avec ca depuis 2015 si ma mémoire > est bonne... ca fait un bon PoC, car même si c'est que du streaming audio (vs > video), ça doit quand même envoyer un peu de steak et ça a plutôt bonne > réputation en terme de dispo (vs Twitter y a quelques années, par ex.) :) > > https://sdn-internet-router-sir.readthedocs.io/en/latest/use_cases/peering_switch.html > Il donne le switch qu'ils utilisaient chez Spotify et y a toute une partie de > la doc sur l'OS du vendor en question... > > On aura Paolo Lucente, auteur de pmacct, à la prochaine réunion FRnOG. > Il nous parlera pas exactement de ce use-case, mais d'un use-case plus > générique de son outil, très intéressant IMHO :) > /teasing > > > Cordialement, > -- > Philippe Bourcier > web : http://sysctl.org/ > blog : https://www.linkedin.com/today/author/philippebourcier > > > --- > Liste de diffusion du FRnOG > http://www.frnog.org/ --- Liste de diffusion du FRnOG http://www.frnog.org/
RE: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Bonjour, On sur-estime beaucoup le fait de recevoir une full... En général on tiens 95% de son trafic sur 5% des pfx. +1 http://www.pmacct.net/dbarroso_plucente_waltzing_v0.7.pdf Ce qui est intéressant dans le lien de Vincent c'est de regarder la différence entre 1K, 5K et 15K. On avait parlé de SIR à une table-ronde FRnOG, je crois que c'était celle sur l'ubérisation du switch router ou sur le SDN (à ne pas confondre avec SD-WAN). La soft est dispo sur github et est documenté ici : https://sdn-internet-router-sir.readthedocs.io/en/latest/ Toute le réseau de prod de Spotify tourne avec ca depuis 2015 si ma mémoire est bonne... ca fait un bon PoC, car même si c'est que du streaming audio (vs video), ça doit quand même envoyer un peu de steak et ça a plutôt bonne réputation en terme de dispo (vs Twitter y a quelques années, par ex.) :) https://sdn-internet-router-sir.readthedocs.io/en/latest/use_cases/peering_switch.html Il donne le switch qu'ils utilisaient chez Spotify et y a toute une partie de la doc sur l'OS du vendor en question... On aura Paolo Lucente, auteur de pmacct, à la prochaine réunion FRnOG. Il nous parlera pas exactement de ce use-case, mais d'un use-case plus générique de son outil, très intéressant IMHO :) /teasing Cordialement, -- Philippe Bourcier web : http://sysctl.org/ blog : https://www.linkedin.com/today/author/philippebourcier --- Liste de diffusion du FRnOG http://www.frnog.org/
RE: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
> Raphael Mazelier > Les deux cas très legit : > - on est opérateur et on doit redistribuer une full > - on est faignant :) :-D > On sur-estime beaucoup le fait de recevoir une full... > En général on tiens 95% de son trafic sur 5% des pfx. +1 http://www.pmacct.net/dbarroso_plucente_waltzing_v0.7.pdf Ce qui est intéressant dans le lien de Vincent c'est de regarder la différence entre 1K, 5K et 15K. > Sinon des prefix-map, un collecteur de flow (pmacct au hasard) et quelques > scripts et hop ! C'est nettement plus élégant que de rejeter les /24 et n'accepter que /23 et plus cours quand on est à la limite de la TCAM, en effet. Michel. --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
On 10/09/2018 19:07, David Ponzone wrote: Très intéressant, merci! Ceci dit, dans le cas de David, il n’a pas précisé si son traffic était aussi localisé et restreint à un nombre limité de préfixes. Mais au pire, il peut déjà faire ça, beaucoup moins dynamiquement certes, avec une default et une route-map pour ne récupérer que les routes pertinentes des IXP. Si son HW peut accepter 128k routes, il pourra même probablement récupérer l’intégralité des routes des IXP (faudra quand même virer les gros genre HE ou Hopus). Yes. On sur-estime beaucoup le fait de recevoir une full... En général on tiens 95% de son trafic sur 5% des pfx. Les deux cas très legit : - on est opérateur et on doit redistribuer une full - on est faignant :) Sinon des prefix-map, un collecteur de flow (pmacct au hasard) et quelques scripts et hop ! -- Raphael Mazelier --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
On 10/09/2018 19:07, David Ponzone wrote: Très intéressant, merci! Ceci dit, dans le cas de David, il n’a pas précisé si son traffic était aussi localisé et restreint à un nombre limité de préfixes. Mais au pire, il peut déjà faire ça, beaucoup moins dynamiquement certes, avec une default et une route-map pour ne récupérer que les routes pertinentes des IXP. Si son HW peut accepter 128k routes, il pourra même probablement récupérer l’intégralité des routes des IXP (faudra quand même virer les gros genre HE ou Hopus). Yes. On sur-estime beaucoup le fait de recevoir une full... En général on tiens 95% de son trafic sur 5% des pfx. Les deux cas très legit : - on est opérateur et on doit redistribuer une full - on est faignant :) Sinon des prefix-map, un collecteur de flow (pmacct au hasard) et quelques scripts et hop ! -- Raphael Mazelier --- Liste de diffusion du FRnOG http://www.frnog.org/
RE: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
> Vincent Bernat a écrit : > C'est exactement dans la target. À l'aide de tes vues et des > informations exportées par Netflow, ça te sélectionne les routes à > coller en hardware sur le routeur. Voir par exemple : > http://www.pmacct.net/dbarroso_plucente_waltzing_v0.7.pdf Très intéressant, merci. TopN avec 8K c'est pas aussi pire que ce que j'aurais imaginé. Il y a un petit truc qui me chagrine quand même : il faut avoir une route par défaut; c'est pas les rares occasions ou le préfixe qui n'est pas dans le TopN va vers le mauvais transit, mais on peut plus faire de uRPF discard ou de route 0.0.0.0 null0. Michel. --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Très intéressant, merci! Ceci dit, dans le cas de David, il n’a pas précisé si son traffic était aussi localisé et restreint à un nombre limité de préfixes. Mais au pire, il peut déjà faire ça, beaucoup moins dynamiquement certes, avec une default et une route-map pour ne récupérer que les routes pertinentes des IXP. Si son HW peut accepter 128k routes, il pourra même probablement récupérer l’intégralité des routes des IXP (faudra quand même virer les gros genre HE ou Hopus). > Le 10 sept. 2018 à 18:49, Vincent Bernat a écrit : > > ❦ 10 septembre 2018 18:44 +0200, David Ponzone : > >> Un gros mot dès lundi ? :) > > C'est exactement dans la target. À l'aide de tes vues et des > informations exportées par Netflow, ça te sélectionne les routes à > coller en hardware sur le routeur. Voir par exemple : > http://www.pmacct.net/dbarroso_plucente_waltzing_v0.7.pdf > -- > Make sure special cases are truly special. >- The Elements of Programming Style (Kernighan & Plauger) --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
❦ 10 septembre 2018 18:44 +0200, David Ponzone : > Un gros mot dès lundi ? :) C'est exactement dans la target. À l'aide de tes vues et des informations exportées par Netflow, ça te sélectionne les routes à coller en hardware sur le routeur. Voir par exemple : http://www.pmacct.net/dbarroso_plucente_waltzing_v0.7.pdf -- Make sure special cases are truly special. - The Elements of Programming Style (Kernighan & Plauger) --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Un gros mot dès lundi ? :) > Le 10 sept. 2018 à 18:43, Vincent Bernat a écrit : > > ❦ 10 septembre 2018 17:58 +0200, David Ponzone : > >> Oui je suis assez d’accord. >> Si tu prends un petit modèle comme le Dell 4048-ON, tu as droit à 128K >> routes IPv4. >> Or il est quand même à environ 2k€ en refurb (sans trop chercher). >> Donc ça va être franchement plus cher de tenir 1 ou 2M routes IPv4. > > Tu associes ça à un produit SD-WAN et le tour est joué. > -- > Format a program to help the reader understand it. >- The Elements of Programming Style (Kernighan & Plauger) --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
❦ 10 septembre 2018 17:58 +0200, David Ponzone : > Oui je suis assez d’accord. > Si tu prends un petit modèle comme le Dell 4048-ON, tu as droit à 128K routes > IPv4. > Or il est quand même à environ 2k€ en refurb (sans trop chercher). > Donc ça va être franchement plus cher de tenir 1 ou 2M routes IPv4. Tu associes ça à un produit SD-WAN et le tour est joué. -- Format a program to help the reader understand it. - The Elements of Programming Style (Kernighan & Plauger) --- Liste de diffusion du FRnOG http://www.frnog.org/
RE: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
> David Touitou a écrit : > Grosse bêtise, seuls les N sont capables de router. La FIB n'est "que" 8K, tu vas jamais mettre un full-feed dans ce genre de switch. Un ASR 1002-HX çà ferait ce que tu veux mais aie aie aie faut allonger 30K. ASR 1002-X avec 3x SPA-8x1GE d'occase, 6K. Michel. --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Re- > Tout bêtement les modèles des gammes N ou S chez fs.com Grosse bêtise, seuls les N sont capables de router. La même question se pose au sujet des 4048-ON (évoqué et rejeté par David à l'instant) ou des équivalents. David --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Oui je suis assez d’accord. Si tu prends un petit modèle comme le Dell 4048-ON, tu as droit à 128K routes IPv4. Or il est quand même à environ 2k€ en refurb (sans trop chercher). Donc ça va être franchement plus cher de tenir 1 ou 2M routes IPv4. > Le 10 sept. 2018 à 17:46, Michel Py a > écrit : > >> David Touitou a écrit : >> Est-ce que ce genre de switch est envisageable en "double usage", à savoir >> "BGP et ToR" ? >> Quand je dis BGP, je pense à une paire de feeds et une paire d'IX pour jouer >> avec un /24 et/ou un /22 (et les v6). >> Quand je dis "ToR", c'est du bête "Top of Rack" avec quelques VLANs dans un >> rack en DC et des serveurs branchés dessus. >> Un espèce de "tout en un" plutôt qu'avoir des routeurs d'un côté et des >> switches de l'autre. > > C'est pas quelque chose que je ferais. Va falloir que tu trouves un modèle > qui ait suffisamment de TCAM pour prendre tes deux full feeds ET suffisamment > de ports pour brancher tous tes serveurs, çà va pas être bon marché. > Quel(s) modèle(s) est-ce que tu as regardé(s) ? > > Michel. > > > --- > Liste de diffusion du FRnOG > http://www.frnog.org/ --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Re- >> David Touitou a écrit : >> Est-ce que ce genre de switch est envisageable en "double usage", à savoir >> "BGP >> et ToR" ? >> Quand je dis BGP, je pense à une paire de feeds et une paire d'IX pour jouer >> avec un /24 et/ou un /22 (et les v6). >> Quand je dis "ToR", c'est du bête "Top of Rack" avec quelques VLANs dans un >> rack >> en DC et des serveurs branchés dessus. >> Un espèce de "tout en un" plutôt qu'avoir des routeurs d'un côté et des >> switches >> de l'autre. > > C'est pas quelque chose que je ferais. Va falloir que tu trouves un modèle qui > ait suffisamment de TCAM pour prendre tes deux full feeds ET suffisamment de > ports pour brancher tous tes serveurs, çà va pas être bon marché. C'est la partie TCAM qui me parait plus... Compliquée. Deux full feeds plus deux route-servers (c'est à ça que je pensais en évoquant les IX). > Quel(s) modèle(s) est-ce que tu as regardé(s) ? Tout bêtement les modèles des gammes N ou S chez fs.com En 32/48 ports SFP+, c'est largement suffisant pour une boulangerie (pas besoin de stack de 100G, moins de 20 serveurs). Un switch du genre revient plus cher qu'un 48 ports SFP+ refurb (pour le swich) et un Dell R4x0 avec une X520 (pour le routeur). Mais avec l'avantage (s'il y en a un) du tout-en-un-neuf. David --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
> David Touitou a écrit : > Est-ce que ce genre de switch est envisageable en "double usage", à savoir > "BGP et ToR" ? > Quand je dis BGP, je pense à une paire de feeds et une paire d'IX pour jouer > avec un /24 et/ou un /22 (et les v6). > Quand je dis "ToR", c'est du bête "Top of Rack" avec quelques VLANs dans un > rack en DC et des serveurs branchés dessus. > Un espèce de "tout en un" plutôt qu'avoir des routeurs d'un côté et des > switches de l'autre. C'est pas quelque chose que je ferais. Va falloir que tu trouves un modèle qui ait suffisamment de TCAM pour prendre tes deux full feeds ET suffisamment de ports pour brancher tous tes serveurs, çà va pas être bon marché. Quel(s) modèle(s) est-ce que tu as regardé(s) ? Michel. --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Le lun. 10 sept. 2018 à 11:01, David Touitou a écrit : > Maintenant que les chinois s'y sont mis, les prix des switches OpenNetwork > (avec ICOS, Cumulus, ONL, etc) baissent. > Et on trouve du non-chinois en refurb (Force10/Dell et autres). > Dans tous les cas, le hard c'est du Broadcom ou du Cavium, c'est donc du chinois. > Est-ce que ce genre de switch est envisageable en "double usage", à savoir > "BGP et ToR" ? > Oui, sauf si par BGP tu entends "se prend la full route, la digere et est content" > Quand je dis BGP, je pense à une paire de feeds et une paire d'IX pour > jouer avec un /24 et/ou un /22 (et les v6). > La limite est au niveau de l'ASIC, en général, c'est autour de 200k routes v4, donc trop petit pour les gros IX, et clairement pas la full route. Pour du ponctuel, petit IX, why not, mais bon ... c'est de l'ASIC orienté DC en dessous, donc youpi, tu peux faire du FC/FCoE dessus (ça te rejouit non ?), après officiellement, ça prend des routes. Je comparerai pas ça à un MX204 ou un ASR1001/9001 non plus. > Quand je dis "ToR", c'est du bête "Top of Rack" avec quelques VLANs dans > un rack en DC et des serveurs branchés dessus. > Oui. Tu peux choisir du Cumulus si tu veux faire du Linux, du Bigswitch si tu preferes une belle Gui centralisée, du Pluribus si tu veux des stats dans tous les sens ... niveau OS, c'est riche en terme de choix. > Un espèce de "tout en un" plutôt qu'avoir des routeurs d'un côté et des > switches de l'autre. > C'est juste pas la même chose, quand même. Je sais qu'on a été très mal éduqué par le C6500 qui faisait tout, mais bon ... Un Broadcom Tomahawk n'est clairement pas comparable à l'ASIC d'un routeur PE. Par contre, oui tu peux totalement swapper des routeurs P par un switch 32 x 100G avec un OS base Linux dessus (OCNOS dans ce cas). Le Linx a / est en train / va swappé(r) son ring Extreme sur une base EdgeCore + OCNOS a priori. Pas de retour d'XP, mais bon, je suis sur qu'on peut leur demander. cf : https://www.ipinfusion.com/news-events/the-london-internet-exchange-to-deploy-ip-infusions-ocnos-network-operating-system-in-new-london-interconnect-platform/ et https://www.edge-core.com/news-inquiry.php?cls=1=299 > > Merci, > David > > > --- > Liste de diffusion du FRnOG > http://www.frnog.org/ > -- Cordialement, Guillaume BARROT --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Le lun. 10 sept. 2018 à 12:27, David Ponzone a écrit : > Euh, un switch Mikrotik sous RouterOS, comme ToR, faut être joueur non ? > Ben, a priori les besoins sont pas énorme. Si c'est pour gérer une boulangerie, pourquoi pas? Mais ca doit pas etre pire qu'un switch no name chinois sur aliexpress ! Olivier > > > > Le 10 sept. 2018 à 12:25, Olivier Lange a écrit : > > > > Tu dois pouvoir le faire sur du mikrotik, non? Tu peux booter les switch > > sous routerOS, et côté tarif tu dois être proche du chinois. Aprrs, pas > > encore fait de bgp svec les mikrotik, donc je ne sais pas si ca répond a > > ton besoin. > > > > Olivier > > > > Le lun. 10 sept. 2018 à 11:01, David Touitou > a > > écrit : > > > >> 'jour les gens. > >> > >> C'est pas vendredi et la question peut paraître bizarre mais bon, quand > on > >> est un noob, hein... > >> > >> Maintenant que les chinois s'y sont mis, les prix des switches > OpenNetwork > >> (avec ICOS, Cumulus, ONL, etc) baissent. > >> Et on trouve du non-chinois en refurb (Force10/Dell et autres). > >> > >> Est-ce que ce genre de switch est envisageable en "double usage", à > savoir > >> "BGP et ToR" ? > >> C'est pour une boulangerie. > >> > >> Quand je dis BGP, je pense à une paire de feeds et une paire d'IX pour > >> jouer avec un /24 et/ou un /22 (et les v6). > >> Quand je dis "ToR", c'est du bête "Top of Rack" avec quelques VLANs dans > >> un rack en DC et des serveurs branchés dessus. > >> > >> Un espèce de "tout en un" plutôt qu'avoir des routeurs d'un côté et des > >> switches de l'autre. > >> > >> Merci, > >> David > >> > >> > >> --- > >> Liste de diffusion du FRnOG > >> http://www.frnog.org/ > >> > > > > --- > > Liste de diffusion du FRnOG > > http://www.frnog.org/ > > --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Euh, un switch Mikrotik sous RouterOS, comme ToR, faut être joueur non ? > Le 10 sept. 2018 à 12:25, Olivier Lange a écrit : > > Tu dois pouvoir le faire sur du mikrotik, non? Tu peux booter les switch > sous routerOS, et côté tarif tu dois être proche du chinois. Aprrs, pas > encore fait de bgp svec les mikrotik, donc je ne sais pas si ca répond a > ton besoin. > > Olivier > > Le lun. 10 sept. 2018 à 11:01, David Touitou a > écrit : > >> 'jour les gens. >> >> C'est pas vendredi et la question peut paraître bizarre mais bon, quand on >> est un noob, hein... >> >> Maintenant que les chinois s'y sont mis, les prix des switches OpenNetwork >> (avec ICOS, Cumulus, ONL, etc) baissent. >> Et on trouve du non-chinois en refurb (Force10/Dell et autres). >> >> Est-ce que ce genre de switch est envisageable en "double usage", à savoir >> "BGP et ToR" ? >> C'est pour une boulangerie. >> >> Quand je dis BGP, je pense à une paire de feeds et une paire d'IX pour >> jouer avec un /24 et/ou un /22 (et les v6). >> Quand je dis "ToR", c'est du bête "Top of Rack" avec quelques VLANs dans >> un rack en DC et des serveurs branchés dessus. >> >> Un espèce de "tout en un" plutôt qu'avoir des routeurs d'un côté et des >> switches de l'autre. >> >> Merci, >> David >> >> >> --- >> Liste de diffusion du FRnOG >> http://www.frnog.org/ >> > > --- > Liste de diffusion du FRnOG > http://www.frnog.org/ --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [TECH] BGP avec des switches "OpenNetwork"
Tu dois pouvoir le faire sur du mikrotik, non? Tu peux booter les switch sous routerOS, et côté tarif tu dois être proche du chinois. Aprrs, pas encore fait de bgp svec les mikrotik, donc je ne sais pas si ca répond a ton besoin. Olivier Le lun. 10 sept. 2018 à 11:01, David Touitou a écrit : > 'jour les gens. > > C'est pas vendredi et la question peut paraître bizarre mais bon, quand on > est un noob, hein... > > Maintenant que les chinois s'y sont mis, les prix des switches OpenNetwork > (avec ICOS, Cumulus, ONL, etc) baissent. > Et on trouve du non-chinois en refurb (Force10/Dell et autres). > > Est-ce que ce genre de switch est envisageable en "double usage", à savoir > "BGP et ToR" ? > C'est pour une boulangerie. > > Quand je dis BGP, je pense à une paire de feeds et une paire d'IX pour > jouer avec un /24 et/ou un /22 (et les v6). > Quand je dis "ToR", c'est du bête "Top of Rack" avec quelques VLANs dans > un rack en DC et des serveurs branchés dessus. > > Un espèce de "tout en un" plutôt qu'avoir des routeurs d'un côté et des > switches de l'autre. > > Merci, > David > > > --- > Liste de diffusion du FRnOG > http://www.frnog.org/ > --- Liste de diffusion du FRnOG http://www.frnog.org/