Re: [FRnOG] [TECH] Collecteur de logs réseau

2018-11-18 Par sujet Kirth Gersen
 +1 pour ne pas confondre 'time series" (TSDB) fait pour accumuler des metrics 
(compteurs,etc) genre utilisation cpu ou température avec l'indexation et le 
stockage de logs (document database).

Sinon pour convertir des logs en metrics, il y a mtail  ( 
https://github.com/google/mtail ) ou grok-exporter ( 
https://github.com/fstab/grok_exporter )

mtail est particulièrement simple et efficace, on peut matcher la chaine 'Port 
x disconnected' par exemple pour extraire le 'x' et en faire un metric.

On Mon, Nov 19, 2018 at 2:39 AM DUVERGIER Claude 
mailto:frnog...@claude.duvergier.fr>> wrote:
Je m'incruste...

> Comme je disais il ne faut pas. Il faudrait plutôt commencer par
> transformer tes logs/déclencheurs en métriques. Après tout devient
> plus clair.

Je suis assez d'accord avec cette idée mais il n'est pas toujours aisé
de transformer un message d'événement :
* "Port x disconnected"
* "User x logged-in"
* etc.

En métrique :
* "port_x_connected=false"
* "port_x_disconnection_count=42"
* "user_x_logged=true"
* "user_x_login_count=666"

Soit parce qu'on a pas le contrôle sur le générateur de l'événement
(équipement fermé) soit parce qu'on pense que ça n'est pas à
l'application instrumenté de se souvenir des événements -nombre
d'authentification- pour les transformer en métriques).

Donc je me demande si vous n'auriez pas 2/3 suggestions de solution
(logiques ou logicielles) à ce "problème"...

--
Duvergier Claude

Le 18/11/2018 à 17:41, Raphael Mazelier a écrit :
>
>>
>> Pas d'accord. ES est tellement plus gourmand, en stockage, IO et CPU,
>> par rapport à une time-series basique, que c'est totalement
>> disproportionné.
>
> Désolé mon petit José mais je crois qu'on confond un peu tout la ;)
>
> ES et une TSDB ce sont bien évidement deux type d'outils complètement
> différends qui sont parfois employé/dévoyé de leur fonction originale.
>
>
> En très gros résumé :
>
> - on stocke des métriques dans un tsdb et on fait des graphs et de
> l'alerting avec. Prometheux/Influxdb sont les candidats du moment.
>
> - on on stocke des documents indexés dans ES, parfait pour stocker des
> logs structurés et faire des queries dedans.
>
> Ce qui embrouille tout c'est que l'on essaye de faire des graphs et de
> l'alerting avec des logs, ce qui est théoriquement assez faux.
>
>>
>> C'est pratique à mettre en place et exploitable à petite échelle, mais
>> à mon avis pas satisfaisant dès que tu as une vraie prod. Et je suis
>> vraiment preneur d'avis dessus, vu que je vais devoir y bosser à
>> nouveau prochainement.
>
> ES est le truc le plus scalable du monde. Je connais des petites société
> smart qui exploitent sereinement des clusters de plusieurs Peta.
>
>>
>> Reste à assurer la corrélation d’évènements, et le déclenchement
>> d'alertes sur certains combos, mais là on rentre dans du compliqué.
>> Tendance obligatoirement du code custom. Sauf si vous avez trouvé
>> autre chose ?
>
> Comme je disais il ne faut pas. Il faudrait plutôt commencer par
> transformer tes logs/déclencheurs en métriques. Après tout devient plus
> clair.
>
> Cdt,
>
> --
> Raphael Mazelier
>
>
>
> ---
> Liste de diffusion du FRnOG
> http://www.frnog.org/
>


---
Liste de diffusion du FRnOG
http://www.frnog.org/

---
Liste de diffusion du FRnOG
http://www.frnog.org/


RE: [FRnOG] [TECH] Ordinateur refroidi au Stroh

2018-11-18 Par sujet Michel Py
> Pierre Emeriaud a écrit :
> pfff, truc de petits joueurs ça. Balance ta chaleur dans ta dalle de béton, 
> c'est plus efficace :

Ah ouai ouai, en Sibérie c'est le nec plus ultra du overclocking. Pas besoin de 
clim dans ton datacenter, t'às qu'à ouvrir la fenêtre.


> Jérôme Nicolle a écrit :
> Bon, comme tu as parlé de glycol, on est obligé de parler de watercooling - 
> au moins dans les grandes
> lignes. Et tu vas être déçu, passer sous la température ambiante impose de 
> sales bricolages.

Exactement l'inverse de ce que je voulais lire, mais bon je m'y attendais aussi.


> Sur tous mes montages en refroidissement liquide j'ai utilisé du 3M Fluorinet

Un très bon produit avec une longue histoire : c'est le successeur de ce qui 
était utilisé dans la série des Cray, on peut tremper la carte mère dedans pour 
refroidir.
C'est pas bon marché, ceci dit. Très bon produit, mais cher. Le glycol 
antifreeze que tu mets dans ta bagnole, à condition de pas immerger le biniou 
dedans, c'est nettement plus accessible.

Michel.


---
Liste de diffusion du FRnOG
http://www.frnog.org/


Re: [FRnOG] [TECH] Collecteur de logs réseau

2018-11-18 Par sujet DUVERGIER Claude
Je m'incruste...

> Comme je disais il ne faut pas. Il faudrait plutôt commencer par
> transformer tes logs/déclencheurs en métriques. Après tout devient
> plus clair.

Je suis assez d'accord avec cette idée mais il n'est pas toujours aisé
de transformer un message d'événement :
* "Port x disconnected"
* "User x logged-in"
* etc.

En métrique :
* "port_x_connected=false"
* "port_x_disconnection_count=42"
* "user_x_logged=true"
* "user_x_login_count=666"

Soit parce qu'on a pas le contrôle sur le générateur de l'événement
(équipement fermé) soit parce qu'on pense que ça n'est pas à
l'application instrumenté de se souvenir des événements -nombre
d'authentification- pour les transformer en métriques).

Donc je me demande si vous n'auriez pas 2/3 suggestions de solution
(logiques ou logicielles) à ce "problème"...

-- 
Duvergier Claude

Le 18/11/2018 à 17:41, Raphael Mazelier a écrit :
> 
>>
>> Pas d'accord. ES est tellement plus gourmand, en stockage, IO et CPU,
>> par rapport à une time-series basique, que c'est totalement
>> disproportionné.
> 
> Désolé mon petit José mais je crois qu'on confond un peu tout la ;)
> 
> ES et une TSDB ce sont bien évidement deux type d'outils complètement
> différends qui sont parfois employé/dévoyé de leur fonction originale.
> 
> 
> En très gros résumé :
> 
> - on stocke des métriques dans un tsdb et on fait des graphs et de
> l'alerting avec. Prometheux/Influxdb sont les candidats du moment.
> 
> - on on stocke des documents indexés dans ES, parfait pour stocker des
> logs structurés et faire des queries dedans.
> 
> Ce qui embrouille tout c'est que l'on essaye de faire des graphs et de
> l'alerting avec des logs, ce qui est théoriquement assez faux.
> 
>>
>> C'est pratique à mettre en place et exploitable à petite échelle, mais
>> à mon avis pas satisfaisant dès que tu as une vraie prod. Et je suis
>> vraiment preneur d'avis dessus, vu que je vais devoir y bosser à
>> nouveau prochainement.
> 
> ES est le truc le plus scalable du monde. Je connais des petites société
> smart qui exploitent sereinement des clusters de plusieurs Peta.
> 
>>
>> Reste à assurer la corrélation d’évènements, et le déclenchement
>> d'alertes sur certains combos, mais là on rentre dans du compliqué.
>> Tendance obligatoirement du code custom. Sauf si vous avez trouvé
>> autre chose ?
> 
> Comme je disais il ne faut pas. Il faudrait plutôt commencer par
> transformer tes logs/déclencheurs en métriques. Après tout devient plus
> clair.
> 
> Cdt,
> 
> -- 
> Raphael Mazelier
> 
> 
> 
> ---
> Liste de diffusion du FRnOG
> http://www.frnog.org/
> 


---
Liste de diffusion du FRnOG
http://www.frnog.org/


Re: [FRnOG] [TECH] Collecteur de logs réseau

2018-11-18 Par sujet Raphael Mazelier





Pas d'accord. ES est tellement plus gourmand, en stockage, IO et CPU, 
par rapport à une time-series basique, que c'est totalement 
disproportionné.


Désolé mon petit José mais je crois qu'on confond un peu tout la ;)

ES et une TSDB ce sont bien évidement deux type d'outils complètement 
différends qui sont parfois employé/dévoyé de leur fonction originale.



En très gros résumé :

- on stocke des métriques dans un tsdb et on fait des graphs et de 
l'alerting avec. Prometheux/Influxdb sont les candidats du moment.


- on on stocke des documents indexés dans ES, parfait pour stocker des 
logs structurés et faire des queries dedans.


Ce qui embrouille tout c'est que l'on essaye de faire des graphs et de 
l'alerting avec des logs, ce qui est théoriquement assez faux.




C'est pratique à mettre en place et exploitable à petite échelle, mais à 
mon avis pas satisfaisant dès que tu as une vraie prod. Et je suis 
vraiment preneur d'avis dessus, vu que je vais devoir y bosser à nouveau 
prochainement.


ES est le truc le plus scalable du monde. Je connais des petites société 
smart qui exploitent sereinement des clusters de plusieurs Peta.




Reste à assurer la corrélation d’évènements, et le déclenchement 
d'alertes sur certains combos, mais là on rentre dans du compliqué. 
Tendance obligatoirement du code custom. Sauf si vous avez trouvé autre 
chose ?


Comme je disais il ne faut pas. Il faudrait plutôt commencer par 
transformer tes logs/déclencheurs en métriques. Après tout devient plus 
clair.


Cdt,

--
Raphael Mazelier



---
Liste de diffusion du FRnOG
http://www.frnog.org/


RE: [FRnOG] [MISC] Panne SFR nationale ??

2018-11-18 Par sujet Xavier ROCA
Merci Jérôme pour ce retour


-Message d'origine-
De : Jérôme Nicolle  
Envoyé : dimanche 18 novembre 2018 04:42
À : frnog@frnog.org
Objet : Re: [FRnOG] [MISC] Panne SFR nationale ??

Xavier,

Globalement leur réponse paraît correcte et proportionnée.

Il y a eu un double incident affectant 1-4% de la SIG voix, et 1-3% des accès 
fixes, de ce que j'ai pu voir. Et c'est remonté progressivement dans la 
journée, tendance presque conforme aux SLA contractuels.

Franchement rien à redire sur ce coup là, sauf potentiellement quelques cas 
résiduels…

@+

Le 15/11/2018 à 18:05, Xavier ROCA a écrit :
> Salut Alain,
> 
> Les deux selon leur communication que voici :
> 
> [Suivi de l'Incident Générique]
> Nous avons rencontré un Incident Générique sur tout la France impactant les 
> services Data Fixe, Voix Fixe depuis le 15/11/2018 01:30. Nos équipes se sont 
> immédiatement mobilisés en conf de crise pour remonter l'ensemble des 
> services.
> Les services voix sont remontés progressivement entre 8h40, pour un 
> rétablissement complet avant 10h.
> Nous avons appliqué la solution mis en place avec le constructeur pour 
> résoudre l'incident majeur ce qui a permis de réduire considérablement 
> l'impact en début d'après-midi. Le reste de l'impact a nécessité une 
> intervention sur site et nous constatons le retour progressif des sites 
> restants. Le rétablissement définitif devrait avoir lieux avant 18h.
> Prochain point de situation à 18h00
> Nous vous assurons de notre engagement afin de rétablir les services le plus 
> rapidement possible.
> Cdt,
> [STC 2*8 SFR Business]
> 
> 
> 
> 
> 
> -Message d'origine-
> De : Alain Bieuzent  Envoyé : jeudi 15 
> novembre 2018 17:46 À : Xavier ROCA ; 'frnog-misc' 
>  Objet : Re: [FRnOG] [MISC] Panne SFR nationale 
> ??
> 
> Salut Xavier,
> 
> Panne voix ou data ?
> 
> A+
> 
> On 15/11/2018 17:43, "[NAME]" <[ADDRESS]> wrote:
> 
>  Bonjour,
>  
>   
>  
>  Etant en copie du suivi d’incident (STC) pour certains clients en contrat
>  avec SFR, je vois passer des mails depuis ce matin sur une panne qui 
> selon
>  SFR est nationale.
>  
>  Apparemment depuis 01h30 ce jour et pas complétement résolue, prochain 
> point
>  vers 18h00
>  
>   
>  
>  Ce qui m’étonne c’est le silence sur ce sujet ici, la liste serait 
> devenue
>  très sage ?
>  
>  Certains confirment ou c’est juste un gros prétexte sortie à un de leur 
> très
>  gros client ?
>  
>   
>  
>  Xavier
>  
>  
>  ---
>  Liste de diffusion du FRnOG
>  http://www.frnog.org/
>  
> 
> 
> 
> 
> 
> ---
> Liste de diffusion du FRnOG
> http://www.frnog.org/
> 

--
Jérôme Nicolle
+33 6 19 31 27 14


---
Liste de diffusion du FRnOG
http://www.frnog.org/



---
Liste de diffusion du FRnOG
http://www.frnog.org/


Re: [FRnOG] [TECH] Ordinateur refroidi au Stroh

2018-11-18 Par sujet Pierre Emeriaud
Le dim. 18 nov. 2018 à 05:07, Jérôme Nicolle  a écrit :
>
> Sur l'échangeur, le mythe veut qu'on recycle des radiateurs d'Opel
> Corsa, mais c'est clairement pas le plus pratique. Je préfère mettre
> plusieurs petits radiateurs commerciaux d'overclocker en parallèle
> (genre du 120x120 à 120x360), ils sont globalement mieux finis et ça pue
> pas l'huile cramée.

pfff, truc de petits joueurs ça. Balance ta chaleur dans ta dalle de
béton, c'est plus efficace :
https://forums.overclockers.com.au/threads/concrete-slab-water-cooler-loop-hooked-up.800958/

Sinon y'a toujours la solution géothermie :
https://mcuoneclipse.com/2013/07/13/hacking-the-heating-system-for-cooling-geothermal-drilling-with-extra-benefits/


---
Liste de diffusion du FRnOG
http://www.frnog.org/