Monitoring une recette DevOps

  • View
    657

  • Download
    3

Embed Size (px)

Text of Monitoring une recette DevOps

  • 17 mars 2016

    Paris Monitoring Meetup

    Le Monitoring revisit

    [MONITORING-AS-A-SERVICE]

    UNE

    RECETTE DEVOPSPARTAGE PAR VOYAGES-SNCF

    Franois Nollen

    Maxence G. de Montauzan

  • RECETTE DE MONITORING DEVOPS

    Introduction

    Ingrdients

    Prparation

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • RETOUR SUR PARIS MONITORING #3

    http://fr.slideshare.net/FrancoisN0/devops-autres-tendances-monitoring

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

    http://fr.slideshare.net/FrancoisN0/devops-autres-tendances-monitoringhttp://fr.slideshare.net/FrancoisN0/devops-autres-tendances-monitoringhttp://fr.slideshare.net/FrancoisN0/devops-autres-tendances-monitoring

  • TENDANCES MONITORING

    Superviser des KPIs fonctionnels

    et mtier (en plus du technique)

    Se concentrer sur les alertes et

    lanalyse automatique des donnes

    Ouvrir la supervision aux dveloppeurs

    & monitoring as a service

    Automatiser la supervision

    & monitoring as code

    Approches top-down,

    Monitoring de Flux,

    Hypervision, etc.

    Dtection avance

    danomalies, Machine

    Learning, algorithmes,

    etc.

    DevOps, self-

    service, etc.

    Continuous Delivery,

    monitoring hors-prod

    iso-prod, etc.

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

    http://fr.slideshare.net/FrancoisN0/devops-autres-tendances-monitoringhttp://fr.slideshare.net/FrancoisN0/devops-autres-tendances-monitoring

  • FOCUS SUR UN MONITORING DEVOPS

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • FOCUS SUR UN MONITORING SELF-SERVICE

    Quels plats proposer ?

    Comment les prsenter ?

    Dans quel ordre ?

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • RECETTE DE MONITORING DEVOPS

    Introduction

    Ingrdients

    Prparation

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • DES NORMES

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

    On a commenc par le plus htrogne :

    les logs gnrs par les applications

    on a mme dcouvert quelques monstres au passage

  • DES BIBLIOTHQUES POUR

    On a ensuite dvelopp et

    donn des libs aux quipes

    pour implmenter des logs

    et mtriques normaliss

    dans leurs applications

    (Attention ne pas sous-estimer la

    charge en support et maintenance

    de ces composants)

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

    DE LINFRA ( BIG DATA AS A SERVICE )

    Parce quune infra de

    centralisation Big Data nest

    pas triviale pour un nophyte

  • DE LINFRA ( BIG DATA AS A SERVICE )

    Objectif : une infra de centralisation -la-demande

    pour pouvoir dvelopper et tester de bout en bout

    nimporte o

    sur les postes de dv,

    dans des builds dintgration

    continue, de non-rgression,

    etc

    mme sans accs rseau

    sur notre laptop de dmo

    peu performant et sous Windows !

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • DES FORMATIONS OUVERTES TOUS

    Outils et accs ne suffisent pas

    amener les dvs au monitoring

    Il faut aussi sensibiliser,

    former, accompagner

    DevOps culture + outils

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • DES SERVICES DE VALIDATION

    Pour vrifier le comportement

    des applications

    Pour validation ponctuellement ou automatiquement :

    Script, CRON, Jenkins, Rundeck, etc.

    Pour auditer/surveiller des

    plateformes

    Etc.

    Pour tester en non-rgression les

    libs gnrant des logs normaliss

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • DAUTRES SERVICES, COMME LANONYMISATION

    Bien couter les besoins des quipes,

    mme ce qui peut paratre la marge

    des problmes de monitoring

    in fine ce qui contribue ladoption des

    services de supervision fait avancer le

    monitoring DevOps en gnral

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • DES SOLUTIONS DE DPLOIEMENT

    Dployer automatiquement les outils

    de supervision (dashboards Kibana /

    Grafana, alertes Seyren, etc.)

    Pouvoir les livrer/dployer

    avec les applications

    Monitoring

    as code !

    Rduire ainsi les

    diffrences doutillage

    entre les plateformes

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • DES TABLEAUX DE BORD (POUR TOUS LES BUDGETS)

    Les formations rendent les dveloppeurs

    autonomes pour crer leurs dashboards

    pour les autres ou ceux qui

    nont pas le temps, il faut des

    modles dployables et

    utilisables tout de suite

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • CEST LHEURE DE LA DMO !

    1) Activation de logs et

    mtriques (JMX, Graphite)

    normaliss en mettant des

    annotations sur des

    services REST en Java

    2) Dmarrage dune

    infra de centralisation

    locale (sous Docker) 3) Run de lappli et

    visualisation des

    logs/mtriques

    gnres dans Hadoop,

    Kibana et Grafana

    4) Gnration dun

    dashboard Grafana

    partir dune config

    JSON dans les

    sources de lappli

    5) Dploiement

    automatis du

    dashboard sur

    Grafana

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • RECETTE DE MONITORING DEVOPS

    Introduction

    Ingrdients la suite !

    Prparation

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • TOUJOURS PLUS DE TABLEAUX DE BORD!

    Par plateforme, par application,

    par client, par service, etc.

    Pour diffrents cas dutilisation :

    monitoring, investigation, rapports

    hebdo/mensuels, affichage TV

    Pour diffrents outils (Kibana,

    Grafana) ou des rendus personnaliss

    (Angular, Bootstrap, D3.js, etc.)

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • DES SERVICES DALERTES & DE NOTIFICATIONS

    Les quipes demandent surtout des dashboards

    Mais il ne faut pas sarrter l - on sait quil est crucial

    de dvelopper lanalyse automatique et lalerting

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • DES SERVICES DALERTES & DE NOTIFICATIONS

    Par exemple, un service dabonnement des notifications email

    ou IRC, ouvert tous, o chacun choisit ses indicateurs et ses

    propres seuils (sans interfrer avec la supervision des Ops)

    Par exemple, de nouveaux types dalertes pour les Ops,

    intgrant des indicateurs fonctionnels ou mtier

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • DES ALTERNATIVES

    Puisquon ne propose pas une solution

    monolithique et que les quipes ont le choix

    Pour ceux qui nutilisent pas toutes les briques,

    de quoi se raccrocher au reste de la solution :

    ponts, connecteurs, alternatives, etc.

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • DE LA CARTOGRAPHIE (AUTOMATIQUE!)

    (La cartographie : tout le monde en veut

    mais personne ne veut la faire)

    Le dploiement automatis a probablement un rle jouer (hooks carto dynamique)

    Gagnant-gagnant : dcris-moi ton appli et ses outils de supervision

    (dashboards, alertes, etc.), je les dploierai et la carto sera jour

    Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

  • Franois Nollen :: Maxence G. de Montauzan

    Paris Monitoring Meetup :: 17 mars 2016 :: Le Monitoring revisit

    TOUJOURS PLUS DINDICATEURS, DE LANGAGES

    Plus ils en ont, plus ils en veulent !( considrer comme un indicateur de succs !)

    Libs : Et pour mon appli PHP,

    Python, Nodejs ? Mtriques : A quand mes KPIs Omniture dans le

    rapport hebdo Grafana ? Le nombre de JIRAs ouverts par la

    Relation-Client dans mon dashboard de monitoring ? etc.

  • DE LANALYSE AVANCE (MACHINE LEARNING)

    Meilleure dtection danomalies

    Moins de faux positifs

    Signaux faibles

    Etc. Peu de solutions ouvertes et

    exploitables

    "at scale" ?

    crer une plateforme

    ML opensource et

    gnrique

    crer un consortium avec

    des partenaires industriels et

    acadmiques

    Fran