14
Groupe de travail calcul à l’OMP – 24 mai 2019 1 Calcul au Laboratoire d’Aérologie Jean-Pierre Chaboureau, physicien à l’OMP Philippe Wautelet, ingénieur de recherche du CNRS

Calcul au Laboratoire d’Aérologie · validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel valorisation avec calcul rétro

  • Upload
    others

  • View
    0

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Calcul au Laboratoire d’Aérologie · validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel valorisation avec calcul rétro

Groupe de travail calcul à l’OMP – 24 mai 2019 1

Calcul au Laboratoire d’Aérologie

Jean-Pierre Chaboureau, physicien à l’OMP Philippe Wautelet, ingénieur de recherche du CNRS

Page 2: Calcul au Laboratoire d’Aérologie · validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel valorisation avec calcul rétro

2

Activités scientifiques au LA

Trois axes d’activité

• atmosphère météorologique : dynamique, thermodynamique, physique des nuages, électricité, couplage océan-atmosphère

• physico-chimie : troposphère et basse stratosphère

• océanographie côtière : hydrodynamique et biogéochimie, analyse et développement numériques

Groupe de travail calcul à l’OMP – 24 mai 2019

Page 3: Calcul au Laboratoire d’Aérologie · validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel valorisation avec calcul rétro

3

Activités scientifiques au LA Des spécificités

• 3 services nationaux d’observation INSU • IAGOS, In service Aircraft for a Global Observation System

• INDAAF, International Network to study Deposition and Atmospheric

chemistry in AFrica

• P2OA, Plate-forme Pyrénéenne d’Observation Atmosphérique

• 3 codes communautaires label et GdR INSU • Méso-NH, modélisation à moyenne échelle de l’atmosphère

• SIROCCO (logiciel SYMPHONIE), Simulation Réaliste de l’OCéan CÔtier

• CROCO, Coastal and Regional Ocean COmmunity model

• Forte implication dans les campagnes de mesure, e.g. • Chantier Méditerranée : HyMeX, MERMEX, ChArMEx (2010-20),

EXAEDRE (2018)… • DACCIWA (2016) en Afrique de l’Ouest • BIO-MAÏDO (2019) sur l’ île de la Réunion

Groupe de travail calcul à l’OMP – 24 mai 2019

Page 4: Calcul au Laboratoire d’Aérologie · validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel valorisation avec calcul rétro

4

Traitement de données au LA

Campagnes de mesure, e.g. Données radar HyMeX → analyses vent

traitement temps réel avec cadencement de tâche slurm Observations avions SNO/IR/ERI IAGOS

validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel

valorisation avec calcul rétro trajectoires (FLEXPART et SOFT-IO)

Inversion données spatiales IASI : restitutions CO et O3 depuis 2008 avec SOFRID KOPRA : développement nouveaux capteurs qualité air

Utilisation de la plate-forme du LA pour archivage données, calcul associé en temps réel, réglage et assistance réactive

Production sur machines parallèles centre tier-1 (KOPRA)

Groupe de travail calcul à l’OMP – 24 mai 2019

Page 5: Calcul au Laboratoire d’Aérologie · validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel valorisation avec calcul rétro

5

Calcul numérique au LA Méso-NH – label INSU code communautaire – MPI

Dynamique de l’atmosphère, nuages, chimie, électricité, couplage

océan-vagues, 10-200 variables

Symphonie – label INSU code communautaire – MPI (et

modèles couplés Eco3M-S, MUSTANG) Littoral/côtier/régional, hydrodynamique, biogéochimie, transport

sédimentaire, 8-40 variables

CROCO – GdR INSU code communautaire – MPI / OpenMP /

OpenACC Régional/côtier/littoral/LES/DNS, dynamique océan NH & NBQ, 8-

40 variables

Développement numérique communautaire : INRIA, IFREMER,

SHOM, IRD, CNRS, UPS : schémas numériques, calcul haute-

performance…

Couplages : biogéochimie (PISCES), transport sédimentaire

(MUSTANG), downscaling multi-résolutions (AGRIF), atmosphère

(Méso-NH…)

Groupe de travail calcul à l’OMP – 24 mai 2019

Page 6: Calcul au Laboratoire d’Aérologie · validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel valorisation avec calcul rétro

6

Calcul numérique au LA

RegCM (Regional Climate Model) - MPI

régional, aérosols, émissions biogéochimiques, dépôts, impact radiatif, santé, couplé avec modèle de surface CLM

GEOS-Chem - OpenMP

global, aérosols, chimie

Groupe de travail calcul à l’OMP – 24 mai 2019

Page 7: Calcul au Laboratoire d’Aérologie · validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel valorisation avec calcul rétro

7

Intelligence Artificielle au LA

Prévision de la brume/pollution par les aérosols en Asie

Prévision des événements électriques intenses en Corse

Utilisation de la plate-forme du LA (nœuds avec GPU) pour

débogage, réglages numériques et physiques

Production sur machine parallèle avec GPU de CALMIP (150.000 h/an)

Groupe de travail calcul à l’OMP – 24 mai 2019

Page 8: Calcul au Laboratoire d’Aérologie · validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel valorisation avec calcul rétro

8

Utilisation dédiée campagnes au LA

Méso-NH – aide aux campagnes HyMeX, CHUVA, AEROCLO-sA

Symphonie – aide aux campagnes

HyMeX, MERMeX et prévisions Fukushima suite à l’accident de la centrale

Groupe de travail calcul à l’OMP – 24 mai 2019

CROCO – conception et aide aux campagnes en mer

(Gibraltar 2020…) Gradient SSA

Page 9: Calcul au Laboratoire d’Aérologie · validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel valorisation avec calcul rétro

9

Utilisation plateformes calcul au LA

Utilisation de la plate-forme Nuwa du LA pour développement : schémas numérique, nouveaux

algorithmes, tests performances numériques, tests d’extensibilité (parallélisme)…,

débogage, réglages numériques (tests de performance , préparation à

mise en production) et physiques (sensibilité émissions), veille technologique nouveaux matériels (GPU…) réservation pour campagnes de mesure traitement monoprocesseur sur grosse mémoire traitement de données en concurrence visualisation

Production sur machines parallèles centres tier-2, -1, -0

Groupe de travail calcul à l’OMP – 24 mai 2019

Page 10: Calcul au Laboratoire d’Aérologie · validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel valorisation avec calcul rétro

10

Utilisation calcul actuelle du LA

capacité

nombre de systèmes

Tier-0 Centres

européens

Tier-1 Centres nationaux

Tier-2 Centres régionaux universités

GENCI Méso-NH 4 200 000 h SIROCCO 800 000 h CROCO 300 000 h

CALMIP Méso-NH 1 500 000 h SIROCCO 1 000 000 h CROCO 200 000 h RegCM 400 000 h IA 150 000 h

PCDM (Datarmor)

CROCO 500 000 h

NUWA Méso-NH, Symphonie, CROCO, RegCM, GEOS-Chem, IASI, KOPRA, SOFRID…

2 900 000 h

Groupe de travail calcul à l’OMP – 24 mai 2019

Page 11: Calcul au Laboratoire d’Aérologie · validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel valorisation avec calcul rétro

11

Utilisation disque actuelle du LA

capacité

nombre de systèmes

Tier-0 Centres

européens

Tier-1 Centres nationaux

Tier-2 Centres régionaux universités

GENCI Méso-NH 625 To SIROCCO ?

CALMIP Méso-NH 35 To SIROCCO 100 To

CROCO 10 To

Stockage : 700 To au LA et 800 To en-dehors LA

NUWA Méso-NH 120 To

SIROCCO 200 To

IASI 120 To

RegCM+ECCAD 70 To

CROCO 64 To

IAGOS 120 To

Groupe de travail calcul à l’OMP – 24 mai 2019

Page 12: Calcul au Laboratoire d’Aérologie · validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel valorisation avec calcul rétro

12

Perspectives calcul au LA

Méso-NH – code communautaire MPI

Utilisation sur très grands nombres de processeurs (750 000 cœurs sur BlueGene/Q Mira INCITE) révision des entrées sorties, format parallèle netCDF généralisation utilisation LES Δx=10-100 m grande grille 2500x2500x200 points, 10-100 variables Portage sur GPU Visualisation grandes grilles

SIROCCO / Symphonie – code communautaire MPI

portages sur BlueGene/Q Turing et PRACE utilisation LES Δx=10-100 m et DNS Δx=1 mm

Groupe de travail calcul à l’OMP – 24 mai 2019

Page 13: Calcul au Laboratoire d’Aérologie · validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel valorisation avec calcul rétro

13

Perspectives calcul au LA

CROCO– code communautaire NH/NBQ sous MPI /

OpenMP / OpenACC

LES/DNS : plateforme Coriolis (LEGI), Université de Canberra (Australie), campagnes dédiées

Littoral/côtier : généralisation LES, Régional : généralisation downscaling dynamique, Couplage océan/atmosphère : évènements intenses

(Méso-NH / CROCO), Poursuite développements : performances en utilisation

massivement parallèle, fermeture turbulente LES, portage GPU, modélisation multi-résolution AGRIF…

Groupe de travail calcul à l’OMP – 24 mai 2019

Page 14: Calcul au Laboratoire d’Aérologie · validation dès réception avant transmission base de données MACC ; engagement contractuel du temps réel valorisation avec calcul rétro

14

Analyse SWOT

Groupe de travail calcul à l’OMP – 24 mai 2019

Forces Faiblesses

Interne • Compétences fortes en calcul et développement numériques au LA

• Complémentarité des compétences au LA (E/C, ITA, ASR)

• Service informatique du LA efficient et expert

• Nuwa : maîtrise d’un cluster de calcul et stockage

• Serveur d’échange de fichiers (SILA) • Serveur Web

documentation/pédagogie (SILA)

• Nuwa : infrastructure contrainte par l’espace physique et les fluides

Externe • Emergence de nouvelles architectures (GPU, FPGA…)

• Nouveaux paradigmes de calcul (IA, machine learning, deep learning…)

• Remplacement de départs à la retraite de personnel non garantie

• Externalisation service informatique du LA