Coopération dans des ordonnancements multi-

organisations

Fanny Pascual

Travail en collaboration avec Krzysztof Rzadca et Denis Trystram

GOTHA, 12 octobre 2007

Introduction

Plateformes d’exécution haute performance : impliquent des entités distribuées (organisations) qui ont leurs propres règles locales/intérêts.

Etudier la possibilité de coopération pour un meilleur usage global du système.

On montre que en coopérant il est toujours possible d’avoir une bonne solution globale qui satisfasse les intérêts individuels des organisations.

Plan

1. Problème

• Contexte

• Motivations et limites

2. Résolution

• Algorithme

• Analyse de l’algorithme

3. Conclusion

Contexte : grille de calcul

Grille de calcul : collection de clusters indépendants appartenant chacun à une organisation.

…

…

……

…

…Organisation O2

Organisation O3

Organisation O1

m2 machines

m1 machines

m3 machines

Applications : tâches parallèles rigides

Des utilisateurs soumettent des applications (tâches). Par exemple :

Tâche i #de machines nécessaires qi

Durée d’exécution pi

L’utilisateur demande alors :

Ordonnancer des tâches rigides

Ordonnancer des tâches rigides indépendantes :Problème de packing en 2D (strip packing).

m

Tâches : Ordonnancement :

temps

…

…

……

…

…

Les utilisateurs soumettent les tâches à leur organisation.

O2

O1

O3

…

…

……

…

…

Les organisations peuvent coopérer

O1

O2

O3

Contraintes Cmax(O3)

Cmax(O2)

O1

O2

O3

Cmax(Ok) : date de fin maximum des tâches de Ok.

Chaque organisation veut minimiser son makespan.

Cmax(O1)O1

O2

O3

Cmaxloc(O1

)

Ordonnancements locaux :

Définition du problèmeMOSP (Multi-Organisation Scheduling Problem):

•Données : n organisations, chacune ayant mi machines et des tâches locales.

•But : minimiser le makespan global OPT =max(Cmax(Ok)) sous la contrainte que aucun makespan local n’est augmenté.

Conséquence : Si n=1 (une organisation); m=2; les tâches sont séquentielles (qi=1): problème (P2||Cmax) qui est NP-difficile.

=> MOSP est NP-difficile.

Coopérer peut substanciellement améliorer la

solution (1)Solution non-cooperative : chaque organisation exécute ses tâches locales.

Cette solution peut être arbitrairement loin de l’optimal.

sans coopération avec coopération

O1

O2

O3

O1

O2

O3

Exemple:

Coopérer peut substanciellement améliorer la solution (2)

1

22

1

Des algorithmes autres qu’un simple équilibrage de charge sont possibles: on peut ainsi obtenir des solutions profitables pour toutes les organisations.

sans coopération avec coopération

O1

O2

O1

O2

1

1

2

2

Limites de la coopération

1

2

1

2 2

1

2

1

2

2

Ordonnancement local Optimum global

O1

O2

O1

O2

Si on ne peut détériorer aucun makespan local, alors l’optimum global ne peut être atteint.

1

2

1

2

2

Meilleure solution quin’augmente pas Cmax(O1)

O1

O2

Borne inférieure sur le rapport d’approximation : 3/2.

1

2

1

2 2

1

2

1

2

2

1

2

1

2

2

O1

O2

O1

O2

O1

O2

Limites de la coopération

Meilleure solution quin’augmente pas Cmax(O1)

Ordonnancement local Optimum global

Plan

1. Problème

• Contexte

• Motivations et limites

2. Résolution

• Résultats préliminaires

• Algorithme

• Analyse de l’algorithme

3. Conclusion

Bornes inférieures

MOLBA

t

O3

O1O2

O4O5

O3

O1O2

O4O5

O1

W

W = (qi li) / mi = surface totale des tâches / nombre de machines

pmax = max(pi) = longueur de la plus grande tâche.

Soit OPT le makespan optimal. Bornes inférieures de OPT :

Ordonnancement sur un seul cluster

Algorithme de liste : rapport d’approx.=(2-1/m)« Resource constraint list algorithm » (Graham 1975), revu dans IPDPS 2006 (Eyraud et al) avec une preuve plus simple pour une contrainte.

Ordonnancement HighestFirst : ordonnance les tâches par hauteur décroissante. Même garantie théorique mais meilleur d’un point de vue pratique.

=> On suppose que chaque ordonnancement local est un ordonnancement HighestFirst.

MOLBA

MOLBA +load balancing

3W

t

t t

O3

O1O2

O4O5

O3

O1O2

O4O5

O3

O1O2

O4O5

Algorithme MOLBA()

1. Chaque organisation exécute ses tâches localement avec Highest First.

2. Retirer les tâches qui commencent après W et quiappartiennent à une organisation dont le makespan est ≥ W + pmax.

(où 1 ≤ ≤ 3 dépend de la version de l’algorithme).

3. Ordonnancer ces tâches en utilisant un algo. de liste.

(Multi-Organization Load Balancing Algorithm)

W

W = surface totale / mi 3W

Exemple (simulations)

Ordonnancement local

MOLBA(3)

MOLBA +load balancing

3W

t

t t

O3

O1O2

O4O5

O3

O1O2

O4O5

O3

O1O2

O4O5

3W 3W ?

Rapports d’approximation

Cas général : MOLBA(3) est 4-approché.

Cas particuliers :

W ≥ a pmax ou W ≤ a pmax : algo. 2 + 2/(1+a)

n=2 : algorithme 3-approché

Clusters identiques : algo. 3.5- approché

Petites tâches : algo. 3-approché

Tâches séquentielles : algo. 2- (1/ mi) approché

Analyse de performance : un cluster avant MOLBA()

Propriété 1 : Tous les ordonnancements HighestFirst ont la même structure: - une zone de forte utilisation

- une zone de faible utilisation

Preuve : Les grandes tâches (qi>m/2) sont ordonnancées à la suite. Aucune petite tâche (qi ≤m/2) commence après la fin de (I)

zone de forte utilisation (I)(plus de 50% des machines sont occupées)

zone de faible utilisation (II)

t

Analyse de performance : un cluster avant MOLBA()

Propriété 2 : A la fin de l’algorithme, il y a au moins un cluster dont la zone (II) commence avant 2W.

Preuve : argument de surface.

zone de forte utilisation (I)(plus de 50% des machines sont occupées)

zone de faible utilisation (II)

t

Analyse de performance : un cluster après MOLBA()

Propriété 3 : La longueur de la zone de faible utilisation est au plus pmax.

Preuve : par contradiction.

≤ pmax t1 t2

MOLBA(3) est 4-approché

Preuve. par l’absurde:

• hyp: une tâche se termine après 4 OPT. commence après 3 OPT.

• Zone de faible utilisation/cluster < pmax < OPT .

=>Zone de haute utilisation par cluster > 2 OPT >2W

=> Travail effectué au total > travail disponible.

≤ pmax

Amélioration de l’algorithme

MOLBA(3)

MOLBA(3) +eq. de charge

O3

O1O2

O4O5

O3

O1O2

O4O5

O3

O1O2

O4O5

On rajoute une étape d’équilibrage de charge.

Ordonnancement local

Expérimentations(MOLBA(2.5))

Lien avec la théorie des jeux ?

Approche utilisée : optimisation combinatoire.

En utilisant la théorie des jeux ?Joueurs : organisations; objectif : min. leur makespan

Théorie des jeux coopérative : suppose que les joueurs (organisations) communiquent et forment des coalitions.

Théorie des jeux non coopérative : équilibre de Nash : situation où les joueurs n’ont pas intérêtà changer de stratégie.

Prix de la stabilité : meilleur équilibre de Nash/solution opt.

stratégie : collaborer ou non; obj. global : min makespan

Conclusion

Coopérer peut aider pour avoir une meilleure performance globale, sans détériorer les performances locales (pour le makespan).

Perspectives :• Améliorer les bornes• Cadre online• Objectifs individuels/global différents• Co-scheduling (tâches de grandes taille partagées entre plusieurs clusters).• Chaque organisation donne une limite de temps qu’elle ne veut pas dépasser pour coopérer.