Upload
hyacinthe-bousquet
View
102
Download
0
Embed Size (px)
Citation preview
TASFR
T30527-b-fr
Contrôle de l’émergence dans les systèmes d’agents cognitifs autonomes.
Vers la génération automatique d’agents autocontrôlés
Caroline ChopinaudAmal El Fallah Seghrouchni
Patrick TaillibertLe 27 Février 2006 – Séminaire SMA – LIP6
2
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Contexte et Problématique
Contexte Applications critiques
Systèmes embarqués Systèmes temps réels
Utilisation des systèmes multiagents (SMA) Réduire la complexité de conception (modularité) Augmenter la robustesse (décentralisation, autonomie)
Problématique Confiance dans le comportement du SMA
Etre en accord avec les spécifications Eviter les comportements inattendus pouvant entraîner
l’échec du système
3
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Problèmes de confiance
Autonomie des agents Prend seul ses décisions [Barber 99]
Emergence du comportement du système Comportements attendus Comportements inattendus
Peut entraîner l’échec du système
Apparition de comportements indésirables = comportements inattendus
ne respectant pas les spécifications du système
4
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Problème supplémentaire
Bugs du système Vérification classique pas sûre à 100%
Model Checking sur un modèle du système (très coûteux) Tests non exhaustifs Démonstration automatique lourde et complexe
SMA accroît les difficultés de validation Modélisation (explosion d’états)
Indéterminisme Distribution Communication asynchrone
Apparition d’erreurs en condition réelle d’exécution
5
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Objectif!
Garantir qu’un SMA ne génèrera pas de comportements indésirables
6
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Plan de l’exposé
Le contrôle d’agents
La description du contrôle
Génération des agents autocontrôlés
7
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Le contrôle d’agent
3 étapes :
Surveillance du comportement des agents
Détection des comportements indésirables
Régulation du comportement des agents problématiques
8
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Surveillance du comportement
Monitoring (software) : Observation et compréhension du
comportement d’un programme au cours de son exécution
Instrumentation des programmes pour observer les événements Insertion de sondes logicielles Manuelle ou automatique
Instrumentation automatique Code des agents Facilite le travail du développeur Réduit le risque d’erreur
9
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Le contrôle d’agent
3 étapes :
Surveillance du comportement des agents
Détection des comportements indésirables
Régulation du comportement des agents problématiques
10
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Détection des comportements indésirables (1)
Normes
Définition des comportements ou des situations idéales
Contraintes/indications sur le comportement Éviter des conflits Restreindre les possibilités d’action des agents Confiance entre les agents
Accepter et respecter les normes au moment de la prise de décision
11
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Détection des comportements indésirables (2)
Lois Normes non prises en compte au moment de
la prise de décisions Séparation de la définition du contrôle et de
l’implémentation des agents
Définissent des comportements et des situations souhaités ou redoutés
Correspondent aux exigences significatives du fonctionnement du système
Détection de transgression des lois
12
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Le contrôle d’agent
3 étapes :
Surveillance du comportement des agents
Détection des comportements indésirables
Régulation du comportement des agents problématiques
13
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Régulation du comportement
Effectuée par les agents eux-mêmes Capacité de raisonnement Informations de transgression
Stratégie de régulation Fournie par le développeur Associée à la transgression d’une loi
14
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Plan de l’exposé
Le contrôle d’agent
La description du contrôle
La génération des agents autocontrôlés
15
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Description des lois
Fournit un ensemble de concepts de base Utilisés dans les lois Utilisés pour décrire l’application et le modèle
d’agent Étendus pour raffiner la description
Par le concepteur du modèle et de l’application Reliés à l’implémentation du modèle d’agent
Définition de liens par les concepteurs
Fournit un langage de lois Description d’actions ou d’états
Redoutés Souhaités
Notion de temps ou de relation temporelle
16
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Concepts de base
Agent Caractéristique
Message Objet But Plan Connaissance
Action CreationAgent ReceptionMessage EnvoiMessage Migration
17
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Exemples
Concepts : Agent(nom, type) EnvoiMessage(expéditeur, destinataire, message)
Liens concepts/implémentation :hook(‘EnvoiMessage’,
predicate(sendMessage, 2),
[MESSAGE, RECEIVER],
[argument(1), argument(2)]).
18
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Langage de description (1)
Opérateurs déontiques. Interdiction (FORBIDDEN) Obligation (OBLIGED)
Actions Agent do Action Action ou changement de valeur d’une Caractéristique
Etats Agent be State Etat résultant d’une Action ou valeur d’une Caractéristique
Notion temporelle BEFORE/AFTER (une action) [avec du temps (+/- secondes)] IF (un état)
Enchaînement d’actions/états THEN
Conjonction d’actions/états AND
19
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Langage de description (2)
Sous-ensemble de la logique déontique dynamique [Meyer 85]
Logique modale Opérateur déontique standard [von Wright 51]
Obligation Interdiction Permission
Exprime la différence entre l’idéal et le réel (notion de violation)
Relation temporelle entre actions et états du monde
20
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Exemple de lois
(agent : Agent)FORBIDDEN (agent do EnvoiMessage)
AFTER (agent do EnvoiMessage) – 10.
(agentA : Agent && agentB : Agent)FORBIDDEN (agentA do Migration)
IF (agentB be Migration).
(agentA : Agent)OBLIGED (agentA do EnvoiMessage and content = « A »)AND (agentA do EnvoiMessage and content = « B »).
21
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Plan de l’exposé
Le contrôle d’agent
La description du contrôle
La génération des agents autocontrôlés
22
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Agent autocontrôlés (1)
Génération automatique à partir de Programme de comportement Ensemble de lois associées Liens entre les concepts et l’implémentation
Autocontrôle Principe de l’observateur Architecture d’agent spécifique
23
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Principe de l’observateur
PROGRAMME SOUS
SURVEILLANCEMODELE
CONTROLEUR
CONNEXIONS
24
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Principe de l’observateur
MODELEPROGRAMME
Début S1
Début S2
Fin S1
Fin S2
25
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Agent autocontrôlé (2)
Principe de l’observateur [Diaz 1994]
Installer au sein des agents
Modélisation des lois sous forme de réseau de Petri
Relier les lois au programme des agents par des points de contrôle
26
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Génération automatique (1)
Insertion des points de contrôle (instrumentation)
Utilisation du tissage Principe de la programmation par aspect [Wampler
2003] Injection de code à partir de la définition de point de
jonction.
Au niveau des événements décrits dans les lois
A partir de la description des liens concepts/implémentation
27
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Génération automatique (2)
Génération automatique du réseau de Petri.
LOI
Expression logique
{Réseaux de Petri}
RESEAU DE PETRI
Règles de fusion
Régles de traduction en RP
Règles de traduction en DDL
28
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Règles de génération
Règles de traduction en DDL FORBIDDEN a => F a FORBIDDEN a AFTER b => [b]F a FORBIDDEN a BEFORE b => done(b) v F a …
Règles de traduction en RP F a => <(pi,pj),ta,Pre*(pi,ta),Post(pj,ta)> O a => <(pi,pj),ta,Pre(pi,ta),Post(pj,ta)> …
Règles de fusion [b]O a =>merge(Post(p,tb), Pre(p,ta) a v b => merge(Pre(p,tb),Pre(b,ta)) …
29
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Génération automatique (3)
FORBIDDEN (ACT2) AFTER (ACT1) - 1=> [ACT1](done(time(1)) v F(ACT2))
ACT1
ACT2
[1,1]ACT1
done(time(1)) F(ACT2)
a v b[a]b
30
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Architecture de contrôle
Partie Comportement
Partie Contrôle
Informations
Infos transgression
Stratégies deRégulation
ComportementSurveillance ducomportement
Détection de transgression
31
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Fonctionnement du contrôle
ClauseAction1(…)PC(EV1)………PC(EV2)ClauseAction2(…)
Code de l’agent
[1,1]
Information de transgression
FORBIDDEN (agent do action2) after (agent do action1) – 1.
32
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
A propos du contrôle multiagent
Loi concernant plusieurs agents
Génération du RP Comme pour un seul agent
Détection des transgressions Répartition du réseau entre les parties contrôles
Règles de distribution Interaction des parties contrôles
Passation du jeton
Régulation du ou des agents incriminés Stratégies de régulation A l’étude
33
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Implémentation et application
Framework SCAAR Permet la génération automatique d’agents
autocontrôlés Première version en cours écrite en Prolog
Application au SMA « Interloc » Permet la localisation passive d’objets en
mouvement Utilisé pour démontrer la robustesse des
applications multiagents Propose des comportements incohérents (sourds,
muets, égoiste…) Réalisé en Prolog Utilise la plateforme ALBA
Librairie Prolog pour la création de SMA
34
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Conclusion
Contrôle d’agent Par les agents eux-mêmes A l’aide de lois
Framework SCAAR Fournit des concepts de base pour décrire l’application
Langage de description des concepts Langage de description des liens concepts/implémentation
Fournit le langage de description des lois (Implémenté) Permet la génération des agents
Génération des réseaux de Petri (Implémenté) Instrumentation du code des agents (Implémenté en partie) Mise en place d’une architecture de contrôle (Implémenté)
35
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Publications
1. Caroline Chopinaud. Contrôle dynamique d'agents autonomes. RJCIA'05. Plateforme AFIA. Prix du meilleur exposé
2. Caroline Chopinaud, Amal El Fallah Seghrouchni and Patrick Taillibert. Dynamic self-control of autonomous agents. PROMAS’05 (Workshop at AAMAS’05).
3. Caroline Chopinaud, Amal El Fallah Seghrouchni and Patrick Taillibert. Automatic generation of self-controlled autonomous agents. IEEE/WIC/ACM, IAT'05. (short paper).
4. Caroline Chopinaud, Patrick Taillibert, Amal El Fallah Seghrouchni. Contrôle de la conformité des comportements individuels d'agents cognitifs autonomes. JFSMA'05, Edition Hermes. Prix du meilleur papier.
5. Caroline Chopinaud. Contrôle dynamique d'agents autonomes. Bulletin de l'AFIA, à paraître. (résumé).
6. Caroline Chopinaud, Amal El Fallah Seghrouchni and Patrick Taillibert. Dynamic Self-control of autonomous agents. PROMAS post-proceedings, LNCS, Springer Verlag, to appear.
7. Benjamin Deveze, Caroline Chopinaud and Patrick Taillibert. ALBA: a Generic Library for Programming Mobile Agents with Prolog. PROMAS’06.To appear.
36
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
Ce qu’il reste à faire
Terminer l’implémentation de SCAAR Les langages de concepts et de liens Le tissage du code des agents Les lois multiagents
Etudier la partie régulation Trouver un début de solution (Aide au
développeur des stratégies)
Rédiger!!!!
37
TA
SFR
– 2
4/0
1/0
6
T3
05
27-b
-fr
…MERCI!!!
Fin…