Click here to load reader
View
156
Download
3
Embed Size (px)
Prsentation PowerPoint
Ralise par
ISSARTI IkrameKARARA MohamedEZOUAGH MohamedZGUINDOU AbdelghafourEncadre par
Pr. FAKHOURI Hanane Pr. EL HAIMOUDI KhatirUniversit Abdelmalek EssadiFacult Polydisciplinaire de Larache
Licence dEtudes Fondamentales Sciences Mathmatiques, Informatique et Applications
Projet de fin dtudes
Etude et ralisation dun modle de rseaux de neurones artificiel avec un apprentissage supervise/non supervis
1
Plan de travaillePart 1: Analyse en composantes principales (ACP)
PrincipeAlgorithme
part 2: Les rseaux de neurones artificiels (rna)
DfinitionPropritsLe modle biologiqueLe modle formelLa structure du rseauApprentissage du rseau de neurones
Travail 1 : La carte auto-organisatrice de kohonen (som)travail 2 : Perceptron multicouche retropropagation (PMR)
Part 1: ACP
1. Principe01000111010101001011111111100000000001100101010111111110ACPDonnes initialeDonnes rsultatMinimisationRenforcement11110001010100100101010100101110000111100001111110ACP
ACPChercher_Vecteur_Propre(R)C = Matrice_Vecteur_Propre.Z2. Algorithme123456789A laide la mthode de puissance itr
Part 2: RNA
Les RNA proposent une solution aux problmes de lincapabilit des algorithmesclassiques rsoudre un grand nombre des taches qui semblent compliquspour les mthodes classiques.Les rseaux de neurones artificiels ont des caractresparticuliers comme lapprentissage, ladaptation et le calcule parallle ces caractressont inspires du fonctionnement du cerveau animale, les systmes qui reposent surces principes peuvent rsoudre les problmes compliqus qui demande un peu dintellect.6
1. Dfinition
Les rseaux de neurones artificiels sont des rseaux fortement connects de processeurs lmentaires fonctionnant en parallle. Chaque processeur lmentaire calcule une sortie unique sur la base des informations qu'il reoit. Toute structure hirarchique de rseaux est videmment un rseauRNA
01000111010101001011111111100000000001100101010111111110DonnesApprentissage AutomatiqueRNA
ClassificationCratrisationReconnaissancePrincipe
2. PropritsRNACapacit dapprentissageLadaptabilitCapacit de gnralisation des rsultatsRNA
3. Le modle biologique
le noyau est le centre des ractions lectrochimiques. Si les stimulations externes sont suffisantes, le noyau provoque l'envoi d'un influx nerveux lectrique travers l'axone.
Les synapses transmettent l'influx nerveux provenant de l'axone vers d'autres cellules partir de neurotransmetteurs inhibiteurs ou excitateurs.
les dendrites, selon leur longueur et leur permabilit, affectent la quantit d'influx nerveux qui se rend au noyau.l'axone transporte l'influx nerveux vers les synapses.RNA
4. Le modle formel f
Entre
SortiePoidsIntgration des entresFonction des activationSortie NoyauRNA
4. Le modle formelLes fonctions dactivationLinaireTout au rien = Seuil durFonction logistique = Seuil douxLa plus part des phnomnesnont pas un comportementlinaireDcision certaine mme pourLes donnes proches de la surfaceDe dcision Dcision avec une probabilitRNA
4. Le modle formel / BiologiqueRNA
5. structure du rseaurseaux de neurones artificielsBouclNon BouclRNA
5. La structure du rseauNon Boucl
Un rseau de neurones non boucl ralise une (ou plusieurs) fonction algbrique de ses entres par composition des fonctions ralises par chacun de ses neurones. RNA
5. La structure du rseauBouclle graphe des connexions est cyclique : lorsquon se dplace dans le rseau en suivant le sens des connexions, il est possible de trouver au moins un chemin qui revient son point de dpart (un tel chemin est dsign sous le terme de cycle ). Les connexions rcurrentes ramnent l'information en arrire par rapport au sens de propagation dfini dans un rseau multicouche. Ces connexions sont le plus souvent locales.RNA
6. ApprentissageUne procdure adaptative par laquelle les connexions des neurones sont ajustes face une source dinformation.Dans la majorit des algorithmes actuels, les variables modifies pendant l'apprentissage sont les poids des connexions. L'apprentissage est la modification des poids du rseau dans l'optique d'accorder la rponse du rseau aux exemples et l'exprience.
RNA
6. ApprentissageApprentissageRNATypes ??Rgles ??
6. ApprentissageTypes dapprentissageApprentissageSupervisNon SupervisUn apprentissage est dit supervis lorsque lon force le rseau converger vers un tat final prcis, en mme temps quon lui prsente un motif. Ce genre dapprentissage est ralis laide dune base dapprentissage, constitue de plusieurs exemples de type entres-sorties (les entres du rseau et les sorties dsires ou encore les solutions souhaites pour lensemble des sorties du rseau).Lapprentissage non supervis consiste ajuster les poids partir dun seul ensemble dapprentissage form uniquement de donnes. Aucun rsultat dsir nest fourni au rseau.Lapprentissage ici consiste dtecter les similarits et les diffrences dans lensemble dapprentissage. RNA
01000111010101001011111111100000000001100101010111111110DonnesRNARsultatApprentissage SupervisApprentissage Non SupervisRsultatClassificationCratrisationReconnaissance
5. ApprentissageRgles dapprentissageLes rgles dapprentissage indiquent la quantit de modification appliquer chaque poids, en fonction des exemples dentre (et des sorties dsires associes, dans le cas de lapprentissage supervis) :O t dsigne un instant avant la modification des poids, et t+1 un instant aprs.Il existe un grand nombre de rgles dapprentissage diffrentes. Les plus rpandues sont les suivantes :
RNA
travail 1: som
1. PrincipeSOMs fournissent un moyen de reprsenter des donnes multidimensionnelles dans des espaces de dimensions beaucoup plus faibles - gnralement une ou deux dimensions.Cette technique cre un rseau qui stocke des informations de telle faon que toutes les relations topologiques au sein de l'ensemble d'apprentissage sont maintenues.Ces structures intelligentes de reprsentation de donnes sont inspires, comme beaucoup dautres crations de lintelligence artificielle, par la biologie ;
SOM
2. Architecture
- d'une couche d'entre o tout motif classer est reprsent par un vecteur multidimensionnel qualifi de vecteur dentre. A chaque motif est affect un neurone dentre.d'une couche de sortie galement appele couche de comptition o les neurones entrent en comptition. Les valeurs provenant des neurones dentres sont transmises tous les neurones de la couche de comptition, en mme temps. Pour approcher des valeurs passes par les neurones dentres. SOM
3. Algorithme dapprentissage
Initialisation des paramtres:Poids dentre (petites valeurs alatoire)Forme et taille du voisinageTaux dapprentissageRpter jusqu stabilisation du rseau
La carte SOM(Couche Sortie)Couche dentres
Rglage des paramtres
4. PropritsSimilitude des densits dans l'espace d'entre:La carte reflte la distribution des points dans l'espace d'entre. Prservation des relations topologiquesLes anctres des cartes auto-organisatrices, les algorithmes comme "k-moyennes", ralisent la discrtisation de l'espace d'entre en ne modifiant chaque cycle d'adaptation qu'un seul vecteur rfrent. Leur processus d'apprentissage est donc trs long. L'algorithme de Kohonen profite des relations de voisinage dans la grille pour raliser une discrtisation dans un temps trs court. SOM
5. Exemples dapplicationLa classification
SOMs sont couramment utiliss comme aides la visualisation. Ils peuvent le rendre facile pour nous les humains de voir les relations entre les grandes quantits de donnes.Un SOM a t utilis pour classer les donnes statistiques dcrivant divers facteurs de qualit de vie tels que l'tat de sant, la nutrition, les services d'enseignement, etc. World Poverty MapSOM
6. Exemples dapplicationLa classificationWorld Poverty Map
Cette information de couleur peut alors tre trace sur une carte du monde comme ceci (Image) Cela rend trs facile pour nous de comprendre les donnes de la pauvretSOM
6. Exemples dapplicationApplication la robotique
On utilise la capacit de reprsentation spatiale de la carte auto-organisatrice pour piloter un bras de robot.Il s'agit de mettre en correspondance l'espace cartsien dans lequel travaille l'oprateur humain avec l'espace du robot (coordonnes de chacun de ses axes en valeurs angulaires). SOM
1. Ralisation 0111010101010101001011000111100001100101011101SOMACPDonnes initialesDonnes prtraitesAlgorithme ModifiAlgorithme Classique
RsultatLes structures fonctionnelles labores la base des deux algorithmes classiques et modifis SOM
32
Description de modle logiciel ralisRalisationNotion de programmation Orient Objet C++Mode consoleLes classesACP NodeSOMMenuCette classe contient les attribues et les mthodes de calcul ncessaire pour la ralisation de la mthode danalyse en composantes principales.Cette classe est la base de notre rseau de neurones, il contient les attribues et les mthodes ncessaire pour dcrire les neurones de rseauCette classe est la classe principale de lapplication, il contient les attribues et les mthodes pour crer la carte auto-organisatrice de kohonen et aussi les mthodes pour faire lapprentissage du rseauCette classe et le corps de lapplication, il contient les attribues et les mthodes de laffichage comme les menus et les variables de choix etc
2. Les testes
Test de classification des alphabets0 1 01 1 11 0 10 1 00 1 11 0 11 1 10 1 00 1 01 1 10 0 00 1 01 1 11 0 01 1 1AATTC1 1 11 0 01 1 0C1 1 11 1 11 0 0FF1 1 11 1 01 0 01 0 11 1 11 0 11 0 01 1 11 0 1HHA010111101A010011101T111010010T111000010C111100111C111100110F111111100F111110100H101111101H100111101Entre
Cration de la carte