Universit Chouaib Doukkali Dpartement de Physique Master TR

Prof. M BOUSMAH TP n2: TELECOM Prof. Mme LABOUIDYA Prof. M SABRI

1

Nom & Prnom :. Nom & Prnom :.

Ces notes reprennent lensemble des informations ncessaires aux travaux pratiques sur ordinateur du cours de la thorie de linformation.

Le but de ces travaux pratiques est de permettre aux tudiants de manipuler de faon concrte les notions thoriques introduites dans ce cours grce diffrentes expriences en utilisant le logiciel Matlab.

Les travaux doivent tre raliss par groupe qui doit remettre un rapport crit dcrivant, discutant et justifiant de faon suffisamment dtaille les rsultats obtenus par exprimentation. Le but est de montrer quon a bien compris les notions du cours sur lesquelles porte le travail.

TP11. On considre une source conjointe constitue de deux sources SDSM [X] et [Y] dont

lalphabet conjointe est reprsent par le tableau ci-dessous :

1. Donner la commande permettant la saisie de cette matrice :

.

2. Donner la commande permettant de vrifier que :

....................................................

3. Donner le programme permettant de vrifier que :

P(xi,yj)

y1 y2 y3

x1 1/15 3/15 1/15 x2 8/27 7//27 1/27 x3 1/27 4/135 1/135

yj

xi

Universit Chouaib Doukkali Dpartement de Physique Master TR

Prof. M BOUSMAH TP n2: TELECOM Prof. Mme LABOUIDYA Prof. M SABRI

2

4. Donner la commande permettant de calculer les probabilits P(xi):

.

5. Donner le programme permettant de calculer les probabilits P(xi):

.

.

6. Donner la commande permettant de calculer les probabilits P(yj):

.

7. Donner le programme permettant de calculer les probabilits P(yj):

.

.

8. Donner la commande permettant de calculer l'entropie conjointe H(X,Y) :

.

9. Donner le programme permettant calculer l'entropie conjointe H(X,Y) :

.

Universit Chouaib Doukkali Dpartement de Physique Master TR

Prof. M BOUSMAH TP n2: TELECOM Prof. Mme LABOUIDYA Prof. M SABRI

3

.

10. Donner la commande permettant calculer l'entropie H(X) :

.

11. Donner la commande permettant calculer l'entropie H(Y) :

.

12. Les deux sources sont elles indpendantes ? Justifier votre rponse

.

13. Donner la commande permettant calculer l'entropie H(Y/X ) :

.

14. Donner la commande permettant calculer l'entropie H(X/Y ) :

.

15. Donner la commande permettant calculer la quantit d'information mutuelle I(X,Y ) :

.

16. Conclure .

Universit Chouaib Doukkali Dpartement de Physique Master TR

Prof. M BOUSMAH TP n2: TELECOM Prof. Mme LABOUIDYA Prof. M SABRI

4

.

.

TP12

On considre une source binaire avec deux symboles "0" et "1" de probabilits respectives p et 1-p et une entropie H(S) :

1. Donner le programme permettant de reprsenter lentropie H(S ) en fonction de p:

.

2. Reprsenter ce rsultat :

.

3. Conclure :

.

Universit Chouaib Doukkali Dpartement de Physique Master TR

Prof. M BOUSMAH TP n2: TELECOM Prof. Mme LABOUIDYA Prof. M SABRI

5

TP13

On considre la chane de transmission suivante:

La capacit C du canal est atteinte lorsque les deux symboles de la source d'entre sont quiprobables (voir cours) avec:

1. Donner le programme permettant de reprsenter C en fonction de p:

.

2. Reprsenter ce rsultat :

.

Universit Chouaib Doukkali Dpartement de Physique Master TR

Prof. M BOUSMAH TP n2: TELECOM Prof. Mme LABOUIDYA Prof. M SABRI

6

.

3. Conclure :

.

.

TP14

Une source X gnre des symboles partir dun alphabet 8 lettres {A,B,C,D,E,F,G,H} avec des probabilits : P(A)=0.15, P(B)=0.15, P(C)=0.06, P(D)=0.1, P(E)=0.4, P(F)=0.1, P(G)=0.02, P(H)=0.02

1. Donner la commande permettant de calculer lentropie de la source

.

2. Code Huffman a. Gnrez le code Huffman pour cette source en utisant le programme

huffman.m ci-joint.

Symbole A B C D E F G H Code

Universit Chouaib Doukkali Dpartement de Physique Master TR

Prof. M BOUSMAH TP n2: TELECOM Prof. Mme LABOUIDYA Prof. M SABRI

7

b. Reprsenter larbre de ce codage

.

.

c. Gnrez manuellement le code Huffman pour cette source

.

.

.

.

Universit Chouaib Doukkali Dpartement de Physique Master TR

Prof. M BOUSMAH TP n2: TELECOM Prof. Mme LABOUIDYA Prof. M SABRI

8

d. Dduire son efficacit et sa redendance

.

e. Conclure

.

Universit Chouaib Doukkali Dpartement de Physique Master TR

Prof. M BOUSMAH TP n2: TELECOM Prof. Mme LABOUIDYA Prof. M SABRI

9

3. Code Shannon-Fano a. Gnrez manuellement le code Shannon-Fano pour cette source.

.

b. En sinspirant du programme huffman.m, ecrire un programme Shannon_Fano.m permettant de gnrer automatiquement le code Shannon-Fano pour cette source.

c. Calculez son efficacit et sa redandance

Universit Chouaib Doukkali Dpartement de Physique Master TR

Prof. M BOUSMAH TP n2: TELECOM Prof. Mme LABOUIDYA Prof. M SABRI

10

d. Reprsenter larbre de ce codage

.

e. Conclure

.