Estimation de copules, une approche bayésienne

PréléminairesL’approche géométrique

L’approche mesure spectraleL’approche polynomiale

Estimation de copules, une approche bayésienne

Présenté par François PerronUniversité de Montréal

Paris, jeudi le 3 février 2011

Présenté par François Perron Université de Montréal Estimation de copules, une approche bayésienne



Plan de l’exposé

I PréléminairesI L’approche géométriqueI L’approche mesure spectraleI L’approche polynomiale




Copule C(U, V) : couple aléatoireL(U) = L(V) = U(0, 1)C : fonction de répartition du couple (U, V)Propriétés de C :

1 Le support C : [0, 1]× [0, 1] → [0, 1]

2 Les conditions aux bornes

C(0, v) = C(u, 0) = 0, u, v ∈ [0, 1]

C(1, v) = v et C(u, 1) = u, u, v ∈ [0, 1]

3 La croissance, 0 ≤ u1 ≤ u2 ≤ 1 et 0 ≤ v1 ≤ v2 ≤ 1 ⇒

C(u2, v2)− C(u1, v2) ≥ C(u2, v1)− C(u1, v1)




Théorème de Sklar(X, Y) : couple aléatoire continu∃C une copule telle que

F(x, y) = C(FX(x), FY(y)) ∀x, y ∈ R




Les valeurs extrêmes(X1, Y1), (X2, Y2), . . . ,(Xn, Yn) : un échantillon,X(n), Y(n) : les maximumsHypothèse : il existe une normalisation de sorte que

X(n) − an

αn,

Y(n) − bn

βn

ont une loi limite non dégénérée.




Les copules de valeurs extrêmes(X, Y) : couple aléatoire dont la loi est une loi limite pour desmaximums renormalisésOn a les caractérisations suivantes,

− log(FX(x)) ={(

1 + ξXx− µX

σX

)∨ 0

}−1/ξX

− log(FY(y)) ={(

1 + ξYy− µY

σY

)∨ 0

}−1/ξY

et la copule dépend d’une fonction A avec

C(u, v) = exp{

log(uv)A( log(u)

log(uv)

)}, u, v ∈ (0, 1)




La modélisationM : espace des paramètres, copule et margesS : échantillonL : vraisemblanceη : fonction à estimer, la copule, une loi prédictive, etcM⊃ ∪∞i=1Mi union denseπ : loi a priori sur iπi : loi a priori conditionnelle sur Mi étant donné iη : espérance a posteriori de η

La partie simulationÉvaluer η : MCMC avec Metropolis-Hastings et sauts réversibles




La fonction de Pickands A

La définitionUne fonction A : [0, 1] → R est une fonction de Pickands si

1 A est convexe

2 A(0) = 1 et A(1) = 1

3 D+A(0) ≥ −1 et D−A(1) ≤ 1

La géométrie du problèmeUne fonction A : [0, 1] → R est une fonction de Pickands si

1 A est convexe

2 la courbe A est enfermée dans le triangle formé des sommets

(0, 1), (1/2, 1/2), (1, 1).




la construction

la fonction A, l’approximation par φ

0 = t1 < t2 < · · · < tK = 1 : les noeuds{ai}K

i=1 : les évaluations (ai = A(ti))pi = (ti, ai), i = 1, . . . , K : les pointsOn interpole les points par une fonction convexe de PickandsSoit φ la fonction décrivant la courbe obtenue suite à l’interpolation




l’interpolation entre les points pi et pi+1

mj : pente de la droite passant par pj et pj+1, j = i− 1, i, i + 1mi = (mi−1 + mi)/2Courbe de Bézier qui passe par pi et pi+1 avec pente mj en tj,j = i, i + 1.

la qualité d’approximationA : fonction de Pickandsti = (i− 1)/(K − 1), ai = A(ti), i = 1, . . . , K,φ, fonction obtenue à partir des pi, i = 1, . . . , K,

‖A− φ‖∞ ≤ 1/2(K − 1)




Figure 1

A

B

CD

E

F

FIG.: La disposition des points A, B, C, D, E et la liberté du point C




la loi a priori

les margesIl y a les trois paramètres (µ, log(σ), ξ) pour chacune des marges,lois normales indépendantes partout, Coles (2001)

les paramètres K et pLoi discrète sur K, K = 3, 4, . . . , U ( on tronque )Loi uniforme sur {p2, . . . , pK−1 : φ est une fonction de Pickands }




la chaîne

les optionsOn choisit une option avec une certaine probabilité qui dépend de K eton effectue le test de Metropolis

I modifier un des paramètres des margesI déplacer un des points p, (K → K)

I ajouter un des points p, (K → K + 1)

I retrancher un des points p, (K → K − 1)




déplacer le point pi → p′i, 1 < i < KConserver la convexité ⇔ p′i doit se trouver dans le triangle Ti−1 i+1donné par les sommets pi−1, pi+1 et l’intersection des droites −−−−−→pi−2pi−1et −−−−−→pi+1pi+2.On propose p′i en choisissant selon une loi uniforme sur Ti−1 i+1.

ajouter un point q entre les points pi et pi+1

q doit se trouver dans le triangle Ti i+1 donné par les sommets pi, pi+1et l’intersection des droites −−−→pi−1pi et −−−−−→pi+1pi+2.On propose p′i en choisissant selon une loi uniforme sur Ti i+1.

retrancher un point pi

On propose d’éliminer le point pi sans toucher aux autres points.




Figure 2, Bayes, Capéraà et al, Hall et Tajvidi, Deheuvel

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10.5

0.55

0.6

0.65

0.7

0.75

0.8

0.85

0.9

0.95

1

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10.5

0.55

0.6

0.65

0.7

0.75

0.8

0.85

0.9

0.95

1

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10.5

0.55

0.6

0.65

0.7

0.75

0.8

0.85

0.9

0.95

1

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10.5

0.55

0.6

0.65

0.7

0.75

0.8

0.85

0.9

0.95

1

FIG.: 200 échantillons de taille 25




Tableau 1 : MISE relatif, logistique, 1000 échantillons, margesconnues

TAB.: A(t) = 1− β + (β − α)t + {αrtr + βr(1− t)r}1/r

n = 10 n = 25 n = 100model r, α, β C H D C H D C H D

1 1.25,1,1 0.27 0.16 0.20 0.25 0.18 0.19 0.39 0.31 0.292 1.5,1,1 0.24 0.18 0.18 0.56 0.45 0.36 1.45 1.10 0.923 1.75,1,1 0.74 0.63 0.48 1.36 1.10 0.74 2.23 1.72 1.144 2,1,1 1.50 1.39 0.81 2.21 1.84 1.06 3.24 2.31 1.215 3,1,1 6.04 6.46 1.60 6.02 5.06 1.40 5.19 4.39 1.156 1.25,0.9,0.5 0.56 0.32 0.41 0.55 0.33 0.38 0.39 0.30 0.307 1.5,0.9,0.5 0.27 0.17 0.22 0.27 0.21 0.22 0.42 0.34 0.328 2,0.9,0.5 0.20 0.16 0.17 0.38 0.30 0.28 0.68 0.53 0.479 3,0.9,0.5 0.35 0.29 0.26 0.51 0.42 0.37 0.66 0.50 0.4310 5,0.9,0.5 0.44 0.34 0.33 0.51 0.41 0.36 0.56 0.42 0.3811 2,0.75,0.95 0.39 0.38 0.31 0.68 0.59 0.46 1.13 0.90 0.6912 2.5,0.75,0.95 0.74 0.72 0.52 0.96 0.88 0.63 1.18 1.08 1.0813 3.25,0.75,0.95 1.02 0.94 0.61 0.96 0.86 0.56 1.04 0.84 0.5614 5,0.75,0.95 0.98 0.97 0.62 0.76 0.61 0.43 0.86 0.63 0.4415 10,0.75,0.95 0.65 0.63 0.40 0.46 0.31 0.23 0.87 0.62 0.45




Tableau 2 : MISE relatif, logistique, 1000 échantillons, margesinconnues

TAB.: A(t) = 1− β + (β − α)t + {αrtr + βr(1− t)r}1/r

n = 10 n = 25 n = 100model r, α, β C H D C H D C H D

1 1.25,1,1 0.31 0.24 0.24 0.30 0.25 0.25 0.40 0.35 0.352 1.5,1,1 0.12 0.17 0.17 0.37 0.39 0.39 1.26 1.18 1.183 1.75,1,1 0.25 0.48 0.48 0.84 0.98 0.98 2.01 1.86 1.864 2,1,1 0.45 1.12 1.11 1.52 1.62 1.62 3.01 2.44 2.445 3,1,1 0.89 3.92 3.72 4.37 4.82 4.80 6.07 4.35 4.356 1.25,0.9,0.5 0.89 0.51 0.51 0.86 0.57 0.57 0.57 0.45 0.457 1.5,0.9,0.5 0.32 0.26 0.26 0.32 0.28 0.28 0.48 0.43 0.438 2,0.9,0.5 0.15 0.18 0.18 0.31 0.33 0.33 0.72 0.62 0.629 3,0.9,0.5 0.21 0.32 0.32 0.47 0.50 0.50 0.74 0.70 0.7010 5,0.9,0.5 0.30 0.46 0.47 0.56 0.61 0.61 0.65 0.65 0.6511 2,0.75,0.95 0.20 0.30 0.30 0.53 0.57 0.57 1.14 1.07 1.0712 2.5,0.75,0.95 0.34 0.67 0.67 0.82 0.93 0.93 1.19 0.94 0.6213 3.25,0.75,0.95 0.45 1.05 1.04 0.99 1.11 1.11 1.02 1.03 1.0314 5,0.75,0.95 0.52 1.29 1.28 0.99 1.09 1.09 0.76 0.79 0.7915 10,0.75,0.95 0.51 1.31 1.30 0.66 0.73 0.73 1.32 1.44 1.44







Figure 5

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10.5

0.55

0.6

0.65

0.7

0.75

0.8

0.85

0.9

0.95

1

(a) La Grande 4 vs Manouanes

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10.5

0.55

0.6

0.65

0.7

0.75

0.8

0.85

0.9

0.95

1

(b) LaGrande 4 vs EOL

FIG.: Estimation de A, Bayes, CFG et Hall




Figure 6

600 800 1000 1200 1400 1600 1800 20000

100

200

300

400

500

600

700

(a) La Grande 4 vs Manouanes

600 800 1000 1200 1400 1600 1800 20001000

1500

2000

2500

3000

3500

4000

4500

(b) LaGrande 4 vs EOL

FIG.: Bande de prévision à 95% et prévision




Avantages et inconvénients liés à la méthode

AvantagesL’estimateur est une vraie fonction de dépendance, pas besoin detrafiquer !Approche bayésienneMeilleurs résultats pour tailles d’échantillon petites

InconvénientsRéponse numériqueLorsqu’on approche la colinéarité en plusieurs points consécutifs onreste coincé, les triangles s’aplatissent.L’asymptotique ?




la mesure spectrale

la définitionG1 et G2 : fonctions de répartition pour les margesG : fonction de répartition du couple alétoire

− log G(u, v) = `(− log G1(x),− log G2(y))

avec`(s, t) = 2

∫[0,1]

[ωs ∨ (1− ω)t] H(dω)

et, en plus, H : mesure de probabilité sur [0, 1] avec moyenne 1/2.




la construction

la fonction de répartition H, l’approximation par ϕ

On note H la fonction de répartition associée à la mesure HOn construit ϕD une mesure discrète sur 0, y1, . . . , ym, 1 avec0 < y1 < · · · < ym < 1, poids

I ϕD({0}) = H({0})I ϕD({1}) = H({1})I ϕD({y1}) = ϕD({y2}) = · · · = ϕD({ym})

On interpole ϕD avec des splines croissantesI ϕ− : interpolation par le bas, moyenne inférieure à 1/2I ϕ+ : interpolation par le haut, moyenne supérieure à 1/2I ϕ : combinaison convexe, moyenne ramenée à 1/2




la qualité d’approximation

‖H − ϕ‖∞ ≤ 2(1− H({0})− H({1}))/m

les conditions sur ϕD

0 ≤ ϕD({0}), ϕD({1})) ≤ 1/2

ϕD({yi}) = (1− ϕD({0})− ϕD({1}))/m i = 1, . . . , m

(1− ϕD({0})− ϕD({1}))y + ϕD({1}) = 1/2 (1)

notationϕD({0}), ϕD({1})) : atomesy1, y2, . . . , ym : noeuds




0 y1 y2 y3 y4 1w

1/4

1/2

3/4

1H




la vraisemblance

Principe de base, domaine d’attractionLes données brutes ne proviennent pas d’une loi à valeurs extrêmesmais les maximums sont dans le domaine d’attraction d’une loi àvaleurs extrêmes

Censurer les données à gauche(X1, Y1), (X2, Y2), . . . , (Xn, yn) : données brutesX∗i = Xi ∨ u, Y∗i = Yi ∨ v : données censuréesLoi des données censurées proche de celle de données censuréesd’une loi de valeurs extrêmes ( Ledford et Tawn 1996 )




la loi a priori

les margesIl y a les trois paramètres (µ, log(σ), ξ) pour chacune des marges,lois normales indépendantes partout, Coles (2001)

les paramètres m et yLoi discrète sur m, m = 1, 2, . . . , U ( on tronque )Loi uniforme sur{ϕD({0}), ϕD({1}), y2, . . . , ym−1 : ϕD est une mesure spectrale}




Loi a priori, Poisson(10) tronquée en 0 sur m

0 0.2 0.4 0.6 0.8 1w

0

0.2

0.4

0.6

0.8

1H

FIG.: bande à 95% et espérance, 500 000 itérationsPrésenté par François Perron Université de Montréal Estimation de copules, une approche bayésienne



la chaîne

les optionsOn choisit une option avec une certaine probabilité qui dépend de m eton effectue le test de Metropolis

I modifier un des paramètres des margesI déplacer un des points y, (m → m)

I changer ϕD({0}) ou ϕD({1}), (m → m)

I ajouter un des points y, (m → m + 1)

I retrancher un des points y, (m → m− 1)




déplacer le point yi

Choisir j 6= i, δ tel que

0 < (yi + δ) ∧ (yj − δ) et (yi + δ) ∨ (yj − δ) < 1

Proposer yi → yi + δ, yj → yj − δ

changer ϕD({0}) ou ϕD({1})Choisir i, δ tel que

0 < yi + δ < 1 et 0 ≤ ϕD({0})′ < 1/2

où ϕD({0})′ est l’unique solution de l’équation (1)Proposer yi → yi + δ, ϕD({0}) → ϕD({0})′




ajouter un des points y, (m → m + 1)

Ajouter le point yDéplacer le point y comme si il y avait m + 1 points y

retrancher un des points yChoisir un point yi

Choisir j 6= i, tel que

(yi − y)(yj − y) < 0

Choisir δ tel queyi + δ = y

Proposer d’éliminer yi et de bouger yj → yj − δ




Figure 5

0.75 0.8 0.85 0.9α

0

0.2

0.6

1

×102

MIS

E

(a)

0 0.25 0.5 0.75 1w

0

0.25

0.5

0.75

1

H

(b)

0 0.25 0.5 0.75 1w

0

0.25

0.5

0.75

1

H

(c)

0 0.25 0.5 0.75 1w

0

0.25

0.5

0.75

1H

(d)




Figure 6

0.75 0.8 0.85 0.9α

0

0.2

0.6

1

×102

MIS

E

(e)

0 0.25 0.5 0.75 1w

0

0.25

0.5

0.75

1

H

(f)

0 0.25 0.5 0.75 1w

0

0.25

0.5

0.75

1

H

(g)

0 0.25 0.5 0.75 1w

0

0.25

0.5

0.75

1H

(h)




Figure 7

0.75 0.8 0.85 0.9α

0

0.2

0.6

1

×102

MIS

E

(i)

0 0.25 0.5 0.75 1w

0

0.25

0.5

0.75

1

H

(j)

0 0.25 0.5 0.75 1w

0

0.25

0.5

0.75

1

H

(k)

0 0.25 0.5 0.75 1w

0

0.25

0.5

0.75

1H

(l)




Dommages, bâtiment versus mobilier et biens personels

0 0.2 0.4 0.6 0.8 1w

0

0.2

0.4

0.6

0.8

1H




Dommages, bâtiment versus perte de profits

0 0.2 0.4 0.6 0.8 1w

0

0.2

0.4

0.6

0.8

1H




Dommages, mobilier et biens personels versus perte deprofits

0 0.2 0.4 0.6 0.8 1w

0

0.2

0.4

0.6

0.8

1

H





AvantagesLes données ne proviennent pas nécessairement d’une loi à valeursextrêmesL’estimateur est une vraie mesure spectrale avec des atomes, pasbesoin de trafiquer !Approche bayésienneMeilleurs résultats pour tailles d’échantillon petites

InconvénientsOn doit choisir un bon point pour censurerRéponse numérique, le lissage est compliquéLorsque plusieurs points approchent les bornes on reste coincé, onmanque d’espace pour bouger.L’asymptotique ?




La représentation par une intégrale

La condition de régularitéA′ est une fonction absolument continue

La décomposition

A(ω) = 1− 12

B(2ω − 1)

B(x) =12

∫ 1

−1{(1− xy)− |x− y|}C(y) dy

=12

∫ 1

−1{(1 + x)(1− y) ∧ (1− x)(1 + y)}C(y) dy}

C ≥ 0,∫ 1−1(1− y)C(y) dy ≤ 2 et

∫ 1−1(1 + y)C(y) dy ≤ 2




Les polynômes, version classique

La représentation vectorielle et la bijectionA : polynôme de degré ≤ m + 2B(x) = (1− x2)

∑mi=0 bixi, b ∈ Rm+1

C(x) =∑m

i=0 cixi, c ∈ Rm+1

b = Gc, G inversible

La caractérisation, intersection de deux ellipsoïdes

C(x) =

{P2(x) + (1− x2)Q2(x)x si m est pair,(1− x)P2(x) + (1 + x)Q2(x) si m est impair∑

k impairck

k+2 −∑

k pairck

k+1 ≤ 1,∑

k impairck

k+2 +∑

k pairck

k+1 ≤ 1




Les polynômes, version Bernstein

La représentation vectorielle et la bijectionA : polynôme de degré ≤ m + 2Y(m, t) : variable aléatoire de loi binomiale(m, t)B(x) = (1− x2)E[β(Y(m, (1 + x)/2))], β ∈ Rm+1

C(x) = E[θ(Y(m, (1 + x)/2))], θ ∈ Rm+1

β = Γc, Γ inversible

La caractérisation ( version restreinte ), polytopeθ(k) ≥ 0, ∀k ( version restreinte ) h(x) ≥ 0, x ∈ (0, 1)

1m+1

∑mk=0(1−

k+1m+2)θ(k) ≤ 1

2 ,∫ 1

0 (1− y)h(y)dy ≤ 12 ,

1m+1

∑mk=0

k+1m+2θ(k) ≤ 1

2 .∫ 1

0 yh(y)dy ≤ 12 ,




la qualité d’approximation

l’approximation de BernsteinA : fonction de PickandsBm+2A : approximation de Bernstein

BnA(t) = E[A(Y(n, t)/n)]

la borneOn a les résultats suivants,

I Bm+2A est un fonction de Pikands polynomiale qui satisfait lacontrainte de la version restreinte

I |Bm+2A(t)− A(t)| ≤√

t(1− t)/(m + 2) ∀t ∈ [0, 1]




La loi a priori et la chaîne

loi a priori, version BernsteinDiscrète sur m et, conditionnellement à m, uniforme sur le polytope.

la chaîneMH standard avec sauts réversibles.





AvantagesLa solution numérique se résume dans les paramètres du polynômeL’estimateur est une vraie fonction de dépendance, pas de lissage àfaire, pas besoin de trafiquer !Approche bayésienneMeilleurs résultats pour tailles d’échantillon petites ?Belles formules, liens entre le polynôme et la forme intégrale.

InconvénientsRéponse numérique, projet en devenir !Borne de l’ordre de O(1/

√n) à comparer avec O(1/n)

Lorsqu’on approche d’un sommet autre que l’origine on reste coincé,la pointe est aiguisée.L’asymptotique ?


Documents

Estimation de copules, une approche bayésienne