Math. Ann. 255, 335-350 (19811 Hlathematische Annalen �9 Springer-Verlag 1981

Th~orie du potentiel associ~e h certains syst~mes diff6rentiels

N. Bouleau

Centre de Math6matiques de l'l~cole Polytechnique*, Plateau de Palaiseau, F-91128 Palaiseau Cedex, France

Nous avons montr6 en [1] que la theorie axiomatique des fonctions biharmoni- ques introduite par Smyrnelis [14] se ramenait /i la th6orie du potentiel d'un processus de Markov obtenu par couplage de deux processus de Hunt. Dans ce cas, le couplage ne modifie qu'un seul des deux processus. Nous 6tendons ici cette m6thode/l un couplage positif quelconque de n semigroupes droits, ce qui permet d'associer une th6orie du potentiel h des syst6mes de la forme

A~ui+ ~ Biiuj=O, i=1 . . . . . n, (1) j = l

oil les A i s o n t des g6n6rateurs infinit6simaux de n semigroupes donn6s et les Bij des op6rateurs positifs.

La premi+re partie concerne la construction du processus. La m6thode est plus gdn6rale que celle des 6volutions al6atoires qui permet de construire des semigrou- pes r6solvant les probl6mes de Cauchy de la forme

0ui = (Ai- qil)ui + qi ~ i = 1, .., n O-T Pi~Bi~uJ' " '

j = l ) * i

(Bijmarkoviens, q ,>O,~Pij=l) quiaeteintroduiteparGriegoetHersh[12]et

perfectionn~e par Heath [10]. Elle consiste ~t associer un processus au semigroupe perturb6 d'un semigroupe donn6 Pt par un noyau positif Bet 5 prendre le cas o~ Pt est form~ de la juxtaposition de n semigroupes sur des espaces diff6rents et o/J Best une matrice d'op6rateurs (Bo) entre ces espaces. On obtient ainsi ais~ment l'expression de rop~rateur harmonique et le fait que la notion de r~gularit6, et donc de topologie fine, associ6e au processus coincident avec les mEmes notions pour le processus non perturb&

Les r6sultats d'existence et d'unicit6 des solutions de probl~mes aux limites associ~s ~ des systbmes tels que (1) avec second membre o/~ les A s sont des

* Laboratoire de Recherche associb au C.N.R.S. n ~ 169

0025 -5831/81/0255/0335/$03.20

336 N. Bouleau

op6rateurs int6gro-diff6rentiels de Waldenfels et les conditions aux limites donn6es par des syst6mes de Ventcel' [-5] peuvent s'obtenir, dans le cas d'une vari6t6 C ~ partir des r6sultats de [-5] et [15] par application du th6or6me de stabilit6 de l'indice. Du point de vue des 6quations diff&entielles, l'intdr& d'une approche probabiliste est plut6t d'6tendre l'6tude au cas off le bord est peu r6gulier. Ceci est illustr6 dans la deuxi6me partie pour le probl6me de Dirichlet.

La construction faite ~ la premi6re partie n'est possible que si une condition de finitude est v6rifi6e qui se traduit en pratique par une limitation de la taille des ouverts dans lesquels on pourra appliquer la th6orie. Par exemple, le syst6me suivant, ofJ A est le laplacien sur IR e, d > 1,

Au+v+w=O

u+ Av+w=O

u+v+Aw=O

avec donn6e fronti6re continue, a une solution unique dans tout ouvert de IRd r6gulier (au sens du noyau newtonien) contenu dans une boule de rayon suffisamment petit. Pour une boule par exemple si d = 3, la solution n'existe en g6n6ral que si le rayon de la boule R v6rifie R < zr/2.

L'6tude de la condition de finitude est trait6 en appendice. Le cas off elle n'est pas r6alis6e fait l'objet de [2].

I. Construction du processus et th~orie du potentiel associ~e

1. Perturbation positive d'un semigroupe droit

On se donne un espace E lusinien m6trisable, un point J~E et un semigroupe droit Pt (au sens de [13]) sur E'=Eu{6} dont on note (Up)p=> o la famille r6solvante. On note ~ la tribu bor61ienne de E, ~* sa compl~t6e universelle, ~', ~'* les tribus correspondantes de E'. Les fonctions sur E sont identifi6es aux fonctions sur E' nulles en ~.

On se donne 6galement un noyau positif B sur (E, g*) 6tendu en un noyau sur (E', ~'*) en posant B(J,-) = 0.

Si (Qt)t>__o et (Rt)t>=o sont deux familles mesurables de noyaux positifs sur (E',~'*) on d6signe par [Q(.)*R(.)](t) le noyau sur (E',g'*) d6fini par

t

EQ(" )* R(.)](t)f(x) = S QsRt- J(x)ds 0

pour toute fonction f~'*-mesurable positive, pour tout x~E'. On consid~re alors la famille de noyaux positifs sur (E', g'*) d~finie par

~t=P,+ ~ [(P(')B)*m*n(')](t) �9 m = l

On v&ifie ais~ment, par r6currence sur le degr6 des termes en B, que la famille ~t est un semigroupe mesurable positif de famille r6solvante

~p = ~ (UpB) ~U€ m ~ O

Th6orie du potentiel 337

Lemme 1. Si E est un espace l.c.d., P, de Feller de g~n&ateur (A, DA) sur Co(E), et si Bes t un opOrateur continu sur Co(E), ~ est un semigroupe fortement continu sur Co(E ) de g~n&ateur infinitesimal (A + B, DA).

Ce r6sultat est classique [11].

Lemme 2. La fonction ~'*-mesurable rOsolvante ql~.

D~monstration. L'6galit6 ~ v6rifier est

b= ~ (UB)mle, est invariante pour la m = O

p (UpB)" Up UB) k 1 E, = ( UB)" 1 r.,. 0 k n = O

On proc~de comme pr~c6demment par r~currence sur le degr~ des termes en B. Nous raisons alors l 'hypoth6se pour toute la suite que la fonction b e s t time.

Nous posons alors N[ = h ~t(b" ) ce qui d6finie un semigroupe markovien sur

E'. Notons Yt les applications coordonn6es de E '~+ et (g~176 la filtration engendr6e par les applications Yr Toute probabilit6 p sur (E', ~') est de Radon donc il existe une probabilit6 N', sur (E'~§ ~ telle que le processus

! t ( E'~+, N~ N~ Yt, ~,) soit markovien de semigroupe Ni de mesure initiale/~. No tons f2 l 'ensemble des applications continues & droite de IR+ dans E' et

(s j~o, ~O,Xt, IP,) la r6alisation canonique de Pt o/2 ~ o , o~o sont les traces de N o, (r sur ~ et X t les restrictions/L ~2 des applications Yr

Nous allons mont rer que ~[ est un semigroupe droit, en utilisant comme dans t [1] une repr6sentation de la mesure lP,/l partir de laquelle seront obtenues toutes

les propri6t6s du processus. Soit v u n e mesure positive sur (E', 8') int6grant b, on pose

~ =(~1, . . . , ~ ) e l R ~

et on d6finit une mesure IBm" sur (E '~+, N ~ de la fa~on suivante : a) Si n = 1, on pose pour toutes fonctions fg ' -mesurab les positives born~es et

i = l , . . . , m :

]g~' [ f l (Yt , ) . . - fm(Yt,,)] = vPt,f~... P,,-,,BPt,+,-a,f/+ 1... Pt,.-t,._ ,f,,

si O=<t 1< ... <t~<~_<_t,+~ < ... <tz, et

lB~'[fl(Yt,) " ' fm(Y,m)] = vPt , f l ' " Psi _,,BI~,

si 0=<t~ < . . . < t m < ~ 1. b) Si n > 1 on pose ft._ 1= (~2 . . . . . c~), et

�9 ?Efl(Y,,) ... f~(Y,,)]

=IP~[f,(Y~,).. /'~E ~]B ~ " - ' r~" -~, ,,, ~;: a '~+t(Y,,+,-~. ') '"f. ,(Y*..-~. ')]]

si O=<t~ < . . . < t ~ < a ~ - < t ~ + l < . . . < t in , et

~]:" If1( Y~,)''" f,~(Y,m)] = P,[f,(Yt,)...fra(Ytm)lBfle~l B [1]]

si 0 < t x < ... <tm<a 1.

338 N. Bouleau

La mesure IBm" est ainsi d6finie d6s que la masse totale du syst6me projectif soit vP~,BP~B ... P ~ B1 est finie. Comme v int6gre bet que

b = l + ~ ~P~B ...P,,~BldA,(al, . . . . ,~",) n = l

off A n d6signe la mesure de Lebesgue sur IR~, on voit que les mesures IBm" sont d6finies pour An-presque tout a, et on obtient par classe monotone la repr6sentation suivante :

1 Proposition 3. Soient I~ une mesure born& sur (E', 6') et v = ~.l~,

a) pour route fonction ff~~ born&, l'application

%-*IB~"[/]

est A,-mesurable, b) en considOrant la mesure IP, comme une mesure sur (E '~+,~~ portOe par f2, on a

t ~ ~rl re.If] = IPv [ f ] + ~IB~ [f]dA.(~.). n = l

A partir de ce r6sultat, les d~monstrations des lemmes 4-7 ci-dessous utilisent des techniques habituelles en th6orie des processus de Markov et sont analogues celles des propositions 2-5 du chapitre III de [1], nous ne les reprenons doric pas.

' r Lemme 4. L'ensemble Q est de mesure ext~rieure pleine pour IP. pou toute mesure # born&.

On se restreint ~t g2 et on complete comme classiquement les tribus. On note

if" la compl~t6e de ~-' pour IPu, t f#t u = ~ ~ v {n6gligeables de f#" pour IP,},

fr (~ f#", It

I t

~'-It, ~t u, ~ , ~ les tribus obtenues de la m~me fa~on par compl6tion pour IP u de sorte qu'on a les deux r6alisations

(f2, ~ , ~ ,X, , IPIt) et (f2, fq, ~,,X,, IP',).

D'apres la proposition 3, on a f# C ~ , f#t C ~ et la repr6sentation de la mesure IP', s'6tend par encadrement ~ ces tribus:

Lemme 5. Avec les notations de la proposition 3, pour toute fonction f f#-mesurable born&, f est lB~"-mesurable pour A.-presque tout %, l'application

~.~IB~"[/]

est A,-mesurable et on a

t ~, ct n m,[ f ] = mIt[f] + . (~ [f]dA,(~,). n = l

Thborie du potentiel 339

Lemme 6. Une fonction r~elle sur E' est presque borOlienne pour ~ si et seulement si elle est presque bor~lienne pour Pr

Lemme 7. Les fonctions p-excessives pour ~t' sont continues d droite sur les trajectoires lP'~, p.s. pour toute p.

Ces lemmes permettent d'6noncer:

Proposition 8. ~ ' est un semigroupe droit.

Proposition 9. Soit A C E ' un ensemble presque bor~lien (pour Pt ou ~; d'apr~s le lemme 6), un point x 6 E ' est rOgulier pour A relativement 2t ~ si et seulement si il est rOgulier pour A relativement ?t Pr

DOmonstration. Soit v int6grant b, si f est ~~ born6e, et si ~, est tel que IlIB~~ < ~ , o n a d'apr6s la d6finition de IBm" :

lB~"[f] = IPv[f . P ~ B ... P ~ B I E,(Xo) ] .

On en d6duit par encadrement que, si f est ffo-mesurab!e born6e donc ~o-mesurable, cette relation est encore valable pour A,-presque tout ~,, d'ofi

~lB:"[f]dA, = IP~[f . ( b - 1)(X0) ] , n = l

donc si on pose p = b.v, on a

IP'.[f] = mv[f. b(Xo)].

En particulier

IP'~[f] = IP~[J-J pour tout x ~ E ' et pour toute f~0-mesurable positive d'o/1 le r~sultat d'apr~s la dbfinition d'un point ragulier.

I1 en r6sulte qu'en plus de la notion d'ensemble presque bor61ien, la topologie fine et la notion d'ensemble semi-polaire pour Pt et ~; coincident. Notons aussi que d'apr6s la repr6sentation de la mesure IP'u, si un ensemble est polaire pour ~;, il est polaire pour Pt et que les notions d'ensemble de potentiel nul coincident d'apr6s la forme de la r~solvante ~p.

L'6tude de la th6orie du potentiel pour ~t se fait par transport de structure ~t partir du processus (~, if, (qt,Xt, IP'u), une fonction ~;-excessive 6tant le quotient par b d'une fonction ~t-excessive. Par exemple si Tes t un temps d'arr6t de (~t) et u une fonction born6e nulle en 6 et g*-mesurable, ~t partir du noyau ~ P sur (E, g*) d6fini par

~u(x) = m ' ~ [ e - " % ( x o ] ,

on d6finit le noyau ~P par

~ .u = b~"(u/b)

6tendant ainsi la dafinition de ~t aux temps d'arrfit de (~t). Soient A C E' un ensemble presque bor61ien, Tle temps d'entr6e dans A et Dle

d6but de A. Ce sont des (fit) donc des (~)-temps d'arr~t, on a:

340 N. Bouleau

Proposition 10. Soit u une fonction sur E, N*-mesurable positive, pour tout xe E et pour tout p >=0, on a

~ u ( x ) = P~u(x) + ~ (G~B)np~u(x) n=l

of~

et

PP u( x ) = I P x [ e- PDu(X o) ]

D

DOmonstration. Nous allons montrer que

~ u ( x ) = P~u(x) + G~B~u(x ) .

Ceci entralne le r6sultat car si 0_< u_< 1 on a

(G~B)n~u(x) < (UB)nb(x) = ~ (US)'nl~,(x) m=n

expression qui tend vers z6ro quand n tend vers l'infini puisque best finie. Traitons t le cas p = 0. D'apr6s la d6finition de ~ et la repr6sentation de P , on a

~.u(x) = IPx[u(XD)/b(XD) ]

+ ~, ~,"[u(X.)/b(XD)]dAn(an). (10.1) n = l

, . u(Xv) a) Soit a.=(:r . . . . . . an) tel que [[~]~"J[ < or, il rhsulte du fait que ~ I{D<~ est

une fonction ~cmesurab l r que

b(XD) t [ OUD)

et en sommant sur n, on en d6duit la relation

F u(XD)] ~" 1 dA = u X oo

u { X D)

b) D ~tant un d6but on a e~ +DoO~ =D sur l'ensemble {~ <D} de sorte que

IB ~[u~D) I{.~Dj ] ~ " [1 UOiD) o "~ ]

Comme {a~ = < D } ~ a _ , il rhsulte de la d4finition de ~ que r vaut encore

~(a~ ... ~1) U n's %'d' [ (X v)/b(X v)]]

Th6orie du potentiel 341

On en d6duit en int6grant par rapport / l A, et en sommant compte-tenu de (10.1):

n = l

= GDB~Du(x ) (10.3)

d'ofi le r6sultat par addition de (10.2) et (10.3).

Remarque. La formule de la proposition 10 est fausse en g6n6ral si on remplace D par le temps d'entrSe T dans A. On peut voir toutefois qu'elle reste vraie si le noyau B transforme les ensembles semipolaires pour Pt en fonctions de potentiel nul pour Pr

D 6tant toujours le d6but d'un ensemble presque bor61ien, nous d6finissons le noyau potentiel de Green (Sf~ par la formule

~f~u(x) = %u(x)- ~ ' g u ( ~ )

et on a par une d6monstration analogue ~ la pr6c6dente:

Proposition l l . Soit u une fonction sur E g*-measurable positive, on a

(~D u = GDU + ~ (Gt)B)nGD u. n=l

2. Application au couplage de n semigroupes droits

I1 ne s'agit dans ce paragraphe que de fixer quelques notations. Nous nous donnons n espaces lusiniens m6trisables Ei, i= 1, . . . , n, un point 6, 64 ~. E~, et n

semigroupes droits P~ sur E' i = Eiw{6 } ainsi que n 2 noyaux positifs Bit de (E i, 8*) darts (E~,d~ on pose E = E I + ... +E, et E '=Eu{5} . Nous d6finissons un semigroupe droit P, sur E' par la juxtaposition des semigroupes PI, la matrice B =(B~j) d6finit un noyau positif sur (E,g*) et nous appliquons la construction pr~c6dente h Pt et ~t B.

D'apr6s la repr6sentation de la mesure IP'u on voit que IP', p.s. la trajectoire de X t saute un nombre fini de lois entre les espaces Ei.

Remarque. On pourrait traiter par la marne m6thode le couplage d'une infinit6 dbnombrable de semigroupes droits.

II. Probl~me de Dirichlet dans un ouvert de bord que|conque

Nous nous limiterons au cas du probl~me de Dirichlet homog~ne, l'6tude du probl6me inhomog~ne se ferait de fa~on analogue h partir du noyau (~D et de la proposition ! 1.

i. Limite ?l la fronti~re de la solution stochastique en des points r~guliers

Nous faisons les hypoth6ses suivantes:

l.a. Les semigroupes PI sont de Feller sur E i qui est un espace l.c.d., ~ trajectoires continues et les op6rateurs PI sont fortement felleriens.

342 N. Bouleau

l.b. On se donne n ouverts G i C E i relativement compacts, et on pose G = ~) G i, on suppose que pour tout x dans G i i

Ti < ~ IP ~ p.s.

off IP~ est la mesure associ6e ~t PI, T~ le temps d'entr6e dans le compl6mentaire G~ de G i e t ff la dur6e de vie de X r

1.c. Les noyaux B~ sont born6s et respectent les ensembles Gi, c'est-fl-dire qu 'on suppose que la mesure e~B~j est port6e par Gj pour tout x~ G~.

Proposition 12. Sous les hypothkses ( l.a) ~l (1.c) et si la fonction best born6e (cf appendice), pour toute fonction f = (1"1 ..... f,) g*-mesurable born6e, s i f est continue en Xo, Xo~OG, et s i x o est r69ulier pour G ~, alors, T 6tant le temps d'entr6e dans G ~, o n a

lim ~ r f ( x ) = f(Xo). G~X--*X 0

D6monstration. Supposons Xoe OG~, d'apr~s la proposi t ion 9, x o est r6gulier pour G ~ relativement fl P~. D'apr~s [8, th6or~me 13.3], on a

lira PrY(x)= lira P~,f(x)=f(xo). (~gX~XO GgX~XO

D'apr~s la proposi t ion 10, pour tout x dans G on a

~r f (X) = Pr f (X) + IP~ B (arB)'Prf(X~)de , m = O

or lorsque x est voisin de x o, x appartient/L E~ et le deuxi~me terme est major6 en valeur absolue par

IP~[T~]. ltBtl" Ilbll' Ilflt

expression qui tend vers z6ro lorsque x tend vers x o d'apr6s [8, th6or~me 13.7].

Remarque. D'apr~s [6] la proposi t ion 12 est encore vraie si dans l 'hypoth~se (1.a) on suppose seulement les rdsotvantes des semigroupes P~ fortement felleriennes.

2. Fonctions stochastiquement harmoniques

Nous faisons les hypothbses (1.a) ~t (1.c) et nous supposons la fonction b finie.

D~finition 13. Un n-uplet f = ( f l ..... f,) est dit stochastiquement harmonique dans G si

i) [f l<kb dans G, oit k~F,+, ii) f est finement continue dans G,

iii) pour tout A presque borklien tel que 7tc G, on a dans G

~ T ~ f = Y

Oft TA, est le temps d'entr6e dans A C.

Remarquons que par les hypoth6ses (1.a) et (1.c) la fonction b e s t stochasti- quement harmonique dans G.

Th6orie du potentiel 343

Proposition 14. Soit g=(gl ..... g,) une fonction g*-mesurable born~e, il existe une fonction f stochastiquement harmonique dans G, unique, telle que

lim f(Xt)=g(Xr) IP'xp.s. Vx~G. t'f T

Elle est donnOe par

f ( x ) = ~Tg(x ) .

D~monstration. 1) Montrons que la fonction J = ~ T g convient. Soit A presque bor6lien tel que A C G, d'apr~s (1.c) on a

TAc<T IP'xp.S. VxeG,

donc, par la propri6t6 de Markov forte

~Ta f(x) = f(x).

Posons

f(Xt) 1 g(X,) Mr= b(X,) (,<Tj+ b~)l/r<t~,

M, est une (f#~, IP'x)-martingale forte donc lP'x-indistinguable de la version continue h droite de

[b(Xr) I 'J" I1 en r6sulte que f est finement continue doric stochastiquement harmonique dans G, et que M r_ =l imM, existe IP'~ p.s. pour tout x dans G.

tTT I1 r6sulte alors du fait que les semigroupes PI sont h trajectoires continues et

que B respecte G que Test (N~, IP'x)-pr6visible. Donc d'aprSs [7, chapitre VI, T10] o n a

MT_=IP'~[MTI(~._ ] IP'x p.s.

Comme T e s t pr6visible et X quasicontinu b, gauche (cf. [I, chapitreIII, proposition 6]), M r e s t f#~ -mesurable donc M r_ = M r lP'~ p.s. La fonction b 6tant excessive r6guli6re pour Pt, on a aussi

( b ~ X ) T _ =boX r lP~ p.s.,

et par la reprdsentation de la mesure IP'~ on en d6duit

(boX)T_ =boX T IP'~ p.s.,

d'ofi

(f~,X)r =goX r IP'xp.s. VxeG.

2) Montrons l'unicit6. Soit f ' stochastiquement harmonique dans G telle que

lim f'(X,)=g(Xr) 1P'xP.S. VxeG, t iT

344 N. Bouleau

alors

= (f'(X) + k) Nt \ b ~ t ) 1{'< T)

et

N;= (k- f'(X)l b(X) J 1{, < T}

sont deux surmartingales continues ~t droite pour ((#~, IP'~) pour tout x dans G, si k est une constante suffisamment grande. Or sous les conditions habituelles si N t est une surmartingale continue h droite et T u n temps prhvisible, le processus

Ntl{t < T} -~ N T - I{T_-< t}

est une surmartingale. On en d6duit que

f'(X) g(Xr) M ; - b(Xt ) l~,<r}+ b(--~r) I{T__<0

est une (f~', IP'~)-martingale continue ~ droite born6e d'ofi f = f ' dans G.

3. R~gularit~ de la solution stochastique

On consid6re les hypoth6ses suivantes:

3.a. Les espaces E/ sont des espaces euclidiens IRa,, on se donne n op6rateurs diff6renciels L / s u r IR a', i = 1 . . . . . n, du type suivant

~2 u d 8u Lu(x)=l/2 ak,,(X)8~kSxl(X)+ 2 bk(X)~xk(X)"

k , l = l k = l

L e s t suppos6 uniform6ment elliptique, les fonctions ak, l sont continues et les fonctions b k s o n t Lebesgue-mesurables born6es.

On se donne un ouvert relativement compact (9 C E de fronti6re de classe C 2, et on pose (91=(9c~IR a'. D'apr6s [4, T4] s i p est un r6el tel que supdi<p< ~ , et si

DI = {u~ W2"p((9)nCo((9)lLiue Co(G)},

les ophrateurs (LI, D ) sont les g6n6rateurs infinithsimaux de n semigroupes de Feller PI sur (9 v D'apr6s les r6sultats de [15] et le fait que les (9/sont de classe C 2, les semigroupes PI vhrifient (1.a).

3.b. On se donne n ouverts G i C G/C Of on note G = ~) G/et on suppose la condit ion (1.b) satisfaite. On se donne des noyaux positifs B u de ((9/, 6*) dans ((9~, g*) born6s, respectant les ouverts G/, et tels qu'il existe une suite d 'ouverts G~ v&ifiant

G~n C (~" C G~n+ 1 C G~n+ 1 CG,

G, = U G,,,, G', iCG i ,

Th6orie du potentiel 345

tels que

m

les fronti6res des G" &ant de classe C 2 et les G~, 6tant respect6s par les noyaux B~j.

3.c. On suppose la condition de finitude v6rifi6e avec b born6e. (cf. appendice). On consid6rera aussi les hypoth6ses suivantes"

(3.a bis) M~me chose que (3.a), les coefficients ak, / e t b k 6tant suppos6s h61deriens.

(3.b bis) M6me chose que (3.b) et de plus les noyaux Bij envoient les fonctions de classe C 1 sur G~,.j dans l'ensemble des fonctions h61deriennes dans G' m, i"

Notations. Si U est un ouvert born6 de lR d de fronti6re de classe C k, k entier positif, et si p6[1, o9[,

1

wk,.(c) et

d6signent les espaces de Sobolev classiques. L'application restriction au bors 7 o applique Wk'P(U) dans wk-1/p'P(OU). Si k p > d , les 616ments de ces espaces sont 6gaux presque partout ~ des fonctions continues. Si U est un ouvert born6 de fronti6re quelconque,

W(oT(C) d6signe l'ensemble des u tels que pour tout ouvert U' C U' C U de classe C ~ on ait

ulu.~ Wk'P(U').

On notera

2 - 1 2 1

w (I w / = 1

i = 1

= (I / = 1

et Lf l 'op6rateur sur WI2o;P(G) d6fini si u=(u l , ...,u,), par

~f u = (Ll u 1 . . . . , L,u,) .

Proposition 15. Sous les hypotheses (3.a) dt (3.c), et s i p > supdl, i

1) la solution stochastique du probl~me de Dirichlet homog~ne dans G avec donnOe g = (gt . . . . , g , )e bd ~*, soit f ( x ) = ~rg(x), est dans WIE'~p(G) et v~rifie

(~f + B ) f = 0

au sens des distributions,

346 N. Bouleau

1

2) si G est de classe C 2 et si ge W2-~'V(dG), f coi'ncide avec runique solution darts W 2'v(G) du systOme

(~q~ + B)u = 0 dans G

y~

D~monstration. 1) En vertu de (3.c) la fonction f est bornOe done Bf 6galement. D'apr6s la proposition 14, f vdrifie dans G~

f = ~r'~f = P r ~ f + Gr'~Bf

off T" es t le temps de sortie de G~,. D'apr6s [4, th6or6me 4], on a

Gr, Bfe W 2' P(G')

et

5f G r, B f = - Bf .

D'apr6s [8, th6orame 13.2], la fonction Pr'~f 6tant Pt-harmonique dans G~,, est continue dans G~,, par suite, f est continue dans G~, donc dans G. I1 r6sulte alors de [3, Sect. 3] que

PT~f~ W,Z'vi~ ' 10r k V m ]

donc

f e WloZ~P(G) et

Pr~ , f=0-

On a donc bien dans G

, ~ f = - B f .

2) Si G est de classe C 2, l'injection canonique de W2"V(G) dans WI'p(G) est compacte. De l'in6galit6

Ilu~ll 0o < clluil[w, .~G,i

valable si ule WI'p(Gi), o n d6duit que B e s t continu de WI'P(G) dans LP(G). I1 r6sulte alors de [3, th6orame 3] et du th6or6me de stabilit6 de l'indice que l'application

~p : u - * ( ( s + B)u, y~ de Wz'P(G) dans LP(G) x W 2-1/P,P(OG) est d'indice z6ro. Pour montrer que ~ est injective, ce qui d6montrera te point 2) de Ia proposition, montrons que si une fonction ue W2'p(G)c~Co(G) est telle que

~ u = - Bu,

n6c6ssairement u=0. D'apr6s [4, th6or6me 4], le semigroupe P, tu6/t la sortie de G est le semigroupe

de Feller ayant pour g0n6rateur infinit6sima] la restriction de 5r g t'espace

{u~ W2'V(G)nCo(G)l.L,('ue Co(G)} ,

Th+orie du potentie| 347

le noyau potentiel G T a une densit6 par rappor t ~t la mesure de Lebesgue, et si gsLP(G) on a

GTgE W 2' P(G)

et

~GTg = -- g

7 ~

On a donc ici

u = GrBu = (GTB)"u ,

or cette expression tend vers z6ro lorsque n]'oo puisque bes t finie.

Proposition 16. Sous les hypothOses ( 3.a bis), ( 3.b his), (3.c), 1) la solution stochastique du problkme de Dirichlet dans G avec donnde g6bo ~*,

soit f = ~TO, est de classe C 2 dans Ge t vdrifie

( ~ + B) f = 0 dans G,

2) si G est rOgulier (pour Pt ou ~[) et si g est continue sur ?~G, f coincide avec l'unique solution de classe C 2 du systOme

( cS + B)u = 0 dans G

lim u(x)=g(Xo) Vxoe•G. G ~x ~ x o e ~ G

D~monstration. Comme pr6c6demment f est born6e et pour tout xe GI, on a

f (x) = ~@T;,f (x) = PT;,(X) + GT,,Bf (x) .

D'apr6s [8, th6or6me 13.9], Pr'~f est de classe C 2 dans G~, et vdrifie

Pr'~f = 0 dans G~,.

On a vu fi la d6monstra t ion pr6c6dente que

Gr, Bfe W 2' P(G~)

donc GT~Bfest de classe C 1 sur ~-7s 11 en r6sulte que f e s t hiSlderienne dans G~,_ 1 et le th6or6me 13.16 de [8] nous dit alors que GT'm-, est de classe C z dans G',,_I et v6rifie

C~GT;=_lBf = - B f dans G' m - - 1 "

Ceci 6tant vrai pour tout m, on a d6montr6 le point 1). Sous les hypoth6ses du point 2), soit ueC2(G)C~Co(G) telle que

2'u = - Bu.

D'aprOs [8, thOor6me 13.16] on a u = GrBu d'ofl il r6sulte comme pr6c6demment u = 0 parce que b e s t finie. Ce qui achOve la dOmonstration.

348 N. Bouleau

III. Appendice: l~tude de la condition de finitude

1. Cas triangulaire

Avec les notations de la partie 1.2, on note U i le noyau potential de PI et U celui de Pr Le cas triangulaire est celui off B~i = 0 si j >__ i, dans ce cas la s4rie

(UB) ~' m = l

n'a qu'un nombre fini de termes non nuls, si les noyaux Bi~ sont born6s la condition de finitude est v~rifi~e d~s que les noyaux U i sont born6s.

2. Cas oh les op~rateurs Bij sont locaux

Supposons que les espaces E i soient les copies d'un m4me espace et que les Bij soient des op&ateurs de multiplication par des fonctions universellement mesura- bles positives born6es. Supposons 6galement que les semigroupes PI soient tous 4gaux ou plus g~nhralement que les noyaux potentiels Ui soient major6s par le noyau potentiel U d'un semigroupe Pr

I1 est alors facile de voir que si [[Bij[I <k pour tous i , j= 1 ..... n,

m = l m = l

et si en plus B.=O pour tout i,

(UB)ml_-< ~, km(n - 1)=U=1. m = l m = l

Prenons le cas oh Ei = IR a pour tout i e t oh Pt est le semigroupe associ6 ~ une diffusion dont on note IE x la mesure associ6e sur l'espace des trajectoires et qui est t@e h la sortie d'un ouvert (9 born~ dont on note TIe temps de sortie. La condition

~ cmU~l < oo m = l

est ~quivalente

IEx[e or] < ooVxe (9.

D'aprhs [9, chapitre 14, thhor~me 10.1], si l 'op6rateur diff6rentiel de la diffusion v6rifie certaines hypoth4ses de r6gularitG la condition

supEx[e or] < oo x

est v6rifi6e si et seulement sic est inf&ieur strictement ~ la valeur propre principale de L relativement fi (9.

Dans le cas du mouvement brownien on peut montrer le r6sultat suivant :

d 1 Lemme 17. Posons v = ~ - et soit G le premier zdro strictement positif de la

fonction de Bessel

j r ( r ) : {r/~ + ( -1 ) m {rtZm \2] m~=O m !F(m + v + 1) \2J

ThOorie du potentiel 349

alors la condition

IE~[e cr] < ooVxs (9

est vOrifiOe quand (9 est une boule de rayon R si et seulement si

( 2 C ) 1 / 2 R < r v

et dans ce cas

suplEx[e cT] < oo XE:~

donc la fonction bes t bornde.

3. Cas gOn~ral

Avec les notat ions de la partie 1.2, on suppose

[IUil I <c, IIBijlt <k ,

alors la condit ion de finitude est vOrifiOe (avec b bornOe) dos que

nck < 1. (3.1)

Si les PI sont des semigroupes droits tuOs/t la sortie d 'un ouvert (9 i de temps de sortie T/la condit ion II Uill <c s'0crit

IE'xET~] < c VxE (9,. (3.2)

a) Pour le mouvement brownien dans IR d' si (9~ est une boule de rayon R~ la condit ion (3.2) s'0crit R~/d i < c. Doric dans ce cas b e s t born0e dOs que

n(supR2i l \ i dl j k < l .

b) Si le semigroupe PI est une diffusion sur IR d' associOe ~ u n opOrateur diffOrentiel

di 02 di . (~

L i = 1/2 Z ag,,(x) 8XkOX~ + l~=l b't(x) ~x~ + d(x) k , l = l =

oil i) les ag, t sont continues bornOes, les b I mesurables bronOes, et c i mesurable born0e n0gative,

ii) les matrices a~, t sont uniform0ment elliptiques de constante d'ellipticitO ql > O,

iii) on suppose B(x) - A(x) + C(x) > O~ > O, oh on a posO

1 d, at,,,(x)xtxm , A(x)= Z '

l ,m= 1

d~

B(x)= Z ai, t(x) l = l

d~

C ( x ) = 2 ~ x t b i ( x ) . I = l

350 N. Bouleau

Alo r s l ' express ion de l ' op6 ra t eu r L i sur les fonc t ions ne d 6 p e n d a n t que de la

d i s t ance ~ ro r ig ine , m o n t r e q u e (3.2) est v6rifi6e dans une bou l e de r a y o n R i si

R~ _<c. rli + Oi - D o n c la c o n d i t i o n (3.1) est verifi6e si

R. 2

\ ~ rl~+OJ

Exemple. D a n s un o u v e r t bo rn6 de N 3, cons id6 rons le sys t6me

A u + g 1 2 v + g 1 3 w = O

g21u+ A v + g 2 3 w = O (18)

g31u + g32v + A w = O

avec d o n n 6 e f ront i6re con t inue , off les fonc t ions glj son t h61der iennes sur IR 3

ma jo r6es pa r 1 en modu le . A lo r s le sys t6me (18) a une so lu t ion u n i q u e dans t o u t

o u v e r t r6gul ier au sens du n o y a u n e w t o n i e n et c o n t e n u dans une bou l e de r a y o n inf6rieur ~t re/2.

Bibliographie 1. Bouleau, N. : Espaces biharmoniques et couplage de processus de Markov. J. Math. Pures Appl. 58,

187 240 (1979) 2. Bouleau, N.: Perturbation positive d'un semigroupe droit dans le cas critique, application h la

construction de processus de Harris (g paraitre dans le Sem. Th6orie du Potentiel n ~ 6) 3. Bony, J.M. : Principe du maximum dans les espaces de Sobolev. C. R. Acad. Sci. Paris 265, s6r. A,

333 (1967) 4. Bony, J.M.: Probl~me de Dirichlet et semi-groupes fortement felleriens associ6s gun op6rateur

int6grodiff6rentiel. C. R. Acad. Sci. Paris 265, s6r. A, 361 (1967) 5. Bony, J.M., Courr6ge, P., Priouret, P. : Semi-groupe de Feller sur une vari6t6 h bord compacte. Ann.

Inst. Fourier 18, 369-521 (1968) 6. Courr6ge, P., Priouret, P.: Axiomatique du probl6me de Dirichlet et processus de Markov.

S6minaire Brelot-Choquet-Deny, 2+me ann6e, 1963-64, no. 8 7. Dellacherie, C.: Capacit6s et processus stochastiques. Berlin, Heidelberg, New York: Springer

1972 8. Dynkin, E.B. : Markov processes. Berlin, G6ttingen, Heidelberg: Springer 1965 9. Friedman, A.: Stochastic differential equations and applications, New York, San Francisco,

London: Academic Press 1976 10. Heath, D.C. : Probabilistic analysis of hyperbolic systems of partial differential equations. Th6se

Univ. Illinois (1969) 11. Hille, E., Phillips, R.S.: Functional analysis and semi-groups. A.M.S. Colloquium, Vol. 31.

Providence: Americar~ Mathematical Society 1957 12. Griego, R., Hersh, R.: Random evolutions, Markov chains and systems of partial differential

equations. Proc. Nad. Acad. Sci. 62, 305 (1969) 13. Meyer, P.A., Walsh, J.B. : Quelques applications des r6solvantes de Ray. Invent. Math. 14, 143--166

(1971) 14. Smyrnelis, E.P.: Axiomatique des fonctions biharmoniques. Ann. Inst. Fourier 25, 35-97 (1975);

26, 1-47 (1976) 15. Stroock, D.W., Varadhan, S.R.S.: Diffusion processes with continuous coefficients. Comm. Pure

Appl. Math. 22, 345~,00, 479-530 (1969)

Regu le 13 juillet 1979; revis6e le 11 octobre 1980