An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
An introduction to numerical methodsfor stochastic computations. Part II
Mattia Zanella
Department of Mathematical SciencesPolitecnico di Torino, Italy
http://www.mattiazanella.eu
Ferrara, May 30 2017
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Programma della lezione
Seminario II
Equazioni differenziali ordinarie (ODE): metodi numericiL‘integrale stocastico: processo di ItoEquazioni differenziali stocastiche (SDE)Metodi numerici per SDE: schemi di ordine O(∆t1/2) e O(∆t).
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Equazioni differenziali ordinarie: ODE
Consideriamo la semplice equazione differenziale
dx
dt= a(t, x)⇔ x(t) = x0 +
∫ t
t0
a(s, x(s))ds
dove x(t) = x(t;x0, t0) e una soluzione t.c. x(t0) = x0. Osserviamoche le soluzioni di una ODE sono legate tra loro, in mododeterministico, dalla proprieta di evoluzione
x(t;x0, t0) = x(t;x(s;x0, t0), s) ∀t0 ≤ s ≤ t.
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Metodi numerici per ODE
Consideriamo il problema di Cauchydx
dt= a(t, x), t ∈ [t0, t0 + T ]
x(t0) = x0(1)
Introduciamo quindi una discretizzazione temporale omogenea
t0 < t1 < · · · < tN = t0 + T
con ∆t = tn+1 − tn = T/N,∀n = 0, 1, 2, . . . , N − 1 e y0 = x0.Possiamo calcolare in modo ricorsivo le approssimazioni dellasoluzione di attraverso metodi numerici di vario ordine che possiamodividere in due categorie
A Metodi ad un passo
B Metodi multistep
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Metodi numerici a un passo
Definition (Matematica Numerica, A. Quarteroni et al.)
Un metodo numerico per l’approssimazione del problema (4) si dicead un passo se ∀n ≥ 0, yn+1 dipende solo da yn. In caso contrarioparleremo di metodi multistep.
Alcuni metodi ad un passo:Metodo di Eulero forward o esplicito
yn+1 = yn + δa(tn, yn).
Metodo del trapezio o di Crank-Nicolson
yn+1 = yn +δ
2[a(tn, yn) + a(tn+1, yn+1)]
Metodo di Heun
yn+1 = yn +δ
2[a(tn, yn) + a(tn+1, yn + δa(tn, yn))]
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Metodi numerici a un passo
Applichiamo il metodo di Eulero forward e di Heun al problemadx
dt= −5x, t ∈ [0, 1]
x(0) = 1,(2)
con passo temporale δ = 2−3, 2−5.
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
t
x(t)
δ = 2− 3
esattaEuleroHeun
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
t
x(t)
δ = 2− 5
esattaEuleroHeun
HEconfronto.m
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Equazioni Differenziali Stocastiche: SDE
Per studiare l’evoluzione di variabili aleatorie sfruttiamo i concettisviluppati durante lo scorso seminario, in particolare la costruzionedel processo di Wiener Wtt≥0. In altre parole studieremo equazionidifferenziali del tipo
dXt = a(t,Xt)︸ ︷︷ ︸drift
dt+ b(t,Xt)︸ ︷︷ ︸diffusion
dWt, t0 ≤ t ≤ T
Xt0 = X0 q.c.
(3)
PROBLEMA
L’equazione (3) si legge in forma integrale
Xt(ω) = Xt0(ω)+
∫ t
t0
a(s,Xs(ω))ds+
∫ t
t0
b(s,Xs(ω))dWs(ω)
Come interpreto l’oggetto in dWt?
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Integrale di Ito
La costruzione dell’integrale di Ito verra affrontata durante le lezionidi teoria limitiamoci ora ad alcune definizioni. Dato un processo diWiener definito in una spazio di probabilita (Ω,F , P ) definiamo laclasse C come segue
Definition
Sia f : [t0, T ]× Ω→ R, diremo che f ∈ C se:
f e B[t0,T ] ⊗F−misurabile
f(t, ·) : Ω→ R e Ft−misurabile, dove Ft = σ(Ws, 0 ≤ s ≤ t)∀t ∈ [t0, T ], f(t, ·) ∈ L2(Ω,F , P ) e
∫ Tt0E[|f(t, ·)|2]dt <∞
Allora considerata una partizione di [t0, T ] definiamo
In(f)(ω) =
n−1∑j=0
f(t(n)j , ω)[W
t(n)j+1
(ω)−Wt(n)j
(ω)]
Si dimostra che se f ∈ C allora In(f)L2
→ I(f) =∫ Tt0f(t, ·)dWt
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Alcune proprieta dell’integrale di Ito
I(f) e FT−misurabile
E[I(f)] = 0
∀α, β ∈ R e f, g ∈ C si ha
I(αf + βg) = αI(f) + βI(g)
e
E[I(f)I(g)]) =
∫ T
t0
E[f(t, ·)g(t, ·)]dt
ossia se f ≡ g si ha E[I(f)2] =∫ Tt0E[f2]dt (isometria di Ito).
Martingalita: per t0 ≤ s ≤ t ≤ T allora con probabilita 1
E[It|Fs] = Is
Esiste una versione continua del processo It.
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Processo di Ito
Simuliamo una traiettoria del processo di Ito
It(ω) =
∫ t
0
Ws(ω)dWs(ω), 0 ≤ t ≤ 1 (4)
Verifichiamo media e varianza (tramite l’isometria di Ito) di It.
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1−0.2
0
0.2
0.4
0.6
0.8
1
1.2
1.4
1.6Una traiettor ia di It
t
I t
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1−0.1
0
0.1
0.2
0.3
0.4
0.5
0.6
t
Confronto media e varianza, n = 103
Valore atteso stimatoValore atteso teoricoVarianza stimataVarianza teorica
mediavarianzaito.m
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Processo di Ito
Consideriamo ancora It(ω) =∫ t0Ws(ω)dWs(ω). Con le usuali regole
di integrazione It dovrebbe coincidere conW 2
t
2 . Vediamonumericamente cosa otteniamo.
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1−0.4
−0.2
0
0.2
0.4
0.6
0.8
1Approssimazione dell’integrale stocastico
t
I(t)
W2
t /2Ito
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10
0.1
0.2
0.3
0.4
0.5
0.6
0.7Differenza tra It e integrazione alla R-S
t
|| It−W2
t /2 ||L1
ItovsRS.m
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
SDE lineare con rumore additivo
Diremo che Xt presenta rumore additivo se il rumore non dipendedallo stato della variabile.
dXt = (α− βXt)dt+ γdWt, α, β, γ ∈ RXt0 = X0.
(5)
Possiamo scrivere equivalentemente la SDE precedente in terminiintegrali come
Xt = X0 +
∫ t
0
(α− βXs) ds+
∫ t
0
γ dWs, q.c. (6)
Se X0 e deterministico o Gaussiano il processo soluzione di (5) edetto di Ornstein-Uhlenbeck e puo venire calcolato esplicitamente
Xt =α
β+X0e
−βt + γ
∫ t
0
e−β(t−s)dWs (7)
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
SDE lineare con rumore moltiplicativo
Se Xt dipende dallo stato della variabile parleremo di rumoremoltiplicativo.
dXt = αXtdt+ βXtdWt, α, β ∈ RXt0 = X0
(8)
Il processo soluzione e detto moto browniano geometrico e haimportanti applicazioni in finanza. Tramite il Lemma di Ito possiamoricavarne la sua soluzione esplicita
Xt = X0 exp (α− β2/2)t+ βWt (9)
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Metodi numerici per SDE: Eulero-Maruyama
Consideriamo la SDE
dXt = a(t,Xt)dt+ b(t,Xt)dWt, t ∈ [t0, t0 + T ]
e la discretizzazione temporale omogenea
t0 < t1 < · · · < tN = t0 + T
con ∆t = tn+1 − tn = T/N per ogni n = 0, 1, 2, . . . , N − 1. Alloradato X0 = Y0, in analogia con lo schema di Eulero forward, possiamocostruirci le approssimazioni successive
Yn+1 = Yn + a(tn, Yn)∆t+ b(tn, Yn)∆Wn
Tale metodo numerico, di ordine 1/2, e detto schema diEulero-Maruyama. A partire dalla serie di Talyor e possibile costruireschemi di ordine superiore (Kloeden-Platen).
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Metodi per SDE: Taylor stocastico
Per ottenere schemi con ordine di convergenza superiori a E-M epossibile utilizzare lo sviluppo di Taylor stocastico. Consideriamo laseguente SDE in forma integrale
Xn+1 = Xn +
∫ tn+1
tna(Xs)ds+
∫ tn+1
tnb(Xs)dWs
e applichiamo la formula di Ito a a(Xs) e b(Xs)
Xn+1 = Xn +
∫ tn+1
tn
[a(Xn) +
∫ s
tn(a′(Xr)a(Xr) +
1
2a′′(Xr)b
2(Xr))dr
+
∫ s
tna′(Xr)b(Xr)dWr
]ds+
∫ tn+1
tn
[b(Xn) +
∫ s
tn(b′(Xr)a(Xr)
+1
2b′′(Xr)b
2(Xr))dr +
∫ s
tnb′(Xr)b(Xr)dWr
]dWs
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Metodi per SDE: Taylor stocastico
Consideriamo ora le approssimazioni discrete di dW e di dt: ∆W e∆t. Ricordiamo che ∆W = O(∆t1/2), si ha quindi
∆t ·∆t = O(∆t2),
∆t ·∆W = O(∆t3/2),
∆W ·∆W = O(∆t).
Otteniamo uno schema che converge con ordine 1 eliminando quindigli integrali del tipo
dWr · ds, dWs · dr, dr · ds
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Metodi per SDE: schema di Millstein
Approssimiamo il processo al tempo tn+1 come
Xn+1 ≈ Xn +
∫ tn+1
tna(Xn)ds+
∫ tn+1
tn
(b(Xn)
+
∫ s
tnb′(Xr)b(Xr)dWr
)dWs
≈ Xn + a(Xn)∆t+ b(Xn)∆Wn +
∫ tn+1
tn
∫ s
tnb′(Xr)b(Xr)dWrdWs
approssimiamo quindi il termine integrale come
b′(Xn)b(Xn)
∫ tn+1
tn
∫ s
tndWrdWs ≈ b′(Xn)b(Xn)
1
2(∆W 2
n −∆t)
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Metodi per SDE: schema di Millstein
Abbiamo ricava il seguente schema
Yn+1 = Yn + a(Yn)∆t+ b(Yn)∆Wn +1
2b′(Yn)b(Yn)(∆W 2
n −∆t)
con Y0 = X0.Applichiamo ora lo schema di Millstein per simulare la SDE
dXt = µXtdt+ σXtdWt, t ∈ [0, 1],
conX0 = 1, µ = 2, σ = 1.5
e ∆t = 10−2,−3. Rappresentare la soluzione numerica e la soluzioneesatta
Xt = X0 exp(µ− σ2/2)t+ σWt.
An introductionto numericalmethods
for stochasticcomputations.
Part II
Mattia Zanella
Introduzione aimetodi numericiper ODE
SDE
Integrazionestocastica
SDE lineari
Metodi numericiper SDE
Taylor stocastico
Schema diMillstein
Confronto Millstein - EM
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10
1
2
3
4
5
6
7
8
t
Xt
Exact
EM
MIL