#12
LU ANG ∗ July 7, 2020
Contents
1 Question 1 1
1.1 (1) . . . . 1
1.2 (2) . . . . 4
1.3 (3) . . . . 4
1.4 (4) . . . . 5
1.5 (5) . . . . 5
1 Question 1
1.1 (1)
In order to Obtain the variance matrix of y = (y
1, y
2, · · · , y
t) we first rewrite y
tas:
∗
If you have any errors in handouts and materials, please contact me via
[email protected]
y
t= ρy
t−1+
t= ρ
2y
t−2+
t+ ρ
t−1.. .
= ρ
τy
t−τ+
t+ ρ
t−1+ · · · + ρ
τ−1t−τ+1.. .
=
t+ ρ
t−1+ ρ
2t−2+ · · ·
where ρ
τy
t−τgoes to 0 when |ρ| < 1 as τ goes to infinity Then we can obtain variance as:
V (y
t) = V (
t+ ρ
t−1+ ρ
2t−2+ · · · )
= V (
t) + ρ
2V (
t−1) + ρ
4V (
t−2) + · · ·
= σ
2(1 + ρ
2+ ρ
4+ · · · )
= σ
21 − ρ
2Next denote the covariance of y
tand y
t−τas γ(τ ):
γ(τ ) = Cov(y
t, y
t−τ)
= E(y
ty
t−τ) = E (ρ
τy
t−τ+
t+ ρ
t−1+ · · · + ρ
τ−1t−τ+1)y
t−τ= ρ
τE(y
2t−τ) + E(u
ty
t−τ) + ρE(u
t−1y
t−τ) + ρ
2E(u
t−2y
t−τ) + · · · ρ
τ−1E(u
t−τ+1y
t−τ)
= ρ
τE(y
2t−τ)
= ρ
τγ(0) Notice V (y
t) = γ(0)
Going back to the vector form
E(y) = E
y
1y
2.. . y
T
=
0 0 .. . 0
V (y) = E(yy
0) = E(
y
1y
2.. . y
T
y
1y
2· · · y
T)
=
γ(0) γ(1) · · · γ(T − 1)
γ(1) γ(0) γ(1) · · · γ(T − 2)
γ(1) γ(0) . .. .. . .. . .. . . .. . .. γ(1)
γ(T − 1) γ(T − 2) · · · γ(1) γ(0)
=
γ (0) ργ (0) · · · ρ
T−1γ(0)
ργ(0) γ(0) ργ(0) · · · ρ
T−2γ(0) ργ (0) γ(0) . .. .. . .. . .. . . .. . .. ργ(0) ρ
T−1γ(0) ρ
T−2· · · ργ(0) γ(0)
= γ(0)
1 ρ · · · ρ
T−1ρ 1 ρ · · · ρ
T−2ρ 1 . .. .. . .. . .. . . .. ... ρ ρ
T−1ρ
T−2· · · ρ 1
= σ
21 − ρ
2
1 ρ · · · ρ
T−1ρ 1 ρ · · · ρ
T−2ρ 1 . .. .. . .. . .. . . .. ... ρ ρ
T−1ρ
T−2· · · ρ 1
= Ω
1.2 (2)
Based on (1) we know that y ∼ N (0, Ω). Thus, the joint distribution of y = (y
1, y
2, · · · , y
T) whihch is also the likelihood function can be obtained as:
f(y) = (2π)
−T /2|Ω|
−1/2exp(− 1
2 y
0Ω
−1y)
1.3 (3)
Unconditional Mean:
E(y
t) = E(
t+ ρ
t−1+ ρ
2t−2+ · · · )
= E(
t) + ρE(
t−1) + ρ
2E(
t−2) + · · ·
= 0 Unconditional Variance:
V (y
t) = V (
t+ ρ
t−1+ ρ
2t−2+ · · · )
= V (
t) + ρ
2V (
t−1) + ρ
4V (
t−2) + · · ·
= σ
2(1 + ρ
2+ ρ
4+ · · · )
= σ
21 − ρ
2Conditional mean:
E(y
t|y
t−1, · · · , y
1) = ρy
t−1+ E(
t) = ρy
t−1Conditional variance:
V (y
t|y
t−1, · · · , y
1) = V (
t) = σ
21.4 (4)
From (3) we can know that the unconditional distribution of y
tis given by:
f(y
t) = 1
p 2πσ
2/(1 − ρ
2) exp(− y
t22σ
2/(1 − ρ
2) )
the conditional distribution of y
tis given by:
f (y
t|y
t−1, · · · , y
1) = 1
√
2πσ
2exp(− (y
t− ρy
t−1)
22σ
2)
The innovation form of the likelihood function can be written as:
f (y
t, y
t−1, · · · , y
1) = f (y
t|y
t−1, · · · , y
1)f(y
t−1, y
t−2, · · · , y
1)
= f (y
t|y
t−1, · · · , y
1)f(y
t−1|y
t−2, · · · , y
1)f(y
t−2, y
t−3, · · · , y
1) .. .
= f (y
t|y
t−1, · · · , y
1)f(y
t−1|y
t−2, · · · , y
1)f(y
t−2, y
t−3, · · · , y
1) · · · f (y
2|y
1)f(y
1)
= f (y
1)
T
Y
t=2
f (y
t|y
y−1, · · · , y
1)
= 1
p 2πσ
2/(1 − ρ
2) exp(− y
122σ
2/(1 − ρ
2) ) ×
T
Y
t=2
√ 1
2πσ
2exp(− (y
t− ρy
t−1)
22σ
2)
1.5 (5)
Set P
−1such that:
P
−1ΩP
0−1= I
Ti.e.
Ω = P P
0We can construct P
−1as:
P
−1= 1 σ
p 1 − ρ
20 · · · · · · 0
−ρ 1 0 · · · 0
0 −ρ 1 . .. ...
.. . .. . . .. ... 0
0 · · · 0 −ρ 1
Thus:
P
−1y = 1 σ
p 1 − ρ
20 · · · · · · 0
−ρ 1 0 · · · 0
0 −ρ 1 . .. ...
.. . .. . . .. ... 0
0 · · · 0 −ρ 1
y
1y
2.. . y
T
= 1 σ
p 1 − ρ
2y
1y
2− ρy
1.. . y
T− ρy
T−1
Then:
y
0Ω
−1y = y
0P
0−1P
−1y
= 1 σ
2
p 1 − ρ
2y
1y
2− ρy
1.. . y
T− ρy
T−1
T
p 1 − ρ
2y
1y
2− ρy
1.. . y
T− ρy
T−1
= 1
σ
2(1 − ρ
2)y
12+
T
X
t=2