Statistik 3 - Prüfung 29.9.2006 - Beispiel 1

From StatWiki
Jump to: navigation, search

Contents

Beispiel 1

Es sei das Modell Y = X \beta + u \, gegeben.

Die Standardannahmen \operatorname{E}(u)=0,  \operatorname{E}(u u') = \sigma^2 I, \operatorname{rang}(X) =l, X\, nicht zufällig sollen gelten.

Es liegt keine apriori Information über den wahren Wert von \beta\, vor.

Sei \beta^{\star}\, ein beliebiger linearer unverzerrter Schätzer für den wahren Wert \beta\,.

Sei \hat \beta\, der gewöhnliche KQ-Schätzer, dann gilt:

\operatorname{VC}(\hat \beta) \le \operatorname{VC}(\beta^{\star}) \,

Das bedeutet, dass \hat \beta\, der beste lineare, unverzerrte Schätzer für \beta\, ist.

Beweis:

\beta^{\star} \ldots\, linear \Rightarrow \beta^{\star} = DY \,

wobei D \ldots k \times m\, Matrix (nicht zufällig) ist.

\beta^{\star} \ldots\, unverzerrt 
\Rightarrow \operatorname{E}(\beta^{\star}) = \operatorname{E}(DY) =
D \operatorname{E}(Y) =
D \operatorname{E}(X \beta + u) =
D X \beta = \beta \qquad \forall \beta \in \mathrm{R}^k
 \,

Daraus folgt DX = I \,
\operatorname{VC}( \beta^{\star} ) =
\operatorname{E}[ (\beta^{\star} - \operatorname{E}(\beta^{\star}))(\beta^{\star} - \operatorname{E}(\beta^{\star}))'] =
\operatorname{E}[ (\beta^{\star} - \beta)(\beta^{\star} - \beta)'] =


 =
\operatorname{E}[ (D Y - \beta)(D Y - \beta)'] =
\operatorname{E}[ (D (X \beta + u) - \beta)(D (X \beta + u) - \beta)'] =


=
\operatorname{E}[ (D X \beta + D u - \beta)(D X \beta + D u - \beta)'] =
\operatorname{E}[ (I \beta + D u - \beta)(I \beta + D u - \beta)'] =
\operatorname{E}[ (D u)(D u)'] =


 =
\operatorname{E}[ D u u' D'] =
D \operatorname{E}(u u') D' =
D \sigma^2 I D' =
\sigma^2 D D'

Wissen: \operatorname{VC}(\hat \beta) = \sigma^2 (X'X)^{-1} \,

 \begin{matrix} 
\beta^{\star} = DY = 
( & \underbrace{D - (X'X)^{-1}X'} & + (X'X)^{-1}X') Y = 
[C + (X'X)^{-1}X'] Y \\
& C & 
\end{matrix}


CX = 
(D - (X'X)^{-1}X') X =
DX - (X'X)^{-1}X'X = 
I - I = 0 \,

\operatorname{VC}(\beta^{\star}) =
\sigma^2 D D' =
\sigma^2 [C + (X'X)^{-1}X'] [C + (X'X)^{-1}X']' =


 \begin{matrix}
= \sigma^2 [CC' + & \underbrace{C X} & (X'X)^{-1} + (X'X)^{-1} & \underbrace{X' C'} & + & \underbrace{(X'X)^{-1}X'X} & (X'X)^{-1}] =  \\
& 0 & & 0 & & I & 
\end{matrix}


 = \sigma^2 [ CC' + (X'X)^{-1} ] = \sigma^2 CC' + \sigma^2 (X'X)^{-1} \,

\operatorname{VC}(\beta^{\star}) = \operatorname{VC}(\hat \beta) + \sigma^2 CC'\,

\operatorname{VC}(\beta^{\star}) - \operatorname{VC}(\hat \beta) = \sigma^2 CC' \, wobei CC' \, nicht negativ definit

\Rightarrow \operatorname{VC}(\beta^{\star}) \ge \operatorname{VC}(\hat \beta) \, laut Löwner-Ordnung (A \ge B \Leftrightarrow A - B \ge 0 )\,