Statistik 3 - Beispiel 27

From StatWiki
Jump to: navigation, search

Prüfen Sie folgende Eigenschaften es LS-Schätzers \hat \beta \, für \beta \, im linearen Modell  y = X \beta + u \,, wobei \beta \in \mathbb{R}^k\, und X \, eine n \times k\, - Matrix von vollem Spaltenrang sei.

Wo verwendet man, dass X Rang k hat?

Definition:

\hat u  = y - X \hat \beta \,
 
\hat y = X \hat \beta \,

\hat \beta = (X'X)^{-1} X'y \,

y = X \beta + u\,

Beispiel 27 a 1

X ' \hat u  = 0 \,

X'(y - X \hat \beta) = 0 \, Bedingung 1. Ordnung

Beispiel 27 a 2

\hat y ' \hat u = 0 \,

(X \hat \beta)' \hat u = 0 \,

\begin{matrix} \hat \beta ' & \underbrace{X'\hat u} & = 0 \\ & 0 & \end{matrix}

Beispiel 27 a 3

\hat \beta = \beta + (X'X)^{-1} X' u \,

\hat \beta = (X'X)^{-1} X'y = (X'X)^{-1} X'(X \hat \beta + u) = \,

(X'X)^{-1} X'X \beta + (X'X)^{-1} X'u = \beta + (X'X)^{-1} X'u \,

Beispiel 27 b

Welche dieser Eigenschaften gelten auch im einfachen Modell  y_i = a + b x_i + u_i \,?

X = \begin{pmatrix} 1 & x_1 \\ 1 & x_2 \\ \vdots & \vdots \\ 1 & x_n \end{pmatrix}

Beispiel 27 b 1


X'\hat u =
\begin{pmatrix} \sum_{i=1}^n \hat u_i \\ \sum_{i=1}^n x_i \hat u_i \end{pmatrix} = 
\begin{pmatrix} \sum_{i=1}^n y_i - \hat a - \hat b x_i \\ \sum_{i=1}^n x_i (y_i - \hat a - \hat b x_i) \end{pmatrix} 
= 0 Bedingungen 1. Ordnung

Beispiel 27 b 2

\hat y ' \hat u = \sum_{i=1}^n \hat{y}_i (y_i - \hat a - \hat b x_i) =


\begin{matrix} 
\sum_{i=1}^n (\hat a + \hat b x_i) (y_i - \hat a - \hat b x_i) = 

\hat a & \underbrace{\sum_{i=1}^n y_i - \hat a - \hat b x_i} & + \hat b & \underbrace{\sum_{i=1}^n x_i (y_i - \hat a - \hat b x_i)} & = 0 \\
& 0 & & 0 &
\end{matrix}

Beide Bedingungen 1. Ordnung