Statistik 3 - Beispiel 23

From StatWiki
Jump to: navigation, search

Beispiel 23

  1. \Omega= \Omega' \, symmetrisch n \times n \, mit Eigenvektoren u_i \, und Eigenwerten \lambda_i \,
  2. U = (\vec{u}_1, \ldots, \vec{u}_n) \,
  3. U'U = I \,
  4. U' = U^{-1} \,
  5. \Omega = U \operatorname{diag}(\lambda_1, \ldots, \lambda_n) U' \,
Die Definition von Eigenwerten (\lambda_i\,)/Eigenvektoren (u_i\,)

A u_i = \lambda_i u_i \,

Beispiel 23 a

\Omega^2 = \Omega \, heisst idempotent.

Zu zeigen ist nun, dass wenn eine Matrix idempotent ist, so können ihre Eigenwerte nur die Werte 0 oder 1 annehmen.

 (U' \Omega U)' U' \Omega U = (\Omega U)' U U' \Omega U = U \Omega' \Omega U = U \Omega U \,

 
\begin{matrix}
 \lambda_i u_i = A u_i = A & \underbrace{A u_i}&  = A \lambda_i u_i  = \lambda_i & \underbrace{A u_i} & = \lambda_i^2 u_i \\
 & \lambda_i u_i & & \lambda_i u_i &
\end{matrix}


\Rightarrow \lambda_i u_i = \lambda_i^2 u_i 

 \lambda_i = \lambda_i^2

Das stimmt nur für \lambda_i \in \{0;1\} \,

Beispiel 23 b

Für jede symmetrische, idempotente Matrix A\, gilt \operatorname{spur}(A) = \operatorname{rang}(A)\,.

Hinweis: Führen Sie folgende Rechnung fort:

\operatorname{spur}(A) = 
\operatorname{spur}(I_n A) =
\operatorname{spur}(U U' \cdot A) = \ldots

Beachten Sie dann, dass die Spur und der Rang für Diagonalmatrizen, deren Diagonalelemente nur 0 oder 1 sind, übereinstimmten.

\operatorname{spur}(U U' \cdot A) = 
\operatorname{spur}(U' A U) = 
\operatorname{spur}(U' (U \operatorname{diag}(\lambda_i) U') U) =
\operatorname{spur}(\operatorname{diag}(\lambda_i)) =
\operatorname{rang}(A)

Wichtig: Wie in 23a gezeigt, können die \lambda_i\, nur die Werte 0 oder 1 annehmen.

Beispiel 23 c

Bestimmen Sie unter Zuhilfenahme von b) den Rang der Matrix

 M = I - X (X'X)^{-1} X'\,

wobei X\, eine n \times k\,-Matrix mit \operatorname{rang}(X) = k\, ist.

\operatorname{spur}(I) = \operatorname{rang}(I) = n \,
Wenn A\, regulär ist, d.h. quadratisch und invertierbar, dann gilt (A^{-1})' = (A')^{-1} \,

X'X\, ist quadratisch und invertierbar (weil \operatorname{rang}(X) = k \,) ist.
Symmetrie: (X (X'X)^{-1} X')' = X (X (X'X)^{-1})' = X ((X'X)^{-1})' X' = X (X'X)^{-1} X'\,

Idempotent:  \begin{matrix} X (X'X)^{-1} & \underbrace{X' X (X'X)^{-1}} & X' = X (X'X)^{-1} X' \\ & I & \end{matrix} \, 
\operatorname{rang}(X (X'X)^{-1} X') = 
\operatorname{spur}(X (X'X)^{-1} X') = 
\operatorname{spur}(X'X (X'X)^{-1}) = 
\operatorname{spur}(I_k) = 
k\,


Daher ist \operatorname{rang}(M) = n -k \,