Stichprobenvarianz (Schätzfunktion)

Die Stichprobenvarianz ist eine Schätzfunktion in der mathematischen Statistik. Ihre zentrale Aufgabe ist es, die unbekannte Varianz einer zugrundeliegenden Wahrscheinlichkeitsverteilung zu schätzen. Außerhalb der Schätztheorie findet sie auch als Hilfsfunktion zur Konstruktion von Konfidenzbereichen und statistischen Tests Verwendung. Die Stichprobenvarianz wird in mehreren Varianten definiert, die sich leicht bezüglich ihrer Eigenschaften und somit auch ihrer Anwendungsgebiete unterscheiden. Die Unterscheidung der unterschiedlichen Varianten ist in der Literatur nicht immer einheitlich. Wird daher lediglich von "der" Stichprobenvarianz gesprochen, so sollte immer überprüft werden, welche der Definitionen im entsprechenden Kontext gilt.

Ebenfalls als Stichprobenvarianz wird die empirische Varianz bezeichnet, ein Streumaß einer Stichprobe, also von mehreren Zahlen. Diese Stichprobenvarianz einer konkreten Stichprobe entspricht einem Schätzwert und ist damit eine Realisierung der Stichprobenvarianz als Schätzfunktion und Zufallsvariable.

Definition

Gegeben seien Zufallsvariablen $X_{1},X_{2},\dots ,X_{n}$ und sei $X=(X_{1},X_{2},\dots ,X_{n})$ . In der Anwendung sind die $X_{i}$ die Stichprobenvariablen. Es bezeichne

${\overline {X}}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}$

das Stichprobenmittel. In der Literatur finden sich im Wesentlichen drei unterschiedliche Definitionen der Stichprobenvarianz.

Viele Autoren nennen

$V_{n}^{*}(X)={\frac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}$

die Stichprobenvarianz oder zur besseren Abgrenzung die korrigierte Stichprobenvarianz. Alternativ wird auch

$V_{n}(X)={\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}$

als Stichprobenvarianz bezeichnet, ebenso wird auch

$V_{n,\mu _{0}}(X)={\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu _{0})^{2}$

für eine fixe reelle Zahl $\mu _{0}$ Stichprobenvarianz genannt.

Weder die Notation noch die Sprechweise für die verschiedenen Definitionen der Stichprobenvarianz sind einheitlich und eine regelmäßige Quelle von Irrtümern. So finden sich als Notationen für $V_{n}^{*}$ auch $s_{n-1}^{2},\;s^{2},\;s_{x}^{2},\;V_{x}$ oder $V^{*}$ . Für $V_{n}$ findet sich auch die Schreibweise oder $s_{n}^{2}$ , für $V_{n,\mu }$ auch $S_{n}$ .

In diesem Artikel werden der Klarheit halber die oben aufgeführten Notationen $V_{n}^{*},\;V_{n}$ und $V_{n,\mu }$ verwendet. Dabei wird $V_{n}^{*}$ als korrigierte Stichprobenvarianz bezeichnet, $V_{n}$ als Stichprobenvarianz und $V_{n,\mu }$ als Stichprobenvarianz mit vorgegebenen Erwartungswert. Diese Sprechweisen sind in der Literatur nicht verbreitet und hier nur der Klarheit halber eingeführt. Beim Vergleich verschiedener Quellen sollten stets die Definitionen, Notationen und Sprechweisen miteinander verglichen werden, um Irrtümer zu vermeiden!

Verwendung

Wichtiger Verwendungszweck der Stichprobenvarianz ist die Schätzung der Varianz einer unbekannten Wahrscheinlichkeitsverteilung. Je nach Rahmenbedingungen kommen dabei die verschiedenen Definitionen zum Einsatz, da diese unterschiedliche Optimalitätskriterien erfüllen (siehe unten). Als Faustregel kann gelten:

Sind der Erwartungswert und die Varianz des Wahrscheinlichkeitsmaßes unbekannt, so wird $V_{n}^{*}(X)$ als Schätzfunktion verwendet.
Ist die Varianz unbekannt und entspricht der Erwartungswert dem Wert $\mu _{0}$ , so wird $V_{n,\mu _{0}}(X)$ als Schätzfunktion verwendet.

Die Schätzfunktion $V_{n}(X)$ wird meist nicht verwendet, sie entsteht beispielsweise bei Verwendung der Momentenmethode oder der Maximum-Likelihood-Methode und erfüllt die gängigen Qualitätskriterien nicht.

Neben der Verwendung als Schätzfunktion wird die Stichprobenvarianz noch als Hilfsfunktion für die Konstruktion von Konfidenzintervallen oder statistischen Tests verwendet. Dort findet sie sich zum Beispiel als Pivotstatistik zur Konstruktion von Konfidentintervallen im Normalverteilungsmodell oder als Teststatistik bei dem Chi-Quadrat-Test.

Eigenschaften

Rahmenbedingungen

Meist wird die Stichprobenvarianz unter den Annahmen verwendet, dass die Auswertungen unabhängig identisch verteilt sind sowie entweder einen bekannten oder einen unbekannten Erwartungswert besitzen. Diese Annahmen werden durch die folgenden statistischen Modelle beschrieben:

Ist der Erwartungswert unbekannt, so ist das statistische Modell gegeben durch das (nicht notwendigerweise parametrische) Produktmodell

$(\mathbb {R} ^{n},{\mathcal {B}}(\mathbb {R} ^{n}),(P_{\vartheta }^{\otimes n})_{\vartheta \in \Theta })$ .

Hierbei bezeichnet $P^{\otimes n}$ das n-fache Produktmaß von und $(P_{\vartheta })_{{\vartheta \in \Theta }}$ ist die Familie aller Wahrscheinlichkeitsmaße mit endlicher Varianz, die mit einer beliebigen Indexmenge $\Theta$ indiziert sind. Die Stichprobenvariablen $X_{1},\dots ,X_{n}$ sind dann unabhängig identisch verteilt gemäß $P_{\vartheta }$ und besitzen also eine endliche Varianz.

Ist der Erwartungswert bekannt und gleich $\mu _{0}$ , so ist das statistische Modell gegeben durch das (nicht notwendigerweise parametrische) Produktmodell

$(\mathbb {R} ^{n},{\mathcal {B}}(\mathbb {R} ^{n}),(P_{\vartheta }^{\otimes n})_{\vartheta \in \Theta })$ .

Hierbei bezeichnet $(P_{\vartheta })_{{\vartheta \in \Theta }}$ die Familie aller Wahrscheinlichkeitsmaße mit endlicher Varianz und Erwartungswert $\mu _{0}$ , die mit einer beliebigen Indexmenge $\Theta$ indiziert sind. Die Stichprobenvariablen $X_{1},\dots ,X_{n}$ sind dann unabhängig identisch verteilt gemäß $P_{\vartheta }$ und besitzen somit eine endliche Varianz und den Erwartungswert $\mu _{0}$ .

Erwartungstreue

Bekannter Erwartungswert

Im Falle des bekannten Erwartungswertes ist $V_{n,\mu _{0}}(X)$ ein erwartungstreuer Schätzer für die Varianz. Das bedeutet es gilt

$\operatorname {E} _{\vartheta }(V_{n,\mu _{0}}(X))=\operatorname {Var} _{\vartheta }(X_{1})=\operatorname {Var} (P_{\vartheta })$ .

Hierbei bezeichnet $\operatorname {E} _{\vartheta }(Y)$ bzw. $\operatorname {Var} _{\vartheta }(Y)$ die Erwartungswertbildung bzw. die Varianzbildung bezüglich des Wahrscheinlichkeitsmaßes $P_{\vartheta }$ .

Die Erwartungstreue gilt, da

$\operatorname {E} _{\vartheta }\left(V_{n,\mu _{0}}(X)\right)={\frac {1}{n}}\sum _{i=1}^{n}\operatorname {E} _{\vartheta }\left((X_{i}-\mu _{0})^{2}\right)={\frac {1}{n}}\sum _{i=1}^{n}\operatorname {Var} (X_{i})=\operatorname {Var} _{\vartheta }(X_{1})$

ist. Hierbei folgt der erste Schritt aus der Linearität des Erwartungswertes, der zweite, da nach Voraussetzung über den bekannten Erwartungswert $\mu _{0}=\operatorname {E} _{\vartheta }(X_{i})$ ist und somit $\operatorname {E} _{\vartheta }(X_{i}-\mu _{0})^{2}=\operatorname {E} _{\vartheta }(X_{i}-\operatorname {E} (X_{i}))^{2}=\operatorname {Var} _{\vartheta }(X_{i})$ gilt nach Definition der Varianz. In den dritten Schrit geht ein, dass die $X_{i}$ alle identisch verteilt sind.

Unbekannter Erwartungswert

Im Falle des unbekannten Erwartungswertes ist $V_{n}^{*}(X)$ eine erwartungstreue Schätzfunktion für die Varianz, es gilt also

$\operatorname {E} _{\vartheta }(V_{n}^{*}(X))=\operatorname {Var} (P_{\vartheta })$

Im Gegensatz dazu ist $V_{n}(X)$ nicht erwartungstreu, denn es gilt

$\operatorname {E} _{\vartheta }(V_{n}(X))={\frac {n-1}{n}}\operatorname {Var} (P_{\vartheta })$ .

Der Schätzer $V_{n}(X)$ ist aber noch asymptotisch erwartungstreu. Dies folgt direkt aus der obigen Darstellung, denn es ist

$\lim _{n\to \infty }V_{n}(X)=\lim _{n\to \infty }{\frac {n-1}{n}}\operatorname {Var} (P_{\vartheta })=\operatorname {Var} (P_{\vartheta })$ .

Herleitung der Erwartungstreue

Beachte dazu zuerst, dass Aufgrund der Unabhängigkeit

$\operatorname {E} (X_{i}X_{j})={\begin{cases}\operatorname {E} (X_{i})\cdot \operatorname {E} (X_{j})&{\text{ falls }}i\neq j\\\operatorname {E} (X_{i}^{2})&{\text{ falls }}i=j\end{cases}}\quad (*)$

gilt und aufgrund der identischen Verteilungen

$\operatorname {E} (X_{i})=\operatorname {E} (X_{j})$ für alle i,j und somit $\operatorname {E} (X_{i})\cdot \operatorname {E} (X_{j})=\operatorname {E} (X_{i})^{2}\quad (**)$ .

Daraus folgt direkt

${\begin{aligned}\operatorname {E} _{\vartheta }\left(X_{k}{\overline {X}}\right)&={\frac {1}{n}}\operatorname {E} _{\vartheta }\left(X_{k}\cdot \sum _{i=1}^{n}X_{i}\right)\\&={\frac {1}{n}}\operatorname {E} _{\vartheta }\left(X_{k}^{2}\right)+{\frac {1}{n}}\operatorname {E} _{\vartheta }\left(\sum _{i=1 \atop i\neq k}^{n}X_{i}X_{k}\right)\\&={\frac {1}{n}}\operatorname {E} _{\vartheta }\left(X_{k}^{2}\right)+{\frac {n-1}{n}}\operatorname {E} _{\vartheta }\left(X_{k}\right)^{2}\quad (1)\end{aligned}}$

aufgrund von $(*)$ und $(**)$ im letzten Schritt und unter Verwendung der Linearität des Erwartungswertes.

Analog folgt

${\begin{aligned}\operatorname {E} _{\vartheta }\left({\overline {X}}^{2}\right)&={\frac {1}{n^{2}}}\operatorname {E} _{\vartheta }\left(\sum _{i=1}^{n}\sum _{j=1}^{n}X_{i}X_{j}\right)\\&={\frac {1}{n^{2}}}\operatorname {E} _{\vartheta }\left(\sum _{i=1}^{n}X_{i}^{2}+\sum _{i,j=1 \atop i\neq j}^{n}X_{i}X_{j}\right)\\&={\frac {n}{n^{2}}}\cdot \operatorname {E} _{\vartheta }(X_{k}^{2})+{\frac {n(n-1)}{n^{2}}}\operatorname {E} _{\vartheta }(X_{k})^{2}\\&={\frac {1}{n}}\operatorname {E} _{\vartheta }(X_{k}^{2})+{\frac {n-1}{n}}\cdot \operatorname {E} _{\vartheta }(X_{k})^{2}\quad (2)\end{aligned}}$

wieder mithilfe von $(*)$ und $(**)$ im dritten Schritt.

Mithilfe von $(1)$ und $(2)$ im zweiten Schritt sowie von $(**)$ in dritten Schritt ist dann

${\begin{aligned}\operatorname {E} _{\vartheta }\left(\sum _{k=1}^{n}(X_{k}-{\overline {X}})^{2}\right)&=\operatorname {E} _{\vartheta }\left(\sum _{k=1}^{n}(X_{k}^{2}-2{\overline {X}}\cdot X_{k}+{\overline {X}}^{2})\right)\\&=\sum _{k=1}^{n}\left(\operatorname {E} _{\vartheta }(X_{k}^{2})-2\left(\underbrace {{\frac {1}{n}}\operatorname {E} _{\vartheta }\left(X_{k}^{2}\right)+{\frac {n-1}{n}}\operatorname {E} _{\vartheta }\left(X_{k}\right)^{2}} _{(1)}\right)+\left(\underbrace {{\frac {1}{n}}\operatorname {E} _{\vartheta }(X_{k}^{2})+{\frac {(n-1)}{n}}\cdot \operatorname {E} _{\vartheta }(X_{k})^{2}} _{(2)}\right)\right)\\&=n\cdot \operatorname {E} _{\vartheta }(X_{1}^{2})-2\operatorname {E} _{\vartheta }\left(X_{1}^{2}\right)-2(n-1)\operatorname {E} _{\vartheta }\left(X_{1}\right)^{2}+\operatorname {E} _{\vartheta }(X_{1}^{2})+(n-1)\cdot \operatorname {E} _{\vartheta }(X_{1})^{2}\\&=(n-1)\cdot \operatorname {E} _{\vartheta }(X_{1}^{2})-(n-1)\operatorname {E} _{\vartheta }(X_{1})^{2}\\&=(n-1)\operatorname {Var} (X_{1})\end{aligned}}$

Die letzte Gleichheit folgt hier nach den Verschiebungssatz. Daraus folgt dann

$\operatorname {E} _{\vartheta }(V_{n}^{*}(X))={\frac {1}{n-1}}\operatorname {E} _{\vartheta }\left(\sum _{k=1}^{n}(X_{k}-{\overline {X}})^{2}\right)=\operatorname {Var} _{\vartheta }(X_{1})=\operatorname {Var} (P_{\vartheta })$

und analog

$\operatorname {E} _{\vartheta }(V_{n}(X))={\frac {1}{n}}\operatorname {E} _{\vartheta }\left(\sum _{k=1}^{n}(X_{k}-{\overline {X}})^{2}\right)={\frac {n-1}{n}}\operatorname {Var} (P_{\vartheta })$

Bessel-Korrektur

Direkt aus der Definition folgt der Zusammenhang

$V_{n}^{*}(X)={\frac {n}{n-1}}V_{n}(X)$

Der Faktor ${\frac {n}{n-1}}$ wird hierbei als Bessel-Korrektur (nach Friedrich Wilhelm Bessel) bezeichnet. Er kann insofern als Korrekturfaktor verstanden werden, da er $V_{n}(X)$ so korrigiert, dass die Schätzfunktion erwartungstreu wird. Dies folgt, da wie oben gezeigt

$\operatorname {E} _{\vartheta }(V_{n}(X))={\frac {n-1}{n}}\operatorname {Var} (P_{\vartheta })$ .

und die Bessel-Korrektur genau der Kehrwert des Faktors ${\frac {n-1}{n}}$ ist. Die Schätzfunktion $V_{n}^{*}(X)$ geht somit aus $V_{n}(X)$ durch die Bessel-Korrektur hervor.

Stichprobenstandardabweichung

Die Wurzel aus der Stichprobenvarianz $V_{n}$ bzw. $V_{n}^{*}$ , also

${\sqrt {V_{n}(X)}}={\sqrt {{\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}}}$

oder

${\sqrt {V_{n}^{*}(X)}}={\sqrt {{\frac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}}}$

mit

${\overline {X}}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}$ /DD>

wird Stichprobenstandardabweichung oder Stichprobenstreuung genannt, ihre Realisierungen entsprechen der empirischen Standardabweichung. Da die Erwartungstreue bei Anwendung einer nichtlinearen Funktion wie der Wurzel in den meisten Fällen verloren geht, ist die Stichprobenstandardabweichung im Gegensatz zur korrigierten Stichprobenvarianz in keinem der beiden Fälle ein erwartungstreuer Schätzer für die Standardabweichung.

Basierend auf einem Artikel in:

Wikipedia.de