Mittlere quadratische Abweichung

Zwei Schätzfunktionen: Die Wahl einer verzerrten Statistik kann hinsichtlich ihrer erwarteten Abweichung vom echten Wert gegenüber einer unverzerrten vorteilhaft sein.

Die mittlere quadratische Abweichung, auch der mittlere quadratische Fehler genannt und MQF oder MSE (aus dem englischen für mean squared error) abgekürzt, ist ein Begriff der mathematischen Statistik. Er gibt in der Schätztheorie an, wie sehr ein Punktschätzer um den zu schätzenden Wert streut. Damit ist er ein zentrales Qualitätskriterium für Schätzer.

Definition

Gegeben sei ein statistisches Modell $({\mathcal {X}},{\mathcal {A}},(P_{\vartheta })_{\vartheta \in \Theta })$ sowie ein Punktschätzer

$T:({\mathcal {X}},{\mathcal {A}})\to (\mathbb {R} ,{\mathcal {B}}(\mathbb {R} ))$

für eine zu schätzende Funktion (im parametrischen Fall die Parameterfunktion)

$g\colon \Theta \to \mathbb {R}$

Dann heißt

$\operatorname {MSE} (T,\vartheta ):=\operatorname {E} _{\vartheta }\left(\left(T-g(\vartheta )\right)^{2}\right)$

die mittlere quadratische Abweichung von . Dabei bezeichnet $\operatorname {E} _{\vartheta }$ den Erwartungswert bezüglich des Wahrscheinlichkeitsmaßes $P_{\vartheta }$ . Mittels des Verschiebungssatzes der Varianz folgt die äquivalente Darstellung

$\operatorname {MSE} (T,\vartheta )=\operatorname {Var} _{\vartheta }(T)+\left(\mathbb {B} _{T}(\vartheta )\right)^{2}$ .

Hierbei bezeichnet $\mathbb {B} _{T}(\vartheta )$ die Verzerrung des Schätzers, auch Bias genannt.

Für Schätzer, die Werte in einem allgemeinen Entscheidungsraum annehmen, der mit einer Norm $\|\cdot \|$ versehen ist lässt sich die mittlere quadratische Abweichung definieren als

$\operatorname {MSE} (T,\vartheta ):=\operatorname {E} _{\vartheta }\left(\|T-g(\vartheta )\|^{2}\right)$ .

Interpretation

Eine geringe mittlere quadratische Abweichung bedeutet im klassischen Fall, dass gleichzeitig Bias und Varianz des Schätzers klein sind. Man befindet sich mit dem Schätzer also im Mittel in der Nähe des zu schätzenden Funktionals (geringer Bias) und weiß gleichzeitig, dass die Schätzwerte wenig streuen (geringe Varianz) und mit großer Wahrscheinlichkeit auch in der Nähe ihres Erwartungswerts liegen.

Mit dem MSE ist es daher möglich, Schätzverfahren miteinander zu vergleichen. Die Idee ist, dass es vorteilhaft sein kann, einen leicht verzerrten Schätzer zu bevorzugen, der dafür eine wesentlich kleinere Varianz besitzt. Dabei gilt das Schätzverfahren mit dem kleineren MSE in der Regel als das bessere.

Problematisch ist, dass der MSE vom zu schätzenden, unbekannten Grundgesamtheitsparameter abhängt.

Beispiel

Ein typischer Fall ist die Schätzung des Mittelwerts einer Normalverteilung. Wir nehmen an, dass Zufallsvariablen $X_{1},\ldots ,X_{n}\;$ existieren, die jeweils normalverteilt mit unbekanntem Erwartungswert $\gamma$ und Varianz 1 sind. Der klassische Schätzer ist das Stichprobenmittel ${\bar {X}}_{n}$ . Hier ist die Verzerrung null:

$\operatorname {Bias}({\bar {X}}_{n})=0$ ,

da der empirische Mittelwert erwartungstreu für $\gamma$ ist. Da ${\bar {X}}_{n}$ selbst normalverteilt mit Erwartungswert $\gamma$ und Varianz ${\tfrac {1}{n}}$ ist, folgt

$\operatorname {MSE}({\bar {X}}_{n})={\frac {1}{n}}.$

Konsistenz im quadratischen Mittel

Eine Schätzstatistik heiß konsistent im quadratischen Mittel, falls für $n\to \infty$ gilt

$\operatorname {MSE} \rightarrow 0$

Wirksamkeit von Schätzstatistiken

Gegeben seien zwei Schätzstatistiken $T_{1}$ und $T_{2}$ . Die Schätzstatistik $T_{1}$ heißt MSE-wirksamer, wenn

$\operatorname {MSE} (T_{1})\leq \operatorname {MSE} (T_{2})$

für alle zulässigen Verteilungen gilt. Des Weiteren wird eine Schätzstatistik als MSE-wirksamst bezeichnet, wenn ihr MSE für alle zulässigen Verteilungen stets der kleinste ist.

Einordnung und verwandte Konzepte

Interpretiert man die Schätztheorie als statistisches Entscheidungsproblem, so ist jeder Punktschätzer eine Entscheidungsfunktion. Die Abweichung der Entscheidungsfunktion von dem zu schätzenden Wert wird dann durch eine Verlustfunktion gewichtet. Diese gibt an, wie groß der "Schaden" ist, der durch eine Schätzung entsteht. Die Verlustfunktion wird dann mit der Entscheidungsfunktion zur Risikofunktion kombiniert, die den mittleren Schaden bei Verwendung einer bestimmten Entscheidungsfunktion angibt.

In diesem Kontext ist die mittlere quadratische Abweichung die Risikofunktion, die bei Verwendung der Gauß-Verlustfunktion

$L(\cdot ,\vartheta )=(\cdot -g(\vartheta ))^{2}$

entsteht. Die Risikofunktion wird dann durch Erwartungswertbildung gewonnen.

Bei analoger Konstruktion unter Verwendung des Laplace-Verlustes erhält man den mittleren betraglichen Fehler

$\operatorname {E} _{\vartheta }\left(\left|T-g(\vartheta )\right|\right)$ .

Basierend auf einem Artikel in:

Wikipedia.de