Die Wahrscheinlichkeitstheorie oder Wahrscheinlichkeitsrechnung ist ein Teilgebiet der Mathematik, das aus der Formalisierung der Modellierung und der Untersuchung von Zufallsgeschehen hervorgegangen ist. Gemeinsam mit der mathematischen Statistik, die anhand von Beobachtungen zufälliger Vorgänge Aussagen über das zugrunde liegende Modell trifft, bildet sie das mathematische Teilgebiet der Stochastik. Die zentralen Objekte der Wahrscheinlichkeitstheorie sind zufällige Ereignisse, Zufallsvariablen und stochastische Prozesse.
Wie jedes Teilgebiet der modernen Mathematik wird auch die Wahrscheinlichkeitstheorie mengentheoretisch formuliert und auf axiomatischen Vorgaben aufgebaut. Ausgangspunkt der Wahrscheinlichkeitstheorie sind Ereignisse, die als Mengen aufgefasst werden und denen Wahrscheinlichkeiten zugeordnet sind; Wahrscheinlichkeiten sind reelle Zahlen zwischen 0 und 1; die Zuordnung von Wahrscheinlichkeiten zu Ereignissen muss gewissen Mindestanforderungen genügen.
Diese Definitionen geben keinen Hinweis darauf, wie man die Wahrscheinlichkeiten einzelner Ereignisse ermitteln kann; sie sagen auch nichts darüber aus, was Zufall und was Wahrscheinlichkeit eigentlich sind. Die mathematische Formulierung der Wahrscheinlichkeitstheorie ist somit für verschiedene Interpretationen offen, ihre Ergebnisse sind dennoch exakt und vom jeweiligen Verständnis des Wahrscheinlichkeitsbegriffs unabhängig.
Konzeptionell wird als Grundlage der mathematischen Betrachtung von einem
Zufallsvorgang oder Zufallsexperiment
ausgegangen. Alle möglichen Ergebnisse dieses Zufallsvorgangs fasst man in der
Ergebnismenge
zusammen. Häufig interessiert man sich jedoch gar nicht für das genaue Ergebnis
,
sondern nur dafür, ob es in einer bestimmten Teilmenge der Ergebnismenge liegt
was so interpretiert werden kann, dass ein Ereignis eingetreten ist oder nicht.
Ein Ereignis ist also als eine Teilmenge
von
definiert. Enthält das Ereignis genau ein Element der Ergebnismenge, handelt es
sich um ein Elementarereignis.
Zusammengesetzte Ereignisse enthalten mehrere Ergebnisse. Das Ergebnis ist also
ein Element der Ergebnismenge, das Ereignis jedoch eine Teilmenge.
Damit man den Ereignissen in sinnvoller Weise Wahrscheinlichkeiten zuordnen
kann, werden sie in einem Mengensystem aufgeführt, der Ereignisalgebra oder dem
Ereignissystem
über
,
einer Menge von Teilmengen von
,
für die gilt: Sie enthält
und ist ein σ-Körper,
d.h., sie ist gegenüber den Mengenoperationen der Vereinigung und der
Komplementbildung (relativ bzgl.
)
abgeschlossen genauso wie gegenüber der unendlichen Vereinigung abzählbar vieler
Mengen. Die Wahrscheinlichkeiten sind dann Bilder einer gewissen Abbildung
des Ereignisraums in das Intervall [0,1]. Solch eine Abbildung heißt Wahrscheinlichkeitsmaß.
Das Tripel
wird als Wahrscheinlichkeitsraum
bezeichnet.
Die axiomatische Begründung der Wahrscheinlichkeitstheorie wurde in den 1930er Jahren von Andrei Nikolajewitsch Kolmogorow entwickelt. Ein Wahrscheinlichkeitsmaß muss demnach folgende drei Axiome erfüllen:
Axiome:
Beispiel: Im Rahmen einer physikalischen Modellbildung wird ein Wahrscheinlichkeitsmaß zur Beschreibung des Ergebnisses eines Münzwurfes angesetzt, die möglichen Ergebnisse (Ereignisse genannt) mögen Zahl und Kopf lauten.
Zusätzliche physikalische Annahmen über die Beschaffenheit der Münze können
nun etwa zur Wahl
führen.
Aus den Axiomen ergeben sich unmittelbar einige Folgerungen:
1. Aus der Additivität der Wahrscheinlichkeit disjunkter Ereignisse folgt,
dass komplementäre Ereignisse (Gegenereignisse) komplementäre
Wahrscheinlichkeiten (Gegenwahrscheinlichkeiten) haben: .
2. Daraus folgt, dass das unmögliche Ereignis, die leere Menge, die
Wahrscheinlichkeit Null hat: .
3. Für die Vereinigung nicht notwendig disjunkter Ereignisse folgt: .
Im Weiteren ist zwischen abzählbaren und überabzählbaren Ergebnismengen zu unterscheiden.
Bei einer abzählbaren Ergebnismenge kann jedem Elementarereignis eine
positive Wahrscheinlichkeit zugewiesen werden. Wenn
endlich oder abzählbar unendlich ist, kann man für die σ-Algebra
die Potenzmenge von
wählen. Die Summe der Wahrscheinlichkeiten aller Elementarereignisse aus
ist hier 1.
Ein Prototyp einer überabzählbaren Ergebnismenge ist die Menge der reellen
Zahlen. In vielen Modellen ist es nicht möglich, allen Teilmengen der
reellen Zahlen sinnvoll eine Wahrscheinlichkeit zuzuordnen. Als Ereignissystem
wählt man statt der Potenzmenge der reellen Zahlen hier meist die Borelsche
σ-Algebra, das ist die kleinste σ-Algebra, die alle Intervalle von reellen
Zahlen als Elemente enthält. Die Elemente dieser σ-Algebra nennt man Borelsche
Mengen oder auch (Borel)-messbar.
Wenn die Wahrscheinlichkeit
jeder Borelschen Menge
als Integral
über eine Wahrscheinlichkeitsdichte
geschrieben werden kann, wird
absolut
stetig genannt. In diesem Fall (aber nicht nur in diesem) haben alle
Elementarereignisse {x} die Wahrscheinlichkeit 0. Die Wahrscheinlichkeitsdichte
eines absolut stetigen Wahrscheinlichkeitsmaßes
ist nur fast überall eindeutig bestimmt, d.h., sie kann auf einer
beliebigen Lebesgue-Nullmenge,
also einer Menge vom Lebesgue-Maß
0, abgeändert werden, ohne dass
verändert wird. Wenn die erste Ableitung der Verteilungsfunktion
von
existiert, so ist sie eine Wahrscheinlichkeitsdichte von P. Die Werte der
Wahrscheinlichkeitsdichte werden jedoch nicht als Wahrscheinlichkeiten
interpretiert.
Wenn man annimmt, dass nur endlich viele Elementarereignisse
möglich und alle gleichberechtigt sind, d.h. mit der gleichen
Wahrscheinlichkeit eintreten (wie zum Beispiel beim Werfen einer idealen Münze,
wobei {Zahl} und {Kopf} jeweils die Wahrscheinlichkeit 0,5 besitzen), so spricht
man von einem Laplace-Experiment.
Dann lassen sich Wahrscheinlichkeiten einfach berechnen: Wir nehmen eine
endliche Ergebnismenge
an, die die Mächtigkeit
besitzt, d.h., sie hat
Elemente. Dann ist die Wahrscheinlichkeit jedes Elementarereignisses einfach
.
Als Konsequenz folgt, dass für Ereignisse, die sich aus mehreren
Elementarereignissen zusammensetzen, die entsprechend vielfache
Wahrscheinlichkeit gilt. Ist
ein Ereignis der Mächtigkeit
,
so ist
die Vereinigung von
Elementarereignissen. Jedes davon hat die Wahrscheinlichkeit
,
also ist
.
Man erhält also den einfachen Zusammenhang
Bei Laplace-Versuchen ist die Wahrscheinlichkeit eines Ereignisses gleich der Zahl der für dieses Ereignis günstigen Ergebnisse, dividiert durch die Zahl der insgesamt möglichen Ergebnisse.
Nachstehend ein Beispiel beim Würfeln mit einem idealen Würfel.
Das Ereignis
= Hohe Augenzahl (5 oder 6) hat die Wahrscheinlichkeit 1/3.
Ein typischer Laplace-Versuch ist auch das Ziehen einer Karte aus einem Spiel
mit
Karten oder das Ziehen einer Kugel aus einer Urne
mit
Kugeln. Hier hat jedes Elementarereignis die gleiche Wahrscheinlichkeit. Um die
Anzahl der Elementarereignisse bei Laplace-Versuchen zu bestimmen, werden häufig
Methoden der Kombinatorik
verwendet.
Das Konzept der Laplace-Experimente lässt sich auf den Fall einer stetigen Gleichverteilung verallgemeinern.
Unter einer bedingten
Wahrscheinlichkeit versteht man die Wahrscheinlichkeit für das Eintreten
eines Ereignisses
unter der Voraussetzung, dass das Eintreten eines anderen Ereignisses
bereits bekannt ist. Natürlich muss
eintreten können, es darf also nicht das unmögliche Ereignis sein. Man schreibt
dann
oder seltener
für „Wahrscheinlichkeit von
unter der Voraussetzung
“,
kurz „
von
,
vorausgesetzt
“.
Beispiel: Die Wahrscheinlichkeit, aus einem Skatblatt
eine Herz-Karte zu ziehen (Ereignis ),
beträgt 1/4, denn es gibt 32 Karten und darunter 8 Herz-Karten. Dann ist
.
Das Gegenereignis ist dann Karo, Pik oder Kreuz und hat deshalb die
Wahrscheinlichkeit
.
Wenn nun aber bereits das Ereignis
„Die Karte ist rot“ eingetreten ist (es wurde eine Herz- oder Karo-Karte
gezogen, es ist aber nicht bekannt, welche der beiden Farben), man also nur noch
die Auswahl unter den 16 roten Karten hat, dann ist
die Wahrscheinlichkeit, dass es sich dann um das Herz-Blatt handelt.
Diese Überlegung galt für einen Laplaceversuch. Für den allgemeinen Fall
definiert man die bedingte Wahrscheinlichkeit von „,
vorausgesetzt
“
als
Dass diese Definition sinnvoll ist, zeigt sich daran, dass die so definierte
Wahrscheinlichkeit den Axiomen von Kolmogorow genügt, wenn man sich auf
als neue Ergebnismenge beschränkt; d.h., dass gilt:
Beweis:
Beispiel: Es sei wie oben
das Ereignis „Ziehen einer Herz-Karte“ und
das Ereignis „Es ist eine rote Karte“. Dann ist:
und
Folglich gilt:
Aus der Definition der bedingten Wahrscheinlichkeit ergeben sich folgende Konsequenzen:
Das gleichzeitige Eintreten zweier Ereignisse
und
entspricht mengentheoretisch dem Eintreten des Verbund-Ereignisses
.
Die Wahrscheinlichkeit hiervon berechnet sich zur gemeinsamen
Wahrscheinlichkeit oder Verbundwahrscheinlichkeit
Beweis: Nach Definition der bedingten Wahrscheinlichkeit ist einerseits
und andererseits auch
Umstellen nach
liefert dann sofort die Behauptung.
Beispiel: Es wird eine Karte aus 32 Karten gezogen.
sei das Ereignis: „Es ist ein König“.
sei das Ereignis: „Es ist eine Herz-Karte“. Dann ist
das gleichzeitige Eintreten von
und
,
also das Ereignis: „Die gezogene Karte ist ein Herz-König“. Offenbar ist
.
Ferner ist
,
denn es gibt nur eine Herz-Karte unter den vier Königen. Und in der Tat ist dann
die Wahrscheinlichkeit für den Herz-König.
Die bedingte Wahrscheinlichkeit von
unter der Bedingung
lässt sich durch die bedingte Wahrscheinlichkeit von
unter der Bedingung
durch
ausdrücken, wenn man die totalen
Wahrscheinlichkeiten
und
kennt (Satz
von Bayes).
Ereignisse nennt man unabhängig voneinander, wenn das Eintreten des einen die Wahrscheinlichkeit des anderen nicht beeinflusst. Im umgekehrten Fall nennt man sie abhängig. Man definiert:
Dass dies dem Begriff „Unabhängigkeit“ gerecht wird, erkennt man durch
Umstellen nach :
Das bedeutet: Die totale Wahrscheinlichkeit für
ist ebenso groß wie die Wahrscheinlichkeit für
,
vorausgesetzt
;
das Eintreten von
beeinflusst also die Wahrscheinlichkeit von
nicht.
Beispiel: Es wird eine aus 32 Karten gezogen.
sei das Ereignis „Es ist eine Herz-Karte“.
sei das Ereignis „Es ist eine Bild-Karte“. Diese Ereignisse sind unabhängig,
denn das Wissen, dass man eine Bild-Karte zieht, beeinflusst nicht die
Wahrscheinlichkeit, dass es eine Herz-Karte ist (Der Anteil der Herz-Karten
unter den Bilder-Karten ist ebenso groß wie der Anteil der Herz-Karten an allen
Karten). Offenbar ist
und
.
ist das Ereignis „Es ist eine Herz-Bildkarte“. Da es davon drei gibt, ist
.
Und in der Tat stellt man fest, dass
ist.
Die klassische Wahrscheinlichkeitsrechnung betrachtet nur Wahrscheinlichkeiten auf diskreten Wahrscheinlichkeitsräumen und stetige Modelle mit Dichtefunktionen. Diese beiden Ansätze lassen sich durch die moderne Formulierung der Wahrscheinlichkeitstheorie, die auf den Konzepten und Ergebnissen der Maß- und Integrationstheorie beruht, vereinheitlichen und verallgemeinern.
In dieser Sichtweise ist ein Wahrscheinlichkeitsraum
ein Maßraum
mit einem Wahrscheinlichkeitsmaß
.
Das bedeutet, die Ergebnismenge
ist eine beliebige Menge, der Ereignisraum
ist eine σ-Algebra
mit Grundmenge
und
ist ein Maß,
das durch
normiert ist.
Wichtige Standardfälle von Wahrscheinlichkeitsräumen sind:
Eine Zufallsvariable ist das mathematische Konzept für eine Größe, deren Wert
vom Zufall abhängig ist. Aus maßtheoretischer Sicht handelt es sich um eine messbare Funktion
auf einem Wahrscheinlichkeitsraum
in einen Messraum
bestehend aus einer Menge
und einer σ-Algebra
auf
.
Messbarkeit bedeutet dabei, dass für alle
das Urbild
ein Element der σ-Algebra
ist. Die Verteilung
von
ist dann nichts anderes als das Bildmaß
das von
auf dem Messraum
induziert wird und diesen zu einem Wahrscheinlichkeitsraum
macht.
Der Erwartungswert
einer reellwertigen Zufallsvariable
mittelt die möglichen Ergebnisse. Er lässt sich abstrakt definieren als Integral von
bezüglich des Wahrscheinlichkeitsmaßes
:
Wahrscheinlichkeitstheorie und mathematische Statistik werden zusammenfassend auch als Stochastik bezeichnet. Beide Gebiete stehen in enger wechselseitiger Beziehung:
Die Wahrscheinlichkeitstheorie entstand aus dem Problem der gerechten Verteilung des Einsatzes bei abgebrochenen Glücksspielen. Auch andere frühe Anwendungen stammen aus dem Bereich des Glücksspiels.
Heute ist die Wahrscheinlichkeitstheorie eine Grundlage der mathematischen Statistik. Die angewandte Statistik nutzt Ergebnisse der Wahrscheinlichkeitstheorie, um Umfrageergebnisse zu analysieren oder Wirtschaftsprognosen zu erstellen.
Große Bereiche der Physik wie die Thermodynamik und die Quantenmechanik nutzen die Wahrscheinlichkeitstheorie zur theoretischen Beschreibung ihrer Resultate.
Sie ist ferner die Grundlage für mathematische Disziplinen wie die Zuverlässigkeitstheorie, die Erneuerungstheorie und die Warteschlangentheorie und das Werkzeug zur Analyse in diesen Bereichen.
Auch in der Mustererkennung ist die Wahrscheinlichkeitstheorie von zentraler Bedeutung.