Wahrscheinlichkeitsdichte

Eine Wahrscheinlichkeitsdichte $f$ beschreibt eine stetige Zufallsvariable $X$ über Flächen: $P(a \le X \le b) = \int_a^b f(x)\,dx$, wobei $f \ge 0$ gilt und die gesamte Fläche 1 beträgt. Hier ist die Gerade in Klassen der Breite $w$ eingeteilt. Über $f$ zeigt jeder Balken die exakte Wahrscheinlichkeit seiner Klasse, entweder direkt oder geteilt durch $w$; darunter liegt die Verteilungsfunktion $F$. Wenn die Balken Dichten darstellen, nähern sich ihre Höhen durch Halbieren von $w$ der Funktion $f$. Fünf Verteilungen stehen zur Wahl, eine davon kannst du selbst zeichnen.

Was misst die Höhe $f(x)$? Wahrscheinlichkeit pro Längeneinheit, keine Wahrscheinlichkeit. Die Wahrscheinlichkeit einer Klasse geteilt durch ihre Breite ist der Mittelwert von $f$ über dieser Klasse. Ist $f$ bei $x$ stetig, nähert sich die Höhe des Balkens um $x$ beim Verkleinern von $w$ dem Wert $f(x)$; für ein kurzes Intervall gilt $P(x \le X \le x + \Delta x) \approx f(x)\,\Delta x$. Deshalb kann eine Dichte größer als 1 sein, eine Wahrscheinlichkeit aber nicht: Die Wahrscheinlichkeit ist die Fläche, und ein hoher, schmaler Bereich kann eine kleine Fläche haben. Ein einzelner Punkt ist ein Intervall der Breite 0. Daher gilt $P(X = x) = 0$, unabhängig vom Wert von $f(x)$, und für eine solche Zufallsvariable liefern $\le$ und $<$ dieselben Wahrscheinlichkeiten.

Wie hängen Dichte und Verteilungsfunktion zusammen? $F(x) = P(X \le x)$ ist die Fläche unter $f$ links von $x$. Die Fläche über $[a, b]$ im oberen Bild entspricht also dem Zuwachs $F(b) - F(a)$ im unteren. Die Wahrscheinlichkeit einer Klasse ist der Zuwachs von $F$ über dieser Klasse. Nach Division durch $w$ ist die Balkenhöhe daher die Steigung der Sekante von $F$ über der Klasse. Wenn $w$ schrumpft, nähert sich die Sekante der Tangente: Wo $f$ stetig ist, gilt $F'(x) = f(x)$ — das ist der Hauptsatz der Differential- und Integralrechnung. Wo $f$ springt, etwa an den Grenzen der Gleichverteilung, hat $F$ einen Knick. Die Steigungen von links und rechts sind dort die entsprechenden einseitigen Werte von $f$. Ändert man $f$ an einem einzelnen Punkt, ändert sich keine Fläche und somit auch keine Wahrscheinlichkeit.

Warum teilt man beim Histogramm durch die Klassenbreite, bevor man es mit einer Dichte vergleicht? Ohne diese Division zeigen die Balken Wahrscheinlichkeiten. Mit schmaler werdenden Klassen sinken ihre Höhen gegen 0 statt gegen $f$. Nach Division durch $w$ haben die Balken über der gesamten Geraden unabhängig von ihrer Breite die Gesamtfläche 1. So lassen sich Histogramme mit verschiedenen Klasseneinteilungen vergleichen und über $f$ legen. Ein Histogramm von Daten funktioniert genauso: Statt der exakten Wahrscheinlichkeit verwendet man den Anteil der Stichprobe in jeder Klasse.