Markovsche Ungleichung - Markov's inequality

Die Markovsche Ungleichung gibt eine obere Schranke für das Maß der Menge (rot gekennzeichnet) an, bei der ein gegebenes Niveau überschritten wird . Die Grenze kombiniert den Pegel mit dem Durchschnittswert von .${\displaystyle f(x)}$${\displaystyle\varepsilon}$${\displaystyle\varepsilon}$${\displaystyle f}$

In der Wahrscheinlichkeitstheorie gibt die Markovsche Ungleichung eine obere Schranke für die Wahrscheinlichkeit an, dass eine nicht-negative Funktion einer Zufallsvariablen größer oder gleich einer positiven Konstanten ist . Es ist nach dem russischen Mathematiker Andrey Markov benannt , obwohl es früher in der Arbeit von Pafnuty Chebyshev (Markovs Lehrer) auftauchte und viele Quellen, insbesondere in der Analyse , es als Chebyshev-Ungleichung bezeichnen (manchmal als die erste Chebyshev-Ungleichung bezeichnet), während unter Bezugnahme auf die Tschebyschew-Ungleichung als zweite Tschebyscheff-Ungleichung) oder die Ungleichung von Bienaymé .

Die Markov-Ungleichung (und andere ähnliche Ungleichungen) beziehen Wahrscheinlichkeiten auf Erwartungen und stellen (häufig lockere, aber immer noch nützliche) Grenzen für die kumulative Verteilungsfunktion einer Zufallsvariablen bereit.

Stellungnahme

Wenn X eine nichtnegative Zufallsvariable und a  > 0 ist , dann ist die Wahrscheinlichkeit, dass X mindestens a ist, höchstens der Erwartungswert von X geteilt durch a :

${\displaystyle \operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (X)}{a}}.}$

Lassen Sie (wo ); dann können wir die vorherige Ungleichung umschreiben als ${\displaystyle a={\tilde {a}}\cdot \operatorname {E} (X)}$${\displaystyle {\tilde{a}}>0}$

${\displaystyle \operatorname {P} (X\geq {\tilde {a}}\cdot \operatorname {E} (X))\leq {\frac {1}{\tilde {a}}}.}$

In der Sprache der Maßtheorie besagt die Markovsche Ungleichung, dass wenn ( X , Σ,  μ ) ein Maßraum ist , eine messbare erweiterte reellwertige Funktion ist und ε > 0 , dann ${\displaystyle f}$

${\displaystyle \mu (\{x\in X:|f(x)|\geq \varepsilon\})\leq {\frac {1}{\varepsilon }}\int _{X}|f|\, d\mu.}$

Diese maßtheoretische Definition wird manchmal als Chebyshev-Ungleichung bezeichnet .

Erweiterte Version für monoton steigende Funktionen

Wenn φ eine monoton steigende nichtnegative Funktion für die nichtnegativen reellen Zahlen ist, ist X eine Zufallsvariable, a ≥ 0 und φ ( a ) > 0 , dann

${\displaystyle \operatorname {P} (|X|\geq a)\leq {\frac {\operatorname {E} (\varphi (|X|))}{\varphi (a)}}.}$

Eine unmittelbare Folgerung, die höhere Momente von X verwendet, die auf Werten größer als 0 unterstützt werden, ist

${\displaystyle \operatorname {P} (|X|\geq a)\leq {\frac {\operatorname {E} (|X|^{n})}{a^{n}}}.}$

Beweise

Wir trennen den Fall, in dem der Maßraum ein Wahrscheinlichkeitsraum ist, vom allgemeineren Fall, da der Wahrscheinlichkeitsfall für den allgemeinen Leser leichter zugänglich ist.

Intuition

${\displaystyle \operatorname {E} (X)=\operatorname {P} (X<a)\cdot \operatorname {E} (X|X<a)+\operatorname {P} (X\geq a)\cdot \operatorname {E} (X|X\geq a)}$wobei größer als 0 ist, da rv nicht negativ ist und größer als ist, weil der bedingte Erwartungswert nur Werte berücksichtigt, die größer sind, als rv annehmen kann. ${\displaystyle\operatorname {E} (X|X<a)}$${\displaystyle X}$${\displaystyle \operatorname {E} (X|X\geq a)}$${\displaystyle a}$${\displaystyle a}$${\displaystyle X}$

Daher intuitiv , was direkt zu führt . ${\displaystyle \operatorname {E} (X)\geq \operatorname {P} (X\geq a)\cdot \operatorname {E} (X|X\geq a)\geq a\cdot \operatorname {P} ( X\geq a)}$${\displaystyle \operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (X)}{a}}}$

Wahrscheinlichkeitstheoretischer Beweis

Methode 1: Aus der Erwartungsdefinition:

${\displaystyle \operatorname {E} (X)=\int _{-\infty }^{\infty }xf(x)\,dx}$

X ist jedoch eine nicht negative Zufallsvariable, also

${\displaystyle \operatorname {E} (X)=\int _{-\infty }^{\infty }xf(x)\,dx=\int _{0}^{\infty }xf(x)\, dx}$

Daraus können wir ableiten,

${\displaystyle \operatorname {E} (X)=\int _{0}^{a}xf(x)\,dx+\int _{a}^{\infty}xf(x)\,dx\geq \ int _{a}^{\infty}xf(x)\,dx\geq \int _{a}^{\infty}af(x)\,dx=a\int _{a}^{\infty} f(x)\,dx=a\operatorname {Pr} (X\geq a)}$

Von hier aus können wir das durch Teilen durch sehen ${\displaystyle a}$

${\displaystyle \Pr(X\geq a)\leq \operatorname {E} (X)/a}$

Methode 2: Für ein beliebiges Ereignis sei die Indikator-Zufallsvariable von , d. h. ob auftritt und sonst. ${\displaystyle E}$${\displaystyle I_{E}}$${\displaystyle E}$${\displaystyle I_{E}=1}$${\displaystyle E}$${\displaystyle I_{E}=0}$

Mit dieser Notation haben wir if das Ereignis auftritt und if . Dann gegeben , ${\displaystyle I_{(X\geq a)}=1}$${\displaystyle X\geq a}$${\displaystyle I_{(X\geq a)}=0}$${\displaystyle X<a}$${\displaystyle a>0}$

${\displaystyle aI_{(X\geq a)}\leq X}$

was klar wird, wenn wir die beiden möglichen Werte von betrachten . Wenn , dann , und so . Ansonsten haben wir , wofür und so . ${\displaystyle X\geq a}$${\displaystyle X<a}$${\displaystyle I_{(X\geq a)}=0}$${\displaystyle aI_{(X\geq a)}=0\leq X}$${\displaystyle X\geq a}$${\displaystyle I_{X\geq a}=1}$${\displaystyle aI_{X\geq a}=a\leq X}$

Da es sich um eine monoton steigende Funktion handelt, kann die Erwartung beider Seiten einer Ungleichung diese nicht umkehren. Deswegen, ${\displaystyle \operatorname {E} }$

${\displaystyle \operatorname {E} (aI_{(X\geq a)})\leq \operatorname {E} (X).}$

Unter Verwendung der Linearität der Erwartungen ist die linke Seite dieser Ungleichung dieselbe wie

${\displaystyle a\operatorname {E} (I_{(X\geq a)})=a(1\cdot \operatorname {P} (X\geq a)+0\cdot \operatorname {P} (X<a ))=a\operatorname {P} (X\geq a).}$

Somit haben wir

${\displaystyle a\operatorname {P} (X\geq a)\leq \operatorname {E} (X)}$

und da a  > 0, können wir beide Seiten durch a teilen  .

Maßtheoretischer Beweis

Wir können annehmen, dass die Funktion nicht negativ ist, da nur ihr absoluter Wert in die Gleichung eingeht. Betrachten wir nun die reellwertige Funktion s auf X gegeben durch ${\displaystyle f}$

${\displaystyle s(x)={\begin{cases}\varepsilon ,&{\text{if }}f(x)\geq \varepsilon \\0,&{\text{if }}f(x)< \varepsilon \end{cases}}}$

Dann . Nach der Definition des Lebesgue-Integrals${\displaystyle 0\leq s(x)\leq f(x)}$

${\displaystyle \int_{X}f(x)\,d\mu\geq \int_{X}s(x)\,d\mu =\varepsilon\mu (\{x\in X:\, f(x)\geq\varepsilon\})}$

und da beide Seiten durch geteilt werden können , erhält man ${\displaystyle \varepsilon >0}$${\displaystyle\varepsilon}$

${\displaystyle \mu (\{x\in X:\,f(x)\geq \varepsilon\})\leq {1 \over \varepsilon}\int _{X}f\,d\mu .}$

Folgerungen

Tschebyschews Ungleichung

Die Tschebyscheff-Ungleichung verwendet die Varianz, um die Wahrscheinlichkeit zu begrenzen, dass eine Zufallsvariable weit vom Mittelwert abweicht. Speziell,

${\displaystyle \operatorname {P} (|X-\operatorname {E} (X)|\geq a)\leq {\frac {\operatorname {Var} (X)}{a^{2}}},}$

für jedes a > 0 . Hier ist Var( X ) die Varianz von X, definiert als:

${\displaystyle \operatorname {Var} (X)=\operatorname {E} [(X-\operatorname {E} (X))^{2}].}$

Die Tschebyscheffsche Ungleichung folgt aus der Markovschen Ungleichung unter Berücksichtigung der Zufallsvariablen

${\displaystyle (X-\operatorname {E} (X))^{2}}$

und die Konstante, für die die Markov-Ungleichung lautet ${\displaystyle a^{2},}$

${\displaystyle \operatorname {P} ((X-\operatorname {E} (X))^{2}\geq a^{2})\leq {\frac {\operatorname {Var} (X)}{a ^{2}}}.}$

Dieses Argument kann zusammengefasst werden (wobei "MI" die Verwendung der Markovschen Ungleichung anzeigt):

${\displaystyle \operatorname {P} (|X-\operatorname {E} (X)|\geq a)=\operatorname {P} \left((X-\operatorname {E} (X))^{2} \geq a^{2}\right)\,{\overset {\underset {\textrm {MI} }{}}{\leq}}\,{\frac {\operatorname {E} \left((X- \operatorname {E} (X))^{2}\right)}{a^{2}}}={\frac {\operatorname {Var} (X)}{a^{2}}}.}$

Andere Folgerungen

1. Das „monotone“ Ergebnis lässt sich demonstrieren durch:

   ${\displaystyle \operatorname {P} (|X|\geq a)=\operatorname {P} {\big (}\varphi (|X|)\geq \varphi (a){\big )}\,{\ Overset {\underset {\mathrm {MI} }{}}{\leq}}\,{\frac {\operatorname {E} (\varphi (|X|))}{\varphi (a)}}}$

2. Das Ergebnis, dass für eine nichtnegative Zufallsvariable X die Quantilfunktion von X erfüllt:

   ${\displaystyle Q_{X}(1-p)\leq {\frac {\operatorname {E} (X)}{p}},}$

   der Beweis mit

   ${\displaystyle p\leq \operatorname {P} (X\geq Q_{X}(1-p))\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\, {\frac {\operatorname {E} (X)}{Q_{X}(1-p)}}.}$

3. Sei eine selbstadjungierte Matrix-wertige Zufallsvariable und a > 0 . Dann ${\displaystyle M\succeq 0}$

   ${\displaystyle \operatorname {P} (M\npreceq a\cdot I)\leq {\frac {\operatorname {tr} \left(E(M)\right)}{na}}.}$

   kann in ähnlicher Weise gezeigt werden.

Beispiele

Unter der Annahme, dass kein Einkommen negativ ist, zeigt die Markov-Ungleichung, dass nicht mehr als 1/5 der Bevölkerung mehr als das 5-fache des Durchschnittseinkommens haben kann.

Siehe auch

• Paley-Zygmund-Ungleichung – eine entsprechende untere Schranke
• Konzentrationsungleichung – eine Zusammenfassung der Tail-Bounds von Zufallsvariablen.

Verweise

Externe Links

• Der formale Beweis der Markovschen Ungleichung im Mizar-System .