Disuguaglianza di Markov

Template:F In teoria della probabilità e statistica, la disuguaglianza di Markov afferma che, per una variabile casuale $X$ non negativa il cui valore atteso esiste, vale

$P(X\ge \alpha )\le \frac{𝔼[X]}{\alpha }.$

Questa disuguaglianza permette di stabilire un limite superiore al valore di probabilità dalla sola conoscenza del valore atteso $𝔼[X],$ a condizione che la variabile casuale sia definita non negativa.

La disuguaglianza di Markov è anche utilizzata nella dimostrazione della disuguaglianza di Čebyšëv.

Dimostrazione

Si definiscano le variabili casuali $X$ e $I$ come segue:

$X:\mathrm{\Omega }\to {ℝ}_0^{+},$

con $\mathrm{\Omega }$ spazio campionario e

$I=\{\begin{array}{cc}1& \text{se }X\ge \alpha ,\\ 0& \text{se }X<\alpha ,\end{array}$

con $\alpha \in {ℝ}^{+}.$ Chiaramente per ogni $\alpha$ non nullo, vale la seguente disuguaglianza larga $0\le I\le \frac{X}{\alpha }.$

Supponiamo inoltre che per la variabile aleatoria $X$ esiste $𝔼[X],$ allora

$P(X\ge \alpha )=𝔼[I].$

Il valore atteso è definito come somma di tutti i valori che la variabile aleatoria può assumere moltiplicati per la probabilità che tale variabile assuma effettivamente tali valori, nel nostro caso:

$𝔼[I]=0\cdot P(I=0)+1\cdot P(I=1)=P(I=1).$

Ma la probabilità che $I$ sia uguale a 1 è proprio la probabilità che $X$ sia maggiore o uguale ad $\alpha ,$ quindi

$𝔼[I]\le 𝔼\left[\frac{X}{\alpha }\right].$

Il valore atteso mantiene la disuguaglianza degli argomenti poiché si tratta di una funzione non decrescente, dato che gli argomenti sono variabili non negative. Basti pensare alla definizione di valore atteso, nel caso discreto e quello continuo, la quale genera serie a termini positivi in un caso e integrali di funzioni positive nell'altro. Per la linearità del valore atteso si ha

$𝔼\left[\frac{X}{\alpha }\right]=\frac{𝔼[X]}{\alpha }.$

Quindi si conclude che

$P(X\ge \alpha )\le \frac{𝔼[X]}{\alpha }.$

Disuguaglianza di Čebyšëv

Template:Vedi anche Partendo dall'appena dimostrata disuguaglianza possiamo ottenere come corollario il seguente enunciato:

$P(|X-𝔼[X]|\ge \gamma )\le \frac{\mathrm{V}\mathrm{a}\mathrm{r}(X)}{{\gamma }^2}$

con parametro $\gamma$ positivo. Per farlo definiamo una variabile aleatoria $X:\mathrm{\Omega }\to ℝ$ e associamo ad essa la variabile aleatoria $Y=(X-𝔼[X]{)}^2.$

Così definita $Y$ è una variabile aleatoria non negativa, pertanto applichiamo ad essa la disuguaglianza di Markov, ottenendo

$P(Y\ge {\gamma }^2)\le \frac{𝔼[Y]}{{\gamma }^2}⟺P((X-𝔼[X]{)}^2\ge {\gamma }^2)\le \frac{𝔼[(X-𝔼[X]{)}^2]}{{\gamma }^2}.$

A destra otteniamo la definizione di varianza

$\mathrm{V}\mathrm{a}\mathrm{r}(X)=𝔼[(X-𝔼[X]{)}^2],$

e sapendo che in generale per ogni $x,\mu ,\alpha$ vale

$(x-\mu {)}^2\ge {\alpha }^2⟺|x-\mu |\ge |\alpha |,$

otteniamo quanto si voleva dimostrare:

$P(|X-𝔼[X]|\ge \gamma )\le \frac{\mathrm{V}\mathrm{a}\mathrm{r}(X)}{{\gamma }^2}.$

Ponendo il parametro $t=\frac{\gamma }{\sqrt{\mathrm{V}\mathrm{a}\mathrm{r}(X)}},$ il precedente risultato può essere riscritto

$P(|X-𝔼[X]|\ge t\sqrt{\mathrm{V}\mathrm{a}\mathrm{r}(X)})\le \frac{1}{t^2}.$

Si può semplificare la scrittura usando, anziché la varianza, la deviazione standard $\sigma$ definita proprio come sua radice:

$P(|X-𝔼[X]|\ge t\sigma )\le \frac{1}{t^2}.$

Legge debole dei grandi numeri

La disuguaglianza di Čebyšëv, viene inoltre utilizzata nella famosa legge dei grandi numeri, di cui qui verrà dimostrata il suo enunciato cosiddetto "debole". L'enunciato è il seguente:

Consideriamo una popolazione di $N$ variabili aleatorie indipendenti tutte di valore atteso $\mu$ e varianza ${\sigma }^2$.

$\{X_n{\}}_{n\in \mathbb{N},n\le N}\subset ℝ;$

$𝔼[X_n]=\mu ,\mathrm{\forall }n;$

$\mathrm{V}\mathrm{a}\mathrm{r}(X_n)={\sigma }^2,\mathrm{\forall }n.$

Definendo lo stimatore del valor medio

${\overline{X}}_N=\frac{1}{N}\sum _{n=1}^N{X}_n,$

si ha

$\underset{N\to \mathrm{\infty }}{\lim }P(|{\overline{X}}_N-\mu |<ϵ)=1,$

per ogni $ϵ\in {ℝ}^{+}.$ Il che vuol dire che aumentando la grandezza della popolazione in nostro possesso, lo stimatore del valor medio va sempre di più a coincidere con il valore atteso.

Dimostrazione

Applichiamo la disuguaglianza di Čebyšëv allo stimatore del valor medio:

$P(|{\overline{X}}_N-𝔼[{\overline{X}}_N]|\ge ϵ)\le \frac{\mathrm{V}\mathrm{a}\mathrm{r}({\overline{X}}_N)}{{ϵ}^2}$

per ogni $ϵ\in {ℝ}^{+}.$ Per le proprietà di linearità del valore atteso abbiamo che in generale la media aritmetica di variabili aleatorie di diverso valore atteso corrisponde a uno stimatore di valore atteso pari alla media aritmetica dei singoli valori attesi. Nel nostro caso tutte le $X_n$ hanno lo stesso valore atteso $\mu$, pertanto

$𝔼[{\overline{X}}_N]=\frac{1}{N}\sum _{n=1}^N𝔼[X_n]=\mu .$

Poiché le $X_n$ sono indipendenti tra di loro, per ogni $a,b\in ℝ,$ e per ogni $i,j\in \mathbb{N}$ tale che $i\le j\le N,$ si ha

$\mathrm{V}\mathrm{a}\mathrm{r}(a{X}_i+b{X}_j)=a^2\mathrm{V}\mathrm{a}\mathrm{r}(X_i)+b^2\mathrm{V}\mathrm{a}\mathrm{r}(X_j).$

Nel nostro caso quindi si ha che

$\mathrm{V}\mathrm{a}\mathrm{r}({\overline{X}}_N)=\frac{1}{N^2}\sum _{n=1}^N\mathrm{V}\mathrm{a}\mathrm{r}(X_n)=\frac{{\sigma }^2}{N}.$

Riscrivendo la relazione alla luce di quanto detto, si ottiene

$P(|{\overline{X}}_N-\mu |\ge ϵ)\le \frac{{\sigma }^2}{N{ϵ}^2},$

$1-P(|{\overline{X}}_N-\mu |\ge ϵ)\ge 1-\frac{{\sigma }^2}{N{ϵ}^2}.$

Il primo termine può essere riscritto mediante il complementare dell'evento di cui stiamo calcolando la probabilità

$1-P(|{\overline{X}}_N-\mu |\ge ϵ)=P(|{\overline{X}}_N-\mu |<ϵ).$

Ma la probabilità di qualunque evento è al più 1:

$1\ge P(|{\overline{X}}_N-\mu |<ϵ)\ge 1-\frac{{\sigma }^2}{N{ϵ}^2}.$

Pertanto se portiamo al limite tale espressione otteniamo quanto stavamo cercando per il teorema del confronto:

$\underset{N\to \mathrm{\infty }}{\lim }P(|{\overline{X}}_N-\mu |<ϵ)=1.$

Il che vuol dire che è certo l'evento preso in considerazione, ossia che definitivamente la distanza tra ${\overline{X}}_N$ e $\mu$ è maggiorata da $ϵ$ arbitrario positivo

$\mathrm{\forall }ϵ>0\mathrm{\exists }\overline{N}\text{ tale che }\mathrm{\forall }N>\overline{N}$

$|{\overline{X}}_N-\mu |<ϵ.$

Il che significa in conclusione, per definizione di limite, che

$\underset{N\to \mathrm{\infty }}{\lim }{\overline{X}}_N=\mu .$

Voci correlate

• Disuguaglianza di Čebyšëv
• Teorema del limite centrale
• Modello di Markov nascosto

Collegamenti esterni

• Template:Collegamenti esterni