Legge della varianza totale

Template:F La legge della varianza totale è un teorema della teoria della probabilità, che afferma che se $x$ e $y$ sono variabili casuali definite sul medesimo spazio di probabilità, e la varianza di $x$ è finita, allora:

${\sigma }^2(x)=𝔼[{\sigma }^2(x|y)]+{\sigma }^2(𝔼[x|y])$

dove $𝔼[x|y]$ è il valore atteso condizionato di x, e ${\sigma }^2(x|y)$ la varianza condizionata, ovvero:

${\sigma }^2(x|y)=𝔼[(x-𝔼[x|y]{)}^2|y]$

Dal punto di vista della statistica più che della teoria della probabilità, il primo termine è detto componente non spiegata della varianza totale, e il secondo è la componente spiegata; tale suggestiva terminologia si ricollega all'analisi del modello lineare, e in particolare al coefficiente di determinazione, o R².

Dimostrazione

La legge della varianza totale può essere immediatamente dimostrata sfruttando la legge delle aspettative iterate, come segue.

${\sigma }^2(x)=𝔼[x^2]-(𝔼[x]{)}^2=$

$=𝔼[𝔼[x^2|y]]-(𝔼[𝔼[x|y]]{)}^2=$

$=𝔼[{\sigma }^2(x|y)]+𝔼[(𝔼[x|y]{)}^2]-(𝔼[𝔼[x|y]]{)}^2=$

$=𝔼[{\sigma }^2(x|y)]+{\sigma }^2(𝔼[x|y])$

Relazione con il modello lineare

La legge della varianza totale presenta un'importante relazione con il modello di regressione lineare. Nel caso univariato, il modello lineare può essere enunciato come:

$𝔼[x|y]=\alpha +\beta y$

Si ha in tal caso che il rapporto di covarianza:

$\beta =\frac{\sigma (y,x)}{{\sigma }^2(y)}$

Ma allora, la componente spiegata della varianza totale altro non è che:

${\sigma }^2(𝔼[x|y])={\beta }^2{\sigma }^2(y)=\frac{{\sigma }^2(y,x)}{{\sigma }^2(y)}$

così che il rapporto tra l'espressione sopra e ${\sigma }^2(x)$ è il quadrato del coefficiente di correlazione tra $x$ e $y$:

${\rho }^2(y,x)=\frac{{\sigma }^2(𝔼[x|y])}{{\sigma }^2(x)}=\frac{{\sigma }^2(y,x)}{{\sigma }^2(y){\sigma }^2(x)}$

Tale grandezza corrisponde in effetti al coefficiente di determinazione R². È possibile ottenere un'analoga relazione nel caso multivariato.

Estensioni ai momenti di ordine superiore

Esistono relazioni analoghe alla legge della varianza totale e alla legge delle aspettative iterate per i momenti centrali di ordine superiore. Ad esempio, con riferimento al momento centrale di ordine 3, si ha:

${\mu }_3(x)=𝔼[{\mu }_3(x|y)]+{\mu }_3(𝔼[x|y])+3\sigma (𝔼[x|y],{\sigma }^2(x|y))$

Voci correlate

• Teorema della probabilità totale
• Legge delle aspettative iterate
• Regressione lineare