Covarianza (probabilità)

Template:NN In statistica e in teoria della probabilità, la covarianza di due variabili statistiche o variabili aleatorie è un valore numerico che fornisce una misura di quanto le due varino assieme.

Probabilità

Definizione

La covarianza di due variabili aleatorie $X$ e $Y$ è il valore atteso del prodotto delle loro distanze dalla media:

$\mathrm{C}\mathrm{o}\mathrm{v}(X,Y)=𝔼\left[\right(X-𝔼[X])(Y-𝔼[Y]\left)\right].$

La covarianza di $X$ e $Y$ può anche essere espressa come la differenza tra il valore atteso del loro prodotto e il prodotto dei loro valori attesi:

$\mathrm{C}\mathrm{o}\mathrm{v}(X,Y)=𝔼[XY]-𝔼[X]𝔼[Y].$

Infatti per la linearità del valore atteso risulta

$𝔼[XY-X𝔼[Y]-𝔼[X]Y+𝔼[X]𝔼[Y]]=𝔼[XY]-𝔼[X]𝔼[Y]-𝔼[X]𝔼[Y]+𝔼[X]𝔼[Y]=𝔼[XY]-𝔼[X]𝔼[Y].$

Proprietà

La covarianza rispetta le seguenti proprietà, per variabili aleatorie $X$, $Y$ e $Z$, e costanti $a$ e $b$:

• $\text{Cov}(X,Y)=\text{Cov}(Y,X)$
• $\text{Cov}(aX+b,Y)=a\text{Cov}(X,Y)$
• $\text{Cov}(X+Y,Z)=\text{Cov}(X,Z)+\text{Cov}(Y,Z)$

Due variabili aleatorie indipendenti hanno covarianza nulla, poiché dalla loro indipendenza segue

$𝔼[XY]=𝔼[X]𝔼[Y].$

Due variabili aleatorie che hanno covarianza nulla sono incorrelate.

Due variabili aleatorie dipendenti possono essere incorrelate. Ad esempio, se $X$ è una variabile aleatoria di legge uniforme sull'intervallo $[-1,1]$ e $Y=X^2$, allora

$\text{Cov}(X,Y)=\text{Cov}(X,X^2)=𝔼[X^3]-𝔼[X]𝔼[X^2]=0-0𝔼[X^2]=0.$

Varianza

La covarianza può essere considerata una generalizzazione della varianza

$\text{Var}(X)=\text{Cov}(X,X)$

e compare come termine di correzione nella relazione

$\text{Var}(X+Y)=\text{Var}(X)+\text{Var}(Y)+2\text{Cov}(X,Y).$

Più in generale, per variabili aleatorie $X_1,\dots ,X_n$ e $Y_1,\dots ,Y_m$ vale

$\text{Var}(\sum _i{X}_i)=\text{Cov}(\sum _i{X}_i,\sum _j{X}_j)=\sum _{i,j}\text{Cov}(X_i,X_j)=\sum _i\text{Var}(X_i)+2\sum _{i>j}\text{Cov}(X_i,X_j),$

come caso particolare di

$\text{Cov}(\sum _i{X}_i,\sum _j{Y}_j)=\sum _{i,j}\text{Cov}(X_i,Y_j).$

Statistica

In statistica la covarianza di due variabili statistiche $X$ e $Y$, indicata come ${\sigma }_{X,Y}=\text{Cov}(X,Y)$, è un indice di variabilità congiunta.

Su una popolazione di $N$ osservazioni congiunte $(x_i,y_i)$, di rispettive medie $\overline{x}$ e $\overline{y}$, la covarianza osservata è

${\sigma }_{X,Y}=\frac{1}{N}\sum _{i=1}^N(x_i-\overline{x})(y_i-\overline{y})=\frac{1}{N}\sum _{i=1}^N{x}_i{y}_i-\left(\frac{1}{N}\sum _{i=1}^N{x}_i\right)\left(\frac{1}{N}\sum _{i=1}^N{y}_i\right).$

Uno stimatore della covarianza di $n$ osservazioni congiunte $(x_i,y_i)$ può essere ottenuto correggendo la formula della covarianza, dividendo per il numero di gradi di libertà. In questo caso il numero di gradi di libertà è dato dal numero delle osservazioni, $n$, a cui va sottratto il numero di stimatori utilizzati nel computo della covarianza. Nella covarianza entrano le medie campionarie delle $x_i,y_i$, e si può dimostrare che il computo di queste medie corrisponde alla sottrazione di 1 solo grado di libertà (non due, come ci si potrebbe aspettare). Perciò lo stimatore della covarianza è dato da

$s_{X,Y}=\frac{\sum _{i=1}^n{x}_i{y}_i}{n-1}-\frac{\sum _{i=1}^n{x}_i}{n-1}\frac{\sum _{i=1}^n{y}_i}{n}.$

Lo stimatore della covarianza è anche detto covarianza campionaria.

La varianza e la covarianza intervengono per definire l'indice di correlazione di Bravais-Pearson

${\rho }_{X,Y}=\frac{\sum _i(x_i-\overline{x})(y_i-\overline{y})}{\sqrt{\sum _j(x_j-\overline{x}{)}^2\sum _k(y_k-\overline{y}{)}^2}}=\frac{\text{Cov}(X,Y)}{\sqrt{\text{Var}(X)\text{Var}(Y)}}.$

La covarianza è limitata dalla disuguaglianza di Cauchy-Schwarz, infatti siano $U=(x_1-\overline{x},\dots ,x_n-\overline{x})$ e $V=(y_1-\overline{y},\dots ,y_n-\overline{y})$ i vettori degli scarti degli $x_i$ e $y_i$ rispetto alle relative medie, si può applicare la diseguaglianza ottenendo

$|⟨U,V⟩|\le \sqrt{⟨U,U⟩⟨V,V⟩}$

che equivale a scrivere

$|\sum _{i=1}^n(x_i-\overline{x})(y_i-\overline{y})|\le \sqrt{\sum _{i=1}^n(x_i-\overline{x}{)}^2\sum _{i=1}^n(y_i-\overline{y}{)}^2}.$

Moltiplicando per Un fattore $1/n$ entrambi i lati si ottiene la relazione

$|{\sigma }_{X,Y}|\le {\sigma }_X{\sigma }_Y,$

dove ${\sigma }_X$ e ${\sigma }_Y$ sono le deviazioni standard per le due variabili.

Nel caso in cui $z=f(x,y)$ possiamo dire che la covarianza è limitata nell'intervallo

$|{\sigma }_Z|\le |{\partial }_{x}f(x,y)|{\sigma }_X+|{\partial }_{y}f(x,y)|{\sigma }_Y.$

Infatti, l'espressione generale per la deviazione standard di $z$ è

${\sigma }_Z=\sqrt{|{\partial }_{x}f(x,y){|}^2{\sigma }_X^2+|{\partial }_{y}f(x,y){|}^2{\sigma }_Y^2+2|{\partial }_{x}f(x,y)||{\partial }_{y}f(x,y)|{\sigma }_{X,Y}}.$

Il valore massimo (minimo), per monotonia delle funzioni, sarà ottenuto in corrispondenza di ${\sigma }_{X,Y}={\sigma }_X{\sigma }_Y$ (${\sigma }_{X,Y}=-{\sigma }_X{\sigma }_Y$), quindi il valore corrispondente di ${\sigma }_Z$ massimo sarà

${\sigma }_Z=\sqrt{|{\partial }_{x}f(x,y){|}^2{\sigma }_X^2+|{\partial }_{y}f(x,y){|}^2{\sigma }_Y^2+2|{\partial }_{x}f(x,y)||{\partial }_{y}f(x,y)|{\sigma }_X{\sigma }_Y}=|{\partial }_{x}f(x,y)|{\sigma }_X+|{\partial }_{y}f(x,y)|{\sigma }_Y.$

Osserviamo che il valore massimo è dato dalla somma diretta dei contributi delle incertezze tipo moltiplicate per i relativi coefficienti ottenuti linearizzando la relazione. Si dimostra anche che tale formula è generalizzabile al caso di una funzione dipendente da $n$ variabili.

Voci correlate

• Valore atteso
• Variabili dipendenti e indipendenti
• Varianza
• Matrice delle covarianze

Collegamenti esterni

• Template:Collegamenti esterni