Distribuzione di Laplace

Template:Variabile casuale In statistica, la distribuzione di Laplace è una distribuzione di probabilità continua che prende il nome dal matematico Pierre-Simon de Laplace. È anche nota come doppia esponenziale poiché la sua densità può essere vista come l'associazione di due densità di leggi esponenziali. La legge di Laplace si può anche ottenere dalla differenza di due variabili esponenziali indipendenti e con uguale parametro (per esempio un moto browniano valutato come tempi distribuiti esponenzialmente). Incrementi del moto di Laplace o un processo di varianza gamma, valutati sulla scala dei tempi hanno ugualmente una distribuzione di Laplace.

La distribuzione di Laplace è la distribuzione di massima entropia dato il punto centrale $\mu$ e la deviazione assoluta media $b$.

Equazione differenziale

La funzione di densità di probabilità (probability density function - pdf) della distribuzione di Laplace è una soluzione delle seguenti equazioni differenziali:

$\{\begin{array}{cc}\left\{\begin{array}{c}b{f}^{\prime }(x)+f(x)=0\\ f(0)=\frac{e^{\frac{\mu }{b}}}{2b}\end{array}\right\}& \text{if }x\ge \mu \\ \left\{\begin{array}{c}b{f}^{\prime }(x)-f(x)=0\\ f(0)=\frac{e^{-\frac{\mu }{b}}}{2b}\end{array}\right\}& \text{if }x<\mu \end{array}$

Funzione di densità delle probabilità

Una variabile casuale ha una distribuzione di $\text{Laplace}(\mu ,b)$se la sua pdf è

$f(x\mid \mu ,b)=\frac{1}{2b}\exp (-\frac{|x-\mu |}{b})$

$=\frac{1}{2b}\{\begin{array}{cc}\exp (-\frac{\mu -x}{b})& \text{if }x<\mu \\ \exp (-\frac{x-\mu }{b})& \text{if }x\ge \mu \end{array}$

In questa formula $\mu$ è un parametro di posizione e $b>0$. che è talvolta indicato come la diversità, è un parametro di scala. Se $\mu =0$ e $b=1$ la semilinea positiva è esattamente un distribuzione esponenziale scalata a metà.

La pdf della distribuzione di Laplace ricorda anche la distribuzione normale; tuttavia, mentre la distribuzione normale è espressa in termini di quadrato delle differenze dalla media $\mu$ la distribuzione di Laplace è espressa in termini di differenza assoluta dalla media. Di conseguenza, la distribuzione di Laplace ha "code" più pesanti della distribuzione normale.

Funzione di distribuzione cumulativa

La funzione di distribuzione di Laplace è integrabile facilmente (se vengono distinti due casi simmetrici a causa dell'uso della funzione valore assoluto). La sua funzione di ripartizione è la seguente:

$\begin{array}{cc}F(x)& =\underset{-\mathrm{\infty }}{\overset{x}{\int }}f(u)\mathrm{d}u=\{\begin{array}{cc}\frac{1}{2}\exp \left(\frac{x-\mu }{b}\right)& \text{if }x<\mu \\ 1-\frac{1}{2}\exp (-\frac{x-\mu }{b})& \text{if }x\ge \mu \end{array}\\ & =\frac{1}{2}+\frac{1}{2}\mathrm{sgn}(x-\mu )(1-\exp (-\frac{|x-\mu |}{b})).\end{array}$

La distribuzione cumulativa inversa è data da

$F^{-1}(p)=\mu -b\mathrm{sgn}(p-0.5)\ln (1-2|p-0.5|).$

Generazione di variabili casuali in accordo alla distribuzione di Laplace

Data una variabile casuale $U$ presa da una distribuzione uniforme nell'intervallo $(-1/2,1/2]$ la variabile casuale

$X=\mu -b\mathrm{sgn}(U)\ln (1-2|U|)$

ha una distribuzione di Laplace con parametri $\mu$ e $b$. Questo deriva dalla distribuzione cumulativa inversa data sopra.

Una $\text{Laplace}(0,b)$ può essere generata come differenza di due variabili casuali $\text{exp}(1/b)$ indipendenti e con distribuzione identica (independent identically distributed, iid). In modo analogo $\text{Laplace}(0,1)$ può essere generata anche come logaritmo del rapporto di due variabili casuali uniformi iid.

Stima dei parametri

Dato $N$ indipendente con una distribuzione identica i campioni $x_1,x_2,...,x_N$ la stima di massima verosimiglianza $\hat{\mu }$ di $\mu$ è la mediana campionaria e quella $\hat{b}$ di $b$ è

$\hat{b}=\frac{1}{N}\sum _{i=1}^N|x_i-\hat{\mu }|$

(rivelando così un collegamento fra la distribuzione di Laplace ed i minimi scostamenti assoluti.

Momenti

${{\mu }_r}^{\prime }=\left(\frac{1}{2}\right)\sum _{k=0}^r[\frac{r!}{(r-k)!}{b}^k{\mu }^{(r-k)}\{1+(-1{)}^k\}]=\frac{m^{n+1}}{2b}(e^{m/b}{E}_{-n}(m/b)-e^{-m/b}{E}_{-n}(-m/b))$

dove $E_n()$ è la funzione integrale esponenziale generalizzata $E_n(x)=x^{n-1}\mathrm{\Gamma }(1-n,x)$.

Distribuzioni correlate

• Se $X\sim \text{Laplace}(\mu ,b)$ allora $kX+c\sim \text{Laplace}(k\mu +c,kb)$
• Se $X\sim \text{Laplace}(0,b)$ allora $\left|X\right|\sim \text{exp}\left(b^{-1}\right)$ (distribuzione esponenziale)
• Se $X,Y\sim \text{exp}(\lambda )$ allora $X-Y\sim \text{Laplace}(0,{\lambda }^{-1})$
• Se $X\sim \text{Laplace}(\mu ,b)$ allora $|X-\mu |\sim \text{exp}(b^{-1})$
• Se $X\sim \text{Laplace}(\mu ,b)$ allora $X\sim \text{EPD}(\mu ,b,0)$ (distribuzione esponenziale di potenza)
• Se $X_1,...,X_4\sim \text{N}(0,1)$ (distribuzione normale) allora $X_1{X}_2-X_3{X}_4\sim \text{Laplace}(0,1)$
• Se $X_i\sim \text{Laplace}(\mu ,b)$ allora $\frac{2}{b}\sum _{i=1}^n|X_i-\mu |\sim {\chi }^2(2n)$ (distribuzione chi quadro)
• Se $X,Y\sim \text{Laplace}(\mu ,b)$ allora $\frac{|X-\mu |}{|Y-\mu |}\sim \mathrm{F}(2,2)$ (Distribuzione F)
• Se $X,Y\sim \text{U}(0,1)$ (Distribuzione uniforme)allora $\log (X/Y)\sim \text{Laplace}(0,1)$
• Se $X\sim \text{exp}(\lambda )$ and $Y\sim \text{Bernoulli}(0.5)$ (Distribuzione di Bernoulli) indipendente da $X$ allora $X(2Y-1)\sim \text{Laplace}(0,{\lambda }^{-1})$
• Se $X\sim \text{exp}(\lambda )$ and $Y\sim \text{exp}(\nu )$ indipendente da $X$ allora $\lambda X-\nu Y\sim \text{Laplace}(0,1)$
• Se $X$ ha una distribuzione di Rademacher e $Y\sim \text{exp}(\lambda )$ allora $XY\sim \text{Laplace}(0,1/\lambda )$
• Se $V\sim \text{exp}(1)$ e $Z\sim N(0,1)$ sono indipendentiu da $V$ allora $X=\mu +b\sqrt{2V}Z\sim \mathrm{L}\mathrm{a}\mathrm{p}\mathrm{l}\mathrm{a}\mathrm{c}\mathrm{e}(\mu ,b)$
• Se $X\sim \text{GeometricStable}(2,0,\lambda ,0)$ (distribuzione geometrica stabile) allora $X\sim \text{Laplace}(0,\lambda )$
• La distribuzione di Laplace è un caso limite della distribuzione iperbolica
• Se $X|Y\sim \text{N}(\mu ,\sigma =Y)$ con $Y\sim \text{Rayleigh}(b)$ (distribuzione di Rayleigh) allora $X\sim \text{Laplace}(\mu ,b)$

Relazione con la distribuzione esponenziale

Una variabile casuale di Laplace può essere rappresentata come la differenza due variabili esponenziali con distribuzione identica. Un modo di dimostrare ciò è usando la funzione caratteristica. Per qualsiasi insieme di variabili casuali continue e indipendenti, per ogni combinazione lineare di tali variabili, la sua funzione caratteristica (che determina univocamente la distribuzione) può essere ottenuta moltiplicando le funzioni caratteristiche.

Considerando due variabili casuali iid $X,Y\sim \text{exp}(\lambda )$. Le funzioni caratteristiche per $X,-Y$ sono rispettivamente

$\frac{\lambda }{-it+\lambda },\frac{\lambda }{it+\lambda }$

Moltiplicando queste funzioni caratteristiche (equivalenti alla funzione caratteristica della somma delle variabili casuali $X+(-Y)$) il risultato è

$\frac{{\lambda }^2}{(-it+\lambda )(it+\lambda )}=\frac{{\lambda }^2}{t^2+{\lambda }^2}.$

che equivale alla funzione caratteristica di $Z\sim \text{Laplace}(0,1/\lambda )$, che è

$\frac{1}{1+\frac{t^2}{{\lambda }^2}}.$

Le distribuzioni di Sargan

Le distribuzioni di Sargan sono un sistema di distribuzioni entro cui la distribuzione di Laplace rappresenta un membro essenziale. Una distribuzione di Sargan di $p$esimo ordine ha un densità

$f_p(x)=\frac{1}{2}\exp (-\alpha |x|)\frac{1+\sum _{j=1}^p{\beta }_j{\alpha }^j|x{|}^j}{1+\sum _{j=1}^{p}j!{\beta }_j},$

per i parametri $\alpha \ge 0,{\beta }_j\ge 0$. La distribuzione di Laplace ha un valore $p=0$

Storia

Questa distribuzione spesso è indicata come prima legge di Laplace degli errori. La ha pubblicata nel 1774, quando notò che la frequenza di un errore poteva essere espressa come una funzione esponenziale della sua grandezza una volta che il suo segno fosse trascurato.

John Maynard Keynes ha pubblicato nel 1911 un articolo basato sulle sue precedenti tesi dove dimostrava che la distribuzione di Laplace minimizzava la deviazione assoluta dalla mediana.

Applicazioni

• La distribuzione di Laplace è stata usata nel riconoscimento delle parole per modellare le priorità nei coefficienti della trasformata discreta di Fourier e nella compressione di immagini JPEG per modellare i coefficienti AC generate in una trasformazione discreta di coseni.
• L'aggiunta di rumore tratto da una distribuzione di Laplace, con parametro di scala appropriato per il tipo di dati, per generare il risultato di una query di una base dati statistica è uno dei metodi più comuni per generare una privacy differenziale nelle basi dati statistiche.
• Nelle analisi di regressione il metodo dei minimi scarti assoluti dà luogo alla stima di massima verosimiglianza se si assume una distribuzione di Laplace per gli errori.
• Il metodo LASSO può essere pensato come una regressione bayesiana con una distribuzione a priori di Laplace centrata su 0 per tutti i parametri tranne l'intercetta.

Collegamenti esterni

• Template:Collegamenti esterni