Funzione di Huber

La funzione di Huber è una funzione usata in analisi della regressione, che ha la proprietà di essere meno sensibile agli outlier rispetto alla somma dei quadrati residui. Introdotta da Peter Jost Huber nel 1964, è comunemente usata in metodi di regressione quali ricerca di stimatori M e modelli additivi.

Definizione

Funzione di Huber (verde, $\delta =1$) e somma dei quadrati residui (blu)

La funzione di Huber è quadratica per piccoli valori di $x$, e lineare per valori più grandi. È definita a tratti come

$L_{\delta }(x)=\{\begin{array}{cc}\frac{1}{2}{x}^2& \text{per }|x|\le \delta ,\\ \delta (|x|-\frac{1}{2}\delta ),& \text{altrimenti.}\end{array}$

ed è continua e differenziabile nei punti di congiunzione dove $|x|=\delta$.

Esistono diverse approssimazioni lisce della funzione di Huber. Una variante comune, nota come pseudo-funzione di Huber, è definita come

$L_{\delta }(x)={\delta }^2(\sqrt{1+(x/\delta {)}^2}-1).$

e approssima $\frac{x^2}{2}$ per valori piccoli di $x$, e una retta con coefficiente angolare $\delta$ per valori grandi di $x$.

In problemi di classificazione statistica è usata una variante nota come funzione di Huber modificata, definita come

$L(y,f(x))=\{\begin{array}{cc}\max (0,1-yf(x){)}^2& \text{per}yf(x)\ge -1,\\ -4yf(x)& \text{altrimenti.}\end{array}$

dove $f(x)$ è la predizione del classificatore (a valori reali) e $y\in \{+1,-1\}$ è il valore binario della categoria di $x$.