Quoziente di Rayleigh

In matematica, in particolare nell'ambito dell'algebra lineare e dell'analisi funzionale, per una data matrice hermitiana $A$ e un vettore non nullo $x$, il quoziente di Rayleigh è il numero reale:

$R(A,x):=\frac{x^{†}Ax}{x^{†}x}$

dove $x^{†}$ indica il vettore trasposto coniugato di $x$. Anche se definito tramite quantità complesse, il quoziente di Rayleigh è sempre reale, essendo $x^{†}Ax$ una forma hermitiana ed essendo $x^{†}x=\Vert x{\Vert }^2$, dove $\Vert \cdot \Vert$ indica la norma euclidea. Come verifica, è sufficiente porre $\alpha :=x^{†}Ax$ e osservare che, essendo $A^{†}=A$, si ha:

${\alpha }^{†}=x^{†}{A}^{†}x=x^{†}Ax=\alpha$

ma ciò implica che $\alpha \in ℝ$.

Si può dimostrare che il quoziente di Rayleigh assume il valore minimo ${\lambda }_{\min }$, che è il più piccolo autovalore di $A$, quando $x$ è il corrispondente autovettore $v_{\min }$. Analogamente, si ha $R(A,x)\le {\lambda }_{\max }$ e $R(A,v_{\max })={\lambda }_{\max }$.

L'immagine del quoziente di Rayleigh è lo spettro di $A$, e il numero ${\lambda }_{\max }$ è il raggio spettrale.

Matrice delle covarianze

Un caso di particolare importanza si verifica quando la matrice $A$ è la matrice delle covarianze. Un tale matrice può essere rappresentata dal prodotto $D^{\prime }D$, dove $D$ è una matrice di dati empirici e $D^{\prime }$ la sua trasposta. Essendo simmetrica, $A$ possiede autovalori non negativi e autovettori ortogonali (più precisamente, ortonormalizzabili). Infatti:

$A{v}_i=D^{\prime }D{v}_i={\lambda }_i{v}_i$

$\Rightarrow {v_i}^{\prime }{D}^{\prime }D{v}_i={v_i}^{\prime }{\lambda }_i{v}_i$

$\Rightarrow {\Vert D{v}_i\Vert }^2={\lambda }_i{\Vert v_i\Vert }^2$

$\Rightarrow {\lambda }_i=\frac{{\Vert D{v}_i\Vert }^2}{{\Vert v_i\Vert }^2}\ge 0$

ovvero gli autovalori ${\lambda }_i$ non sono negativi. Inoltre:

$\begin{array}{cc}& A{v}_i={\lambda }_i{v}_i\\ & \Rightarrow {v_j}^{\prime }A{v}_i={\lambda }_i{v_j}^{\prime }{v}_i\\ & \Rightarrow \left(A{v}_j\right)v_i={\lambda }_j{v_j}^{\prime }{v}_i\\ & \Rightarrow {\lambda }_j{v_j}^{\prime }{v}_i={\lambda }_i{v_j}^{\prime }{v}_i\\ & \Rightarrow ({\lambda }_j-{\lambda }_i){v_j}^{\prime }{v}_i=0\\ & \Rightarrow {v_j}^{\prime }{v}_i=0\end{array}$

ovvero gli autovettori $v_j$ sono ortogonali (ortonormalizzabili nel caso di autovettori differenti/molteplici).

Per mostrare che il quoziente di Rayleigh è massimizzato dall'autovettore relativo al più grande autovalore (raggio spettrale), si consideri la decomposizione di un generico vettore $x$ nella base degli autovettori $v_i$:

$x=\sum _{i=1}^n{\alpha }_i{v}_i$

dove:

${\alpha }_i=\frac{x^{\prime }{v}_i}{{v_i}^{\prime }{v}_i}=\frac{⟨x,v_i⟩}{{\Vert v_i\Vert }^2}$

è la coordinata di $x$ proiettata ortogonalmente su $v_i$. Quindi si ha:

$R(A,x)=\frac{x^{\prime }{D}^{\prime }Dx}{x^{\prime }x}=\frac{\left(\sum _{j=1}^n{\alpha }_j{v}_j\right)\left(D^{\prime }D\right)\left(\sum _{i=1}^n{\alpha }_i{v}_i\right)}{\left(\sum _{j=1}^n{\alpha }_j{v}_j\right)\left(\sum _{i=1}^n{\alpha }_i{v}_i\right)}$

che per la mutua perpendicolarità degli autovettori diventa:

$R(A,x)=\frac{\sum _{i=1}^n{\alpha }_i^2{\lambda }_i}{\sum _{i=1}^n{\alpha }_i^2}=\sum _{i=1}^n{\lambda }_i\frac{(x^{\prime }{v}_i{)}^2}{(x^{\prime }x)({v_i}^{\prime }{v}_i)}$

ovvero il quoziente di Rayleigh è la somma dei coseni al quadrato degli angoli formati tra $x$ e gli autovettori $v_i$, pesata per i rispettivi autovalori.

Se un vettore $x$ massimizza $R(A,x)$, allora anche ogni scalare non nullo $kx$ massimizza $R$ e pertanto il problema può essere ridotto al metodo di Lagrange per massimizzare $\sum _{i=1}^n{\alpha }_i^2{\lambda }_i$, a condizione che:

$\sum _{i=1}^n{\alpha }_i^2=1$

Formulazione tramite moltiplicatori di Lagrange

Questo risultato può essere ricavato anche utilizzando il metodo dei moltiplicatori di Lagrange. Il problema consiste nel trovare i punti critici della funzione:

$R(A,x)=x^{T}Ax$

soggetta al vincolo $\Vert x{\Vert }^2=x^{T}x=1$. Si tratta cioè di trovare i punti critici di:

$ℒ(x)=x^{T}Ax-\lambda (x^{T}x-1)$

dove $\lambda$ è un moltiplicatore di Lagrange. Il punto stazionario di $ℒ(x)$ si verifica quando:

$\frac{dℒ(x)}{dx}=0$

$\Rightarrow 2x^T{A}^T-2\lambda x^T=0$

$\Rightarrow Ax=\lambda x$

e:

$R(A,x)=\frac{x^{T}Ax}{x^{T}x}=\lambda \frac{x^{T}x}{x^{T}x}=\lambda$

Quindi, gli autovettori $x_1,\cdots ,x_n$ di $A$ sono i punti critici del quoziente di Rayleigh e i rispettivi autovalori ${\lambda }_1,\cdots ,{\lambda }_n$ sono i valori stazionari di $R$.

Utilizzo nella teoria di Sturm-Liouville

La teoria di Sturm-Liouville studia l'azione dell'operatore lineare:

$L(y)=\frac{1}{w(x)}(-\frac{d}{dx}[p(x)\frac{dy}{dx}]+q(x)y)$

sullo spazio prehilbertiano definito da:

$⟨y_1,y_2⟩=\underset{a}{\overset{b}{\int }}w(x)y_1(x)y_2(x)dx$

composto da funzioni che soddisfano alcune specifiche condizioni al contorno in $a$ e $b$. In tal caso il quoziente di Rayleigh è:

$\frac{⟨y,Ly⟩}{⟨y,y⟩}=\frac{\underset{a}{\overset{b}{\int }}y(x)(-\frac{d}{dx}[p(x)\frac{dy}{dx}]+q(x)y(x))dx}{\underset{a}{\overset{b}{\int }}w(x)y(x{)}^{2}dx}$

Talvolta è presentato in una forma equivalente, ottenuta separando l'integrale al numeratore e utilizzando l'integrazione per parti:

$\begin{array}{cc}\frac{⟨y,Ly⟩}{⟨y,y⟩}& =\frac{\{\underset{a}{\overset{b}{\int }}y(x)(-\frac{d}{dx}[p(x)y^{\prime }(x)])dx\}+\left\{\underset{a}{\overset{b}{\int }}q(x)y(x{)}^{2}dx\right\}}{\underset{a}{\overset{b}{\int }}w(x)y(x{)}^{2}dx}\\ & =\frac{\left\{{-y(x)[p(x)y^{\prime }(x)]|}_a^b\right\}+\{\underset{a}{\overset{b}{\int }}{y}^{\prime }(x)[p(x)y^{\prime }(x)]dx\}+\left\{\underset{a}{\overset{b}{\int }}q(x)y(x{)}^{2}dx\right\}}{\underset{a}{\overset{b}{\int }}w(x)y(x{)}^{2}dx}\\ & =\frac{\left\{{-p(x)y(x)y^{\prime }(x)|}_a^b\right\}+\left\{\underset{a}{\overset{b}{\int }}[p(x)y^{\prime }(x{)}^2+q(x)y(x{)}^2]dx\right\}}{\underset{a}{\overset{b}{\int }}w(x)y(x{)}^{2}dx}\end{array}$

Generalizzazione

Per una data coppia di matrici $(A,B)$ e per un dato vettore $x\ne \overrightarrow{0}$, il quoziente di Rayleigh generalizzato è definito come:

$R(A,B;x):=\frac{x^{*}Ax}{x^{*}Bx}$

Il quoziente di Rayleigh generalizzato può essere ridotto al quoziente di Rayleigh $R(D,C^{*}x)$ attraverso la trasformazione $D=C^{-1}A{C^{*}}^{-1}$, dove $C{C}^{*}$ è la decomposizione di Cholesky della matrice hermitiana $B$ definita positiva.

Bibliografia

• Template:En Shi Yu, Léon-Charles Tranchevent, Bart Moor, Yves Moreau, Kernel-based Data Fusion for Machine Learning: Methods and Applications in Bioinformatics and Text Mining, Ch. 2, Springer, 2011.
• Template:En Horn, R. A. and C. A. Johnson. 1985. Matrix Analysis. Cambridge University Press. pp. 176–180.
• Template:En Parlet B. N. The symmetric eigenvalue problem, SIAM, Classics in Applied Mathematics, 1998.

Voci correlate

• Autovettore e autovalore
• Matrice hermitiana
• Matrice trasposta coniugata
• Metodo dei moltiplicatori di Lagrange
• Raggio spettrale
• Spettro (matematica)
• Teoria di Sturm-Liouville

Collegamenti esterni

• Template:Cita web