Automa a stati finiti probabilistico

Un automa a stati finiti probabilistico è, in matematica e informatica teorica, una generalizzazione degli automi finiti non deterministici dove ogni ad transizione dell'automa è associata una probabilità. Le transizioni sono rappresentate in modo compatto da matrici stocastiche. I linguaggi riconosciuti dagli automi probabilistici sono chiamati linguaggi stocastici; comprendono ed estendono la famiglia dei linguaggi regolari. In particolare, il numero dei linguaggi stocastici non è numerabile; mentre quello dei linguaggi regolari lo è.

Il concetto di automa probabilistico è stato introdotto da Michael O. Rabin nel 1963. Un'estensione di questa definizione porta agli automi quantistici.

Definizione

Un automa probabilistico è fatto da un automa finito non deterministico, dove a ogni transizione è associata una probabilità, ossia un numero reale compreso tra 0 e 1.

Come per un normale automa a stati finiti (non deterministico), un automa probabilistico su un alfabeto $\mathrm{\Sigma }$ è una sestupla $𝒜=⟨\mathrm{\Sigma },Q,\delta ,s_0,T.\pi ⟩$ con:

• $\mathrm{\Sigma }=\{a_0,a_1,\dots ,a_n\}$ insieme finito di simboli chiamato alfabeto
• $Q=\{s_0,s_1,\dots ,s_m\}$ insieme finito di stati
• $\delta :Q\times \mathrm{\Sigma }\to Q$ funzione di transizione fra stati
• $s_0\in Q$ stato iniziale
• $T\subseteq Q$ insieme di stati terminali o finali
• $\pi :Q\times \mathrm{\Sigma }\to [0,1{]}^{m+1}$ probabilità di transizione

Il vettore $\pi (s,a)$, detto "probabilità della transizione", è associato a ogni transizione $(p,a)$ definita da $\delta$, con $s\in Q\text{ e }a\in \mathrm{\Sigma }$. $\pi (s,a)$ assume valori reali positivi fra 0 e 1 tali che il suo i+1-esimo elemento $p_i(s,a)$ corrisponde alla probabilità di avere $\delta (s,a)=s_i$, ossia di andare a finire in $s_i$ dopo aver letto $a$ in $s$.

La somma delle probabilità è uguale a 1. Ponendo $p_i(s,a)=0$ se $(s,a)$ non ha una transizione in $s_i$, questa condizione si esprime, per ogni stato $s$ e ogni lettera $a$:

$\sum _i{p}_i(s,a)=1$

Si definiscono delle matrici stocastiche $P(a)$ per ogni lettera $a\in \mathrm{\Sigma }$, tali che

$P(a{)}_{s,i}=p_i(s,a)$

La funzione $\pi$ si estende alle parole. Sia $w$ una parola e sia $s_j\stackrel{w}{\to }{s}_i$ un cammino da $s_j$ a $s_i$ con l'etichetta $w$. La probabilità di questo cammino è il prodotto delle probabilità delle transizioni che lo compongono. La probabilità $p_i(s_j,w)$ è definita come la somma delle probabilità dei cammini $s_j\stackrel{w}{\to }{s}_i$ da $s_j$ a $s_i$ con l'etichetta $w$. Questa definizione si esprime matricialmente con la matrice $Q\times Q$, prodotto delle matrici $P(a_1),P(a_2),\dots ,P(a_n)$:

$P(w)=P(a_1)P(a_2)\cdots P(a_n)$

con $w=a_1{a}_2\cdots a_n$. Quindi si ha $P(w{)}_{s_j,s_i}=p_i(s_j,w)$.

La "probabilità di accettazione" di una parola $w$ da parte dell'automa probabilistico $𝒜$ è la somma sugli stati terminali $t_i\in T$ delle probabilità $\pi (s_0,w)$, dove $s_0$ è lo stato iniziale. Questa probabilità si scrive anche ${\pi }_{𝒜}(w)$. Anche questo valore si può esprimere in forma matriciale:

${\pi }_{𝒜}(w)=\lambda P(w)\gamma$

dove $\lambda$ è il $Q$-vettore linea i cui valori sono tutti zero tranne quello di indice $i$, che vale 1, e dove $\gamma$ è il $Q$-vettore colonna con i valori tutti zero eccetto quelli il cui indice è in $T$, che valgono 1.

Esempio

Un automa probabilistico. Lo stato 1 è iniziale, lo stato 4 è terminale. Le probabilità sono segnate accanto alle etichette (la loro assenza significa probabilità 1).

Prendiamo l'esempio a destra di un automa a quattro stati, le matrici $P(a)$ e $P(b)$ e vettori $\lambda$ e $\gamma$ sono dati da:

$\lambda =(1,0,0,0)P(a)=\left(\begin{array}{cccc}0& \frac{3}{4}& \frac{1}{4}& 0\\ 0& 1& 0& 0\\ \frac{1}{2}& \frac{1}{2}& 0& 0\\ 0& 0& 0& 1\end{array}\right)P(b)=\left(\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& \frac{1}{2}& \frac{1}{2}\\ 0& 0& 0& 1\\ 0& 0& 0& 1\end{array}\right)\gamma =\left(\begin{array}{c}0\\ 0\\ 1\\ 0\end{array}\right)$

Ad esempio, abbiamo $\lambda P(a)P(b)=(0,0,\frac{3}{8},\frac{5}{8})$, con la probabilità di accettare $ab$ che è pertanto $\lambda P(a)P(b)\gamma =3/8$ .

Linguaggio stocastico

Soglia di accettazione

Sia $\eta$ un numero reale tale che $0\le \eta <1$. Il linguaggio accettato dall'automa probabilistico $𝒜$ con soglia $\eta$ è l'insieme delle parole la cui probabilità di accettazione è maggiore di $\eta$. Questo linguaggio stocastico è $L(𝒜,\eta )$, definito da

$L(𝒜,\eta )=\{w\in A^{*}\mid \lambda P(w)\gamma >\eta \}$

Il numero $\eta$ è chiamato "soglia" o cut point.

Un cut point è detto "isolato" se esiste un numero reale $\delta >0$ tale che, per ogni parola $w$, si ha

$|{\pi }_{𝒜}(w)-\eta |\ge \delta$

Proprietà

Tutti i linguaggi regolari sono stocastici e alcune restrizioni dei linguaggi stocastici sono regolari:

• Ogni linguaggio stocastico la cui soglia è 0 è razionale.
• Ogni linguaggio stocastico isolato è razionale.

Di contro, non vi è l'uguaglianza, come mostra l'esempio seguente.

Esempio di un linguaggio stocastico che non è regolare

Sia l'automa $𝒜$ a due stati sull'alfabeto binario dato dalle matrici:

$\lambda =(1,0)P(0)=\left(\begin{array}{cc}1& 0\\ \frac{1}{2}& \frac{1}{2}\end{array}\right)P(1)=\left(\begin{array}{cc}\frac{1}{2}& \frac{1}{2}\\ 0& 1\end{array}\right)\gamma =\left(\begin{array}{c}0\\ 1\end{array}\right)$

Per una parola binaria $w=b_1{b}_2\cdots b_n$, il coefficiente $P(w{)}_{1,2}$ della matrice $P(w)$ è uguale a

$P(w{)}_{1,2}=\sum _{j=1}^n{b}_j{2}^{n+1-j}$ ;

Questo è il numero razionale che si può scrivere in notazione binaria $0,b_n{b}_{n-1}\cdots b_1$. Per un valore di $\eta$, il linguaggio $L(𝒜,\eta )$ accettato da questo automa è quindi l'insieme di parole che rappresentano un numero binario maggiore di $\eta$. È chiaro che se $\eta <{\eta }^{\prime }$, allora $L(𝒜,\eta )\subset L(𝒜,{\eta }^{\prime })$ e questa inclusione è rigorosa. Di conseguenza, esiste un numero non numerabile di linguaggi della forma $L(𝒜,\eta )$ per questo automa; poiché il numero di linguaggi regolari è numerabile, ciò implica l'esistenza di linguaggi stocastici che non sono regolari.

Problemi di decidibilità

La maggior parte dei problemi sono indecidibili. Questi problemi possono essere formulati anche mediante quella che viene chiamata "immagine" di un automa a stati finiti probabilistico, definito come l'insieme$\mathrm{\Omega }(𝒜)=\{{\pi }_{𝒜}(w)\mid w\in A^{*}\}$.

• Il problema di sapere se il linguaggio $L(𝒜,\eta )$ accettato è vuoto o no, è indecidibile per $0<\eta <1$. Equivale al problema di sapere se $\mathrm{\Omega }(𝒜)$ contiene un valore maggiore di $\eta$.

• Il problema di sapere se un numero $\eta$ è una cut point isolato per un automa $𝒜$, è indecidibile. Equivale al problema di sapere se c'è un intervallo aperto centrato intorno $\eta$ disgiunto da $\mathrm{\Omega }(𝒜)$ .

• Sapere se esiste un numero $\eta$ che è un cut point isolato per $𝒜$, è indecidibile. Equivale a sapere se $\mathrm{\Omega }(𝒜)$ è denso nell'intervallo $[0,1]$.

Bibliografia

• Template:Cita pubblicazione
• Template:Cita libro

Voci correlate

• Modello di Markov nascosto
• Automa a stati finiti
• Algoritmo di Viterbi
• Programmazione dinamica
• Bioinformatica
• Riconoscimento vocale automatico