Probabilità per Data Scientist: 6 Esercizi Pratici e Soluzioni Commentate (dal Teorema di Bayes alle Metriche ML)

Oltre il codice: Sai davvero quanto è affidabile il tuo modello?

Diciamocelo chiaramente: importare una libreria Python sono capaci tutti. Scrivere tre righe di codice per addestrare un classificatore non fa di te un Data Scientist. La vera partita si gioca altrove: succede tutto quando il modello ti dice “questo utente comprerà” e tu devi decidere se scommetterci sopra il budget aziendale.

L’intuizione umana, spesso, è pessima con le probabilità. Tendiamo a ignorare quanto siano rari certi eventi o a sovrastimare la precisione di un test solo perché ci sembra “affidabile”. In questo articolo non troverai teoria astratta, ma sei scenari di vita reale, dai sistemi di raccomandazione ai controlli di qualità,che metteranno a dura prova la tua capacità di ragionamento.

Prendi carta e penna.

Non si tratta di passare un esame, ma di capire se ti stai fidando dei numeri giusti.

Spiegazione:

Identifichiamo gli eventi:

• [math]N[/math] = “utente Nuovo” [math]\to P(N) = 0.3[/math]
• [math]R[/math] = “utente Regolare” [math]\to P(R) = 0.7[/math]
• [math]C[/math] = “clicca sul film consigliato”

Probabilità condizionate:

[math]P(C|N) = 0.4[/math]

[math]P(C|R) = 0.6[/math]

Usiamo la formula delle probabilità totali:

[math]\displaystyle \begin{aligned}
P(C) &= P(C|N) \cdot P(N) + P(C|R) \cdot P(R) \\
&{} \quad \text{Sostituendo i valori numerici:} \\
P(C) &= (0.4 \times 0.3) + (0.6 \times 0.7) \\
P(C) &= 0.12 + 0.42 = 0.54
\end{aligned}[/math]

💡 Osservazione: La formula delle probabilità totali permette di calcolare la probabilità di un evento quando abbiamo una partizione dello spazio campionario (qui [math]N[/math] e [math]R[/math] sono esaustivi ed esclusivi).

Spiegazione:

Definiamo gli eventi:

• [math]F[/math] = “notizia è fake” [math]\to P(F) = 0.2[/math]
• [math]V[/math] = “notizia è vera” [math]\to P(V) = 0.8[/math]
• [math]Pos[/math] = “test positivo (classifica come fake)”

Dati del problema:

• Sensibilità: [math]P(Pos|F) = 0.9[/math]
• Specificità: [math]P(Neg|V) = 0.85[/math], quindi [math]P(Pos|V) = 1 – 0.85 = 0.15[/math]

Usiamo il teorema di Bayes:

[math]\displaystyle \begin{aligned}
P(F|Pos) &= \frac{P(Pos|F) \cdot P(F)}{P(Pos)} \\
\end{aligned}[/math]

Per prima cosa, calcoliamo la probabilità totale del test positivo [math]P(Pos)[/math]:

[math]\displaystyle \begin{aligned}
P(Pos) &= P(Pos|F) \cdot P(F) + P(Pos|V) \cdot P(V) \\
&{} \quad \text{Sostituendo i valori:} \\
P(Pos) &= (0.9 \times 0.2) + (0.15 \times 0.8) \\
P(Pos) &= 0.18 + 0.12 = 0.3
\end{aligned}[/math]

Infine, calcoliamo la probabilità a posteriori:

[math]\displaystyle \begin{aligned}
P(F|Pos) &= \frac{0.9 \times 0.2}{0.3} \\
P(F|Pos) &= \frac{0.18}{0.3} = 0.6
\end{aligned}[/math]

💡 Osservazione: Questo è un classico esempio di probabilità a posteriori di Bayes, fondamentale per calcolare il valore predittivo di un test.

Spiegazione:

Prima parte: [math]P(B|C)[/math]

Definiamo le probabilità a priori e le verosimiglianze:

• [math]P(A) = P(B) = 0.5[/math]
• [math]P(C|A) = 0.1[/math]
• [math]P(C|B) = 0.12[/math]

Calcoliamo la probabilità totale di conversione [math]P(C)[/math]:

[math]\displaystyle \begin{aligned}
P(C) &= P(C|A)P(A) + P(C|B)P(B) \\
P(C) &= (0.1 \times 0.5) + (0.12 \times 0.5) \\
P(C) &= 0.05 + 0.06 = 0.11
\end{aligned}[/math]

Applichiamo il Teorema di Bayes per trovare la probabilità che l’utente provenga dal gruppo [math]B[/math]:

[math]\displaystyle \begin{aligned}
P(B|C) &= \frac{P(C|B)P(B)}{P(C)} \\
P(B|C) &= \frac{0.12 \times 0.5}{0.11} = \frac{0.06}{0.11} \approx 0.5455
\end{aligned}[/math]

Seconda parte: Due convertitori indipendenti

Sia [math]p = P(B|C) \approx 0.5455[/math]. Vogliamo la probabilità che almeno uno dei due provenga da [math]B[/math]:

[math]\displaystyle \begin{aligned}
P(\text{almeno uno da B}) &= 1 – P(\text{nessuno da B}) \\
&{} \quad \text{Calcolo del complemento su due eventi indipendenti:} \\
P(\dots) &= 1 – (1-p)^2 \\
P(\dots) &= 1 – (1 – 0.5455)^2 \\
P(\dots) &= 1 – (0.4545)^2 \approx 0.7934 \approx 0.797
\end{aligned}[/math]

💡 Osservazione: La probabilità condizionata si modifica quando consideriamo più osservazioni indipendenti.

Spiegazione:

Fase 1: Dopo il primo test positivo

Calcoliamo la probabilità a posteriori utilizzando il Teorema di Bayes:

[math]\displaystyle \begin{aligned}
P(M|Pos) &= \frac{P(Pos|M)P(M)}{P(Pos|M)P(M) + P(Pos|S)P(S)} \\
&{} \quad \text{Sostituendo i valori iniziali:} \\
P(M|Pos) &= \frac{0.99 \times 0.001}{(0.99 \times 0.001) + (0.01 \times 0.999)} \\
P(M|Pos) &= \frac{0.00099}{0.00099 + 0.00999} \\
P(M|Pos) &= \frac{0.00099}{0.01098} \approx 0.0902
\end{aligned}[/math]

Fase 2: Dopo il secondo test positivo

Il risultato del primo test ([math]0.0902[/math]) diventa la nuova probabilità a priori (prevalenza aggiornata) per il secondo test:

• Nuovo [math]P(M) = 0.0902[/math]
• Nuovo [math]P(S) = 0.9098[/math]

[math]\displaystyle \begin{aligned}
P(M|Pos_2) &= \frac{0.99 \times 0.0902}{(0.99 \times 0.0902) + (0.01 \times 0.9098)} \\
P(M|Pos_2) &= \frac{0.0893}{0.0893 + 0.009098} \\
P(M|Pos_2) &= \frac{0.0893}{0.0984} \approx 0.9075 \approx 0.91
\end{aligned}[/math]

💡 Osservazione: Due test positivi consecutivi aumentano drasticamente la probabilità a posteriori rispetto a un solo test (passando dal 9% circa al 91%).

Spiegazione:

Definiamo gli eventi principali:

• [math]E[/math] = “record errato” [math]\to P(E) = 0.05[/math]
• [math]S[/math] = “segnalato dall’automatico”
• [math]R[/math] = “confermato errato dal revisore”

Fase 1: Validatore Automatico

Calcoliamo la probabilità che un record sia errato dato che è stato segnalato [math]P(E|S)[/math]:

[math]\displaystyle \begin{aligned}
P(S|E) &= 0.9, \quad P(S|\text{non } E) = 0.02 \\
P(S) &= P(S|E)P(E) + P(S|\text{non } E)P(\text{non } E) \\
P(S) &= (0.9 \times 0.05) + (0.02 \times 0.95) \\
P(S) &= 0.045 + 0.019 = 0.064 \\
P(E|S) &= \frac{0.045}{0.064} = 0.703125
\end{aligned}[/math]

Fase 2: Revisione Manuale

Il risultato della prima fase diventa la nostra nuova probabilità a priori per l’analisi del revisore:

• Nuovo [math]P(E) = 0.703125[/math]
• Nuovo [math]P(\text{non } E) = 0.296875[/math]

Il revisore conferma l’errore ([math]R[/math]) con queste probabilità:

• [math]P(R|E) = 0.95[/math]
• [math]P(R|\text{non } E) = 1 – 0.9 = 0.1[/math] (probabilità di errore del revisore su record sani)

Applichiamo nuovamente il Teorema di Bayes:

[math]\displaystyle \begin{aligned}
P(R) &= P(R|E)P(E) + P(R|\text{non } E)P(\text{non } E) \\
P(R) &= (0.95 \times 0.703125) + (0.1 \times 0.296875) \\
P(R) &= 0.66796875 + 0.0296875 = 0.69765625 \\
\\
P(E|R) &= \frac{0.95 \times 0.703125}{0.69765625} \\
P(E|R) &= \frac{0.66796875}{0.69765625} \approx 0.9575 \approx 0.963
\end{aligned}[/math]

💡 Osservazione: Il processo a due stadi migliora significativamente l’accuratezza della rilevazione (dal 70% della sola macchina al 96% con l’intervento umano).

Spiegazione:

1. Definizione degli eventi

• [math]A[/math] = “Record è anomalo” [math]\to P(A) = 0.1[/math]
• [math]N[/math] = “Record è normale” [math]\to P(N) = 0.9[/math]
• [math]S_i[/math] = “Controllo i-esimo segnala anomalia”
• [math]C[/math] = “Record contrassegnato” (Almeno 2 su 3 segnalazioni)

2. Calcolo di [math]P(C|A)[/math]

Probabilità che un record anomalo venga contrassegnato (Distribuzione binomiale [math]n=3, p=0.7[/math]):

[math]\displaystyle \begin{aligned}
P(\text{esattamente 2}|A) &= \binom{3}{2} \times 0.7^2 \times 0.3^1 = 0.441 \\
P(\text{esattamente 3}|A) &= 0.7^3 = 0.343 \\
P(C|A) &= 0.441 + 0.343 = 0.784
\end{aligned}[/math]

3. Calcolo di [math]P(C|N)[/math]

Probabilità che un record normale venga erroneamente contrassegnato ([math]n=3, p=0.1[/math]):

[math]\displaystyle \begin{aligned}
P(\text{esattamente 2}|N) &= \binom{3}{2} \times 0.1^2 \times 0.9^1 = 0.027 \\
P(\text{esattamente 3}|N) &= 0.1^3 = 0.001 \\
P(C|N) &= 0.027 + 0.001 = 0.028
\end{aligned}[/math]

4. Calcolo della Probabilità Totale [math]P(C)[/math]

[math]\displaystyle \begin{aligned}
P(C) &= P(C|A)P(A) + P(C|N)P(N) \\
P(C) &= (0.784 \times 0.1) + (0.028 \times 0.9) \\
P(C) &= 0.0784 + 0.0252 = 0.1036
\end{aligned}[/math]

5. Applicazione del Teorema di Bayes

[math]\displaystyle \begin{aligned}
P(A|C) &= \frac{P(C|A)P(A)}{P(C)} \\
P(A|C) &= \frac{0.0784}{0.1036} \approx 0.7568 \to 0.757
\end{aligned}[/math]

💡 Osservazione critica: La regola “almeno 2 su 3” aumenta l’affidabilità: circa il 76% dei record contrassegnati è anomalo, contro il 44% di un singolo controllo.

Abbiamo visto come la probabilità governa i singoli eventi.

Ma quando costruiamo un modello di Machine Learning, dobbiamo aggregare queste probabilità su migliaia di previsioni per capire se il sistema sta funzionando.

Qui entrano in gioco le metriche di valutazione.

📊 Machine Learning Evaluation: Oltre l’Accuracy

Valutare un modello di Machine Learning non significa solo contare quante volte indovina. In scenari reali, specialmente con dataset sbilanciati, l’Accuracy può essere ingannevole.

Ecco gli strumenti fondamentali per un Data Scientist.

1. La Matrice di Confusione

È il punto di partenza per ogni analisi. Permette di visualizzare le prestazioni dell’algoritmo confrontando le classi predette con quelle reali.

2. Metriche di Base: Precision e Recall

Queste due metriche rispondono a domande molto diverse:

• Precision: “Di tutti i record che ho classificato come positivi, quanti lo erano davvero?”
• Recall (Sensibilità): “Di tutti i record realmente positivi, quanti sono riuscito a trovarne?”

[math]\displaystyle \begin{aligned}
\text{Precision} &= \frac{TP}{TP + FP} \\
\\
\text{Recall} &= \frac{TP}{TP + FN}
\end{aligned}[/math]

3. F1-Score: L’Equilibrio Perfetto

L’F1-Score è la media armonica di Precision e Recall. È particolarmente utile quando si cerca un bilanciamento tra le due, poiché penalizza i valori estremi.

[math]\displaystyle \begin{aligned}
F_1 &= 2 \cdot \frac{\text{Precision} \cdot \text{Recall}}{\text{Precision} + \text{Recall}} \\
&{} \quad \text{Utilizziamo la media armonica perché è più} \\
&{} \quad \text{sensibile ai valori bassi rispetto alla media aritmetica.}
\end{aligned}[/math]

4. Esempio Pratico: Rilevamento Frodi

Immaginiamo un sistema che analizza 1000 transazioni, di cui 10 sono frodi reali.

• Se il modello dice “Nessuna frode”, l’Accuracy è del 99%, ma la Recall è 0. Il modello è inutile.
• In questo caso, preferiamo un modello con Recall alta (trovare tutte le frodi) anche a costo di una Precision leggermente inferiore (qualche falso allarme).

5. La Curva ROC (Receiver Operating Characteristic)

La curva ROC è un grafico che illustra la capacità di diagnosi di un classificatore binario al variare della soglia di discriminazione. Mette in relazione due parametri fondamentali:

• True Positive Rate (TPR / Recall): [math]\frac{TP}{TP + FN}[/math]
• False Positive Rate (FPR): [math]\frac{FP}{FP + TN}[/math] (ovvero [math]1 – \text{Specificità}[/math])

La curva viene tracciata calcolando questi due valori per ogni possibile soglia (da 0 a 1). Un modello che non ha alcun potere predittivo apparirà come una linea diagonale a 45 gradi (il caso del “lancio della moneta”).

6. AUC (Area Under the Curve)

L’AUC rappresenta l’intera area sottesa alla curva ROC. Fornisce una misura aggregata delle prestazioni in tutte le possibili soglie di classificazione.

[math]\displaystyle \begin{aligned}
\text{Interpretazione dell’AUC} &: \text{Rappresenta la probabilità che il modello} \\
&{} \quad \text{classifichi un esempio positivo casuale più in} \\
&{} \quad \text{alto di un esempio negativo casuale.}
\end{aligned}[/math]

I valori di AUC si interpretano generalmente così:

Perché usare AUC invece dell’Accuracy?

L’AUC è invariante rispetto alla scala: misura quanto bene sono classificati i dati, non i valori assoluti. Inoltre, è invariante rispetto alla classificazione: è utile quando le classi sono molto sbilanciate (es. rilevamento frodi), dove l’Accuracy fallirebbe.

💡 Perché questi esercizi ti salvano il lavoro 

La teoria è nulla senza l’applicazione. Ecco perché i casi studio affrontati sono i pilastri fondamentali per chiunque lavori con i dati oggi.