Negli ultimi anni l’Intelligenza Artificiale ha compiuto progressi impressionanti. I modelli linguistici di grandi dimensioni (Large Language Models, LLM), i sistemi multimodali e gli algoritmi di deep learning sono ormai in grado di scrivere testi, tradurre lingue, generare immagini, programmare software, assistere nella ricerca scientifica e persino contribuire alla dimostrazione di alcuni teoremi matematici.

Di fronte a risultati così sorprendenti è nata una convinzione sempre più diffusa: con sufficiente potenza di calcolo, abbastanza dati e modelli sempre più grandi, qualsiasi problema cognitivo finirà per essere risolto dall’Intelligenza Artificiale.

Questa visione, tuttavia, confonde due concetti profondamente diversi:

• la capacità di riconoscere regolarità statistiche;
• la possibilità di risolvere qualsiasi problema computazionale.

La matematica e l’informatica teorica dimostrano che esistono limiti invalicabili, indipendenti dalla velocità dei computer, dalla quantità di memoria disponibile o dalla sofisticazione delle reti neurali.

Non sono limiti tecnologici.

Sono limiti logici.

Ed è proprio la logica matematica a ricordarci che esistono domande alle quali nessuna Intelligenza Artificiale potrà mai rispondere in modo generale.

L’IA non “ragiona” come un matematico

Un equivoco molto comune consiste nel pensare che un LLM ragioni nello stesso modo in cui ragiona un matematico.

In realtà il funzionamento è radicalmente diverso.

Un modello linguistico non manipola simboli secondo regole logiche formali.

Esso costruisce una distribuzione di probabilità sul token successivo.

In altre parole, dato un contesto

“La derivata di x² è…”

il modello calcola quale parola abbia la probabilità maggiore di comparire successivamente.

Dietro questa apparente semplicità si nascondono miliardi di parametri e una straordinaria capacità di apprendere strutture linguistiche, relazioni semantiche e persino schemi matematici.

Ma il principio rimane probabilistico.

L’obiettivo non è dimostrare. È predire. Questa differenza è fondamentale.

Un teorema matematico richiede una dimostrazione valida in ogni possibile caso.

Un modello statistico produce invece l’output più plausibile.

Le due cose coincidono molto spesso.

Ma non sempre.

Ed è proprio in quel “non sempre” che emerge il confine tra intelligenza statistica e deduzione formale.

L’illusione della scala infinita

Negli ultimi anni si è affermata una convinzione nota informalmente come scaling hypothesis.

L’idea è semplice:

aumentando dati, parametri e potenza computazionale emergono automaticamente capacità cognitive sempre più sofisticate.

In effetti molti risultati sembrano confermarla.

Modelli sempre più grandi hanno sviluppato capacità inattese:

• scrittura creativa;
• traduzione;
• programmazione;
• pianificazione;
• risoluzione di problemi matematici;
• spiegazioni scientifiche.

Da qui nasce l’illusione che basti continuare a ingrandire i modelli perché qualsiasi limite scompaia.

Ma la teoria della computazione racconta una storia diversa.

Esistono problemi impossibili non perché il computer sia troppo lento.

Sono impossibili perché nessun algoritmo può risolverli in generale.

Il Problema della Fermata: il primo muro invalicabile

Nel 1936 il matematico Alan Turing dimostrò uno dei risultati più profondi della storia dell’informatica.

Supponiamo di avere un programma qualsiasi.

Vorremmo sapere se:

• terminerà;
• oppure entrerà in un ciclo infinito.

Esiste un algoritmo universale capace di rispondere sempre correttamente?

La risposta è no.

Questo risultato prende il nome di Problema della Fermata.

La dimostrazione è elegante e devastante.

Turing mostra che, se esistesse un programma capace di prevedere il comportamento di tutti gli altri programmi, si potrebbe costruire un programma paradossale che porta inevitabilmente a una contraddizione.

Ne consegue che un tale algoritmo non può esistere.

Questa conclusione vale per qualsiasi computer.

Vale per qualsiasi linguaggio di programmazione.

Vale anche per qualsiasi futura Intelligenza Artificiale.

Nessuna rete neurale, per quanto potente, può aggirare un teorema matematico.

Il Teorema di Rice: il limite si estende a tutto il software

Negli anni Cinquanta il matematico Henry Gordon Rice dimostrò un risultato ancora più generale.

Il suo teorema afferma che qualsiasi proprietà non banale del comportamento di un programma è indecidibile.

In pratica non esiste un algoritmo universale capace di stabilire sempre se un programma:

• contiene bug;
• produrrà un certo risultato;
• violerà una proprietà di sicurezza;
• accederà a una determinata memoria;
• genererà un determinato output.

Naturalmente esistono strumenti molto efficaci di analisi statica.

Gli IDE moderni trovano errori.

Gli analizzatori automatici individuano vulnerabilità.

I sistemi di verifica formale certificano software critici.

Ma funzionano solo entro domini ben delimitati.

Non esiste un verificatore universale.

Nemmeno un’IA può diventarlo.

Gödel e l’IA: un limite che emerge nella verifica dei sistemi intelligenti

I Teoremi di Incompletezza di Gödel vengono spesso citati per affermare che “esistono verità matematiche che non possono essere dimostrate”. Sebbene questa affermazione sia corretta, il suo significato pratico per l’Intelligenza Artificiale merita un approfondimento.

Immaginiamo di voler progettare un sistema di IA completamente autonomo, destinato a controllare un reattore nucleare, un veicolo a guida autonoma o un sistema medico. Idealmente, vorremmo dimostrare matematicamente che il software non entrerà mai in uno stato pericoloso, indipendentemente dalle situazioni che incontrerà.

Per sistemi limitati e ben definiti ciò è spesso possibile grazie alle tecniche di verifica formale. Tuttavia, quando il software diventa sufficientemente generale e potente da esprimere l’aritmetica, entrano in gioco i grandi risultati della logica matematica.

Da un lato, il Problema della Fermata di Alan Turing dimostra che non esiste un algoritmo universale capace di stabilire se un programma arbitrario terminerà oppure continuerà a essere eseguito indefinitamente.

Dall’altro, i Teoremi di Incompletezza di Gödel mostrano che nessun sistema formale coerente sufficientemente espressivo può dimostrare tutte le verità aritmetiche né dimostrare la propria coerenza.

Questi risultati hanno una conseguenza importante: non potrà esistere un “verificatore universale” capace di certificare automaticamente la correttezza di qualsiasi software intelligente.

Ciò non significa che la verifica sia impossibile. Significa che sarà sempre necessario limitarne il campo di applicazione, adottare ipotesi specifiche oppure accettare che alcune proprietà del sistema rimangano non dimostrabili con gli strumenti disponibili.

Questo è esattamente ciò che accade oggi nello sviluppo dei moderni sistemi di IA. Le aziende impiegano verifiche formali, test automatici, simulazioni, red teaming e monitoraggio continuo per aumentare l’affidabilità dei modelli. Tuttavia, nessuna di queste tecniche può trasformarsi in una certificazione matematica universale del comportamento futuro di un sistema intelligente.

In altre parole, Gödel non dimostra che l’Intelligenza Artificiale “non potrà mai pensare”. Dimostra qualcosa di molto più sottile: qualunque sistema di ragionamento sufficientemente potente, umano o artificiale, dovrà inevitabilmente confrontarsi con proposizioni la cui verità non potrà essere stabilita all’interno del sistema stesso.

---

L’irriducibilità computazionale: quando la simulazione è l’unica strada

Tra le idee più originali emerse negli ultimi decenni nella teoria dei sistemi complessi vi è il principio di irriducibilità computazionale, proposto da Stephen Wolfram. L’idea nasce dallo studio degli automi cellulari, ma ha trovato applicazioni concettuali in numerosi campi, dalla fisica alla biologia, dall’economia alla teoria della complessità.

L’intuizione è semplice. Per alcuni sistemi è possibile prevedere il comportamento futuro mediante una formula compatta. Ad esempio, possiamo calcolare la posizione di un pianeta dopo molti anni senza simulare ogni singolo secondo della sua orbita.

Esistono però sistemi nei quali questa scorciatoia sembra non esistere. Per conoscerne lo stato dopo un milione di passi è necessario eseguire proprio quel milione di passi. Il calcolo non può essere “compresso” in una formula più efficiente.

Un esempio celebre è costituito dagli automi cellulari, come la Regola 110, che, pur essendo definita da poche regole elementari, genera comportamenti di estrema complessità. In questi casi, l’evoluzione del sistema coincide con il processo di calcolo stesso.

Questo principio ha importanti implicazioni per l’Intelligenza Artificiale. Anche disponendo di modelli sempre più potenti, potrebbero esistere fenomeni per i quali nessuna architettura sarà in grado di prevedere rapidamente il risultato finale, perché il modo più veloce per conoscere l’evoluzione è lasciar evolvere il sistema.

È importante sottolineare che l’irriducibilità computazionale non afferma che tutti i sistemi siano irriducibili. Molti fenomeni fisici e matematici ammettono modelli predittivi molto efficienti. Il principio suggerisce però che una vasta classe di sistemi complessi potrebbe non possedere alcuna scorciatoia computazionale, indipendentemente dalla potenza dell’hardware o dall’impiego dell’Intelligenza Artificiale.

Per chi si occupa di Data Science questo è un messaggio fondamentale: non tutti gli errori predittivi dipendono da dati insufficienti o da modelli poco sofisticati. In alcuni casi è la natura stessa del fenomeno a porre un limite alla prevedibilità.

Oltre la teoria: i limiti pratici dell’Intelligenza Artificiale

I limiti dimostrati da Gödel, Turing e Rice sono assoluti: nessun progresso tecnologico potrà eliminarli. Nella pratica, tuttavia, chi sviluppa sistemi di Intelligenza Artificiale incontra ostacoli ancora prima di raggiungere questi confini teorici.

Il primo è rappresentato dalla disponibilità dei dati. Un modello apprende dalle informazioni che riceve durante l’addestramento. Se i dati sono incompleti, rumorosi o non rappresentativi della realtà, anche il modello più sofisticato produrrà risultati poco affidabili. Questo principio è noto come Garbage In, Garbage Out (GIGO): la qualità dell’output non può superare quella dell’input.

Un secondo limite riguarda i bias. I dataset riflettono inevitabilmente le caratteristiche del mondo da cui provengono e possono contenere squilibri, errori sistematici o sottorappresentazioni. L’IA non crea questi bias dal nulla, ma può amplificarli se non vengono identificati e corretti durante lo sviluppo e la validazione del modello.

Esiste poi il problema delle risorse computazionali. L’addestramento dei moderni modelli di frontiera richiede migliaia di GPU specializzate, enormi quantità di memoria e settimane o mesi di elaborazione. Ciò comporta costi economici elevati e un consumo energetico significativo, che rende l’efficienza algoritmica un tema sempre più importante sia dal punto di vista industriale sia da quello ambientale.

Un ulteriore limite è rappresentato dalla generalizzazione. Un modello può ottenere prestazioni eccellenti sui dati di addestramento e tuttavia degradare rapidamente quando viene applicato a contesti nuovi, fenomeno noto come distribution shift. Per questo motivo la valutazione continua, il monitoraggio in produzione e il riaddestramento periodico sono diventati componenti essenziali del ciclo di vita dei sistemi di IA.

Infine, rimane il problema dell’interpretabilità. All’aumentare della complessità dei modelli cresce anche la difficoltà di comprendere perché una determinata decisione sia stata presa. Questo aspetto è particolarmente critico nei settori regolamentati, dove accuratezza e trasparenza devono procedere insieme.

In definitiva, lo sviluppo dell’Intelligenza Artificiale è vincolato da due ordini di limiti. I primi sono teorici, derivano dalla logica e dalla teoria della computazione e definiscono ciò che è impossibile in linea di principio. I secondi sono pratici, dipendono da dati, risorse, energia, qualità dei modelli e contesto applicativo. Comprendere entrambi è essenziale per utilizzare l’IA in modo rigoroso e realistico.

Dove l’IA eccelle davvero

Riconoscere questi limiti non significa sminuire l’Intelligenza Artificiale.

Al contrario.

L’IA è straordinaria proprio perché affronta problemi nei quali la logica classica sarebbe insufficiente.

Tra i suoi punti di forza troviamo:

• riconoscimento di immagini;
• elaborazione del linguaggio naturale;
• classificazione;
• clustering;
• previsione statistica;
• scoperta di pattern nascosti;
• compressione dell’informazione;
• supporto alla ricerca scientifica.

In tutti questi casi non serve una dimostrazione assoluta.

Serve una stima accurata.

Ed è esattamente ciò che fanno gli algoritmi di machine learning.

L’errore nasce quando si attribuisce loro un potere universale che la matematica esclude.

La matematica come bussola dell’IA

Paradossalmente è proprio la matematica ad aver reso possibile l’Intelligenza Artificiale moderna.

Algebra lineare.

Probabilità.

Statistica.

Ottimizzazione.

Analisi numerica.

Teoria dell’informazione.

Senza queste discipline non esisterebbero né il deep learning né le reti neurali.

Ma la stessa matematica stabilisce anche i confini entro cui tali strumenti possono operare.

È un messaggio importante soprattutto nell’epoca dell’entusiasmo tecnologico.

Ogni nuova generazione di modelli sembra avvicinarsi sempre di più all’intelligenza generale.

Eppure i teoremi fondamentali dell’informatica teorica continuano a essere validi oggi esattamente come lo erano ottant’anni fa.

Il futuro: collaborazione, non onnipotenza

La prospettiva più realistica non è quella di un’IA onnisciente che sostituisce il ragionamento umano.

È quella di una collaborazione sempre più stretta tra esseri umani e algoritmi.

Già oggi i matematici utilizzano sistemi automatici per esplorare congetture.

I fisici sfruttano reti neurali per individuare nuove strutture nei dati sperimentali.

I biologi impiegano modelli di apprendimento automatico per prevedere la struttura delle proteine.

Gli ingegneri usano algoritmi generativi per progettare componenti impossibili da immaginare manualmente.

In tutti questi casi l’IA amplifica la capacità di esplorazione.

Non elimina la necessità della dimostrazione.

Non sostituisce la validazione sperimentale.

Non cancella i limiti imposti dalla teoria della computazione.

Il Caso Studio: Parisi, Zamponi e Claude. La prassi della co-evoluzione scientifica

Mentre il dibattito pubblico si divide tra l’entusiasmo per un’ipotetica onnipotenza artificiale e lo scetticismo radicale, la comunità scientifica di frontiera ha già iniziato a tracciare una terza via, puramente pragmatica. L’esempio più limpido di questo approccio è la collaborazione metodologica tra il Premio Nobel per la fisica Giorgio Parisi, il fisico teorico Francesco Zamponi e l’LLM Claude di Anthropic.

👉Dimostrazione Parisi-Zamponi sul jamming: come l’IA ridefinisce lo studio dei sistemi complessi

La storia della dimostrazione ottenuta con il contributo dell’intelligenza artificiale che apre una nuova fase nella ricerca teorica sui sistemi complessi e sul fenomeno del jamming.

Non si è trattato del tentativo di far dimostrare un teorema a una macchina, ma di un uso combinato di euristica probabilistica e rigore deduttivo.

I ricercatori hanno utilizzato il modello per esplorare la risoluzione di un sistema complesso di equazioni differenziali e studiare lo sviluppo asintotico di determinati integrali. In questo contesto, l’interrogazione dell’LLM ha seguito un flusso iterativo preciso:

• Il Catalizzatore di Analogie: L’LLM, avendo appreso la struttura statistica di decine di migliaia di paper di fisica matematica, eccelle nel trovare correlazioni non ovvie tra formalismi simbolici distanti. Ha suggerito un possibile percorso di espansione asintotica che, pur non essendo formalmente verificato, presentava una forte plausibilità strutturale.
• Il Rilevamento del “Drift” Semantico: Durante i calcoli algebrici più lunghi, il modello ha mostrato i suoi limiti nativi, introducendo piccoli errori di segno o saltando passaggi logici cruciali a causa della sua natura probabilistica (la tendenza a generare il token visivamente più coerente, non quello logicamente necessario).
• La Certificazione Umana: Qui è intervenuto il rigore deduttivo dei fisici. Parisi e Zamponi hanno isolato l’intuizione corretta prodotta dall’IA, scartato le allucinazioni algebriche e ricostruito manualmente l’intera impalcatura formale della dimostrazione.

La lezione metodologica: L’IA non ha “risolto” il problema. Ha drammaticamente contratto il tempo necessario a individuare la strada giusta nel labirinto delle congetture possibili. L’essere umano rimane l’unico garante della verità logica; l’IA diventa l’esploratore dello spazio delle ipotesi.

---

📌 Cosa significa per chi lavora nella Data Science

I risultati di Turing, Rice, Gödel e il principio di irriducibilità computazionale non appartengono soltanto ai manuali di informatica teorica. Hanno conseguenze concrete per chi progetta, addestra o utilizza sistemi di Intelligenza Artificiale.

Gli LLM non sono oracoli infallibili

I moderni Large Language Models possono generare codice, risolvere esercizi matematici, sintetizzare documenti e assistere nella ricerca. Tuttavia, il loro funzionamento resta fondamentalmente probabilistico.

Quando un LLM produce una risposta, non sta verificando una dimostrazione matematica né eseguendo un controllo formale sulla correttezza del risultato. Sta stimando quale sequenza di token sia la più probabile in base ai dati di addestramento e al contesto della conversazione.

Per questo motivo possono verificarsi le cosiddette hallucinations: risposte perfettamente plausibili dal punto di vista linguistico, ma errate dal punto di vista fattuale o logico.

La conseguenza pratica è evidente: un LLM è un eccellente assistente, ma non può essere considerato un verificatore universale della correttezza delle proprie affermazioni.

Gli AI Agent non possono aggirare i limiti della teoria della computazione

Negli ultimi mesi si parla sempre più spesso di AI Agent: sistemi capaci di pianificare attività, utilizzare strumenti esterni, scrivere codice, interrogare database e prendere decisioni in autonomia.

Questa evoluzione rappresenta un enorme passo avanti rispetto ai chatbot tradizionali.

Tuttavia, un agente intelligente rimane comunque un programma che esegue algoritmi.

Anche se dispone di memoria, strumenti di ricerca sul Web, accesso a compilatori, simulatori e ambienti di esecuzione, continua a essere soggetto agli stessi limiti dimostrati da Turing e Rice.

Un AI Agent potrà automatizzare moltissimi processi, ma non potrà mai decidere in modo generale proprietà indecidibili dei programmi o prevedere il comportamento di qualsiasi software arbitrariamente complesso.

L’autonomia operativa non elimina i limiti matematici della computazione.

La verifica del software resterà sempre un problema aperto

Uno dei sogni dell’ingegneria del software è costruire strumenti capaci di dimostrare automaticamente che un programma sia completamente corretto.

Negli ultimi anni sono stati sviluppati sistemi di verifica formale estremamente sofisticati, utilizzati in ambiti critici come l’aerospazio, la crittografia, i microprocessori e il software medicale.

Questi strumenti funzionano molto bene quando il dominio del problema è chiaramente definito.

Ma il Teorema di Rice dimostra che non potrà mai esistere un algoritmo universale capace di certificare automaticamente qualsiasi programma.

Per questo motivo continueranno a essere indispensabili:

• test automatici;
• revisione del codice (code review);
• analisi statica;
• verifica formale mirata;
• supervisione umana.

L’IA potrà accelerare questi processi, ma non sostituirli completamente.

Explainable AI: comprendere un modello è diverso dal prevederne ogni comportamento

Uno dei temi più importanti della ricerca attuale è la Explainable AI (XAI).

L’obiettivo consiste nel rendere interpretabili le decisioni prese dai modelli di machine learning, soprattutto nei settori ad alto impatto come sanità, finanza, giustizia e pubblica amministrazione.

Ma anche qui emergono limiti teorici.

Spiegare perché una rete neurale ha classificato una radiografia come patologica è possibile in molti casi attraverso tecniche come SHAP, LIME, Integrated Gradients o mappe di attivazione.

Diverso è pretendere una spiegazione completa e universale del comportamento del modello in ogni possibile situazione.

Per modelli con miliardi di parametri, una descrizione esaustiva diventa rapidamente proibitiva dal punto di vista computazionale e, in alcuni casi, teoricamente irraggiungibile.

L’Explainable AI non elimina la complessità: la rende più gestibile.

Sicurezza dell’IA: nessun sistema sarà verificabile in modo assoluto

La crescente diffusione dell’IA rende sempre più importante il tema della sicurezza (AI Safety).

Si vorrebbe dimostrare che un modello:

• non produrrà contenuti pericolosi;
• non eseguirà istruzioni indesiderate;
• non potrà essere manipolato mediante prompt injection;
• non presenterà vulnerabilità.

Purtroppo, i risultati della teoria della computazione suggeriscono prudenza.

Non esiste un metodo universale che possa garantire matematicamente il comportamento corretto di ogni sistema intelligente in ogni possibile contesto operativo.

Per questo motivo la sicurezza dell’IA viene affrontata mediante una combinazione di strategie:

• addestramento con feedback umano (RLHF);
• filtri di sicurezza;
• red teaming;
• monitoraggio continuo;
• verifica empirica;
• controllo degli accessi;
• supervisione umana.

La sicurezza assoluta appartiene più alla matematica ideale che ai sistemi reali.

---

Una lezione di umiltà scientifica

Paradossalmente, sono proprio i grandi risultati della logica matematica a rendere l’Intelligenza Artificiale una disciplina più matura.

Sapere che alcuni problemi sono indecidibili non limita l’innovazione: impedisce di inseguire obiettivi impossibili.

Per un Data Scientist questo significa progettare modelli con aspettative realistiche, conoscere le differenze tra inferenza statistica e dimostrazione matematica, distinguere l’accuratezza dalla certezza e integrare sempre l’IA con metodi di validazione indipendenti.

L’Intelligenza Artificiale continuerà a trasformare il nostro modo di lavorare e di fare ricerca. Ma il suo successo non dipenderà dalla pretesa di essere onnisciente. Dipenderà dalla capacità di collaborare con l’intelligenza umana, sfruttando la forza della statistica senza dimenticare i confini tracciati dalla logica.

In fondo, la vera competenza di un Data Scientist non consiste soltanto nel costruire modelli sempre più potenti, ma nel sapere quando fidarsi dei loro risultati e quando, invece, è necessario ricorrere agli strumenti della matematica, della verifica formale e del pensiero critico.

---

 

Pubblicità