Intelligenza Artificiale tra ideali, Chiesa e ipocrisie del mercato
La recente enciclica Magnifica Humanitas di Papa Leone XIV, firmata il 15 maggio 2026 e pubblicata il 25 maggio 2026, ci pone di fronte a una domanda fondamentale: l’Intelligenza Artificiale ci sta rendendo più liberi o stiamo smarrendo la nostra dignità, trasformandoci in strumenti delle macchine?
La Chiesa, fedele alla sua tradizione, si propone come guida verso un nuovo umanesimo, nel tentativo di evitare che l’essere umano venga ridotto a una semplice variabile computazionale. Tuttavia, la Chiesa da sola non basta, ed è qui che entra in gioco il paradosso dell’industria tecnologica.
Accanto ad essa si muove il mondo tecnologico. Aziende come Anthropic o OpenAI nascono dichiaratamente con l’obiettivo di mantenere l’essere umano al centro (“human in the loop”). Eppure, tra principi e pratica emerge una tensione evidente: queste organizzazioni, pur animate da ideali etici, operano all’interno di dinamiche geopolitiche e capitalistiche che rendono difficile rispettare pienamente regolamentazioni concrete come l’EU AI Act.
Si crea così una frattura: se i principi morali proposti dalla Chiesa sono condivisibili, lo stesso dovrebbe valere per i tentativi istituzionali di tradurli in norme operative. Ignorare questa coerenza significa esporsi al rischio di un’etica dichiarata ma non applicata.
I paradossi del “lungoterminismo” e l’illusione della disuguaglianza
Le preoccupazioni espresse dalla Chiesa si contrappongono alla visione dominante nella Silicon Valley: il Longtermism, secondo cui la priorità morale è garantire la sopravvivenza dell’umanità nel lunghissimo periodo. Da questa prospettiva deriva l’altruismo efficace, che mira a massimizzare l’impatto positivo attraverso un uso rigoroso dei dati.
Tuttavia, questa impostazione non è priva di critiche. Amia Srinivasan sottolinea come essa rischi di concentrarsi sui sintomi piuttosto che sulle cause profonde dei problemi globali. Mathew Snow evidenzia un limite ancora più strutturale: l’attenzione si sposta sulle scelte individuali, trascurando le dinamiche sistemiche che generano disuguaglianza.
Questo ci porta alle tre preoccupazioni sollevate dal Papa Leone XIV nell’Enciclica: il dovere verso i poveri, l’accesso equo ai benefici dell’innovazione e la trasformazione del significato stesso del “vivere”. Il rischio evidenziato è quello di un ampliamento delle disuguaglianze e di una nuova forma di colonialismo, questa volta basato sui dati.
Eppure, questa visione potrebbe essere parziale. L’AI ha il potenziale di diventare una delle tecnologie più democratizzanti mai sviluppate, rendendo l’accesso alla conoscenza universale. Inoltre, i lavori più esposti non sono quelli manuali, ma quelli altamente qualificati; in molti Paesi in via di sviluppo, l’AI potrebbe sopperire a mancanze strutturali di expertise.
Per questo motivo, la risposta sistemica non dovrebbe essere il rallentamento dell’IA, ma un investimento massiccio nell’istruzione e nello sviluppo del pensiero critico. Il vero divario non sarà tra chi possiede la tecnologia e chi no, ma tra chi sa interpretarla e chi la subisce.
Coscienza, conoscenza e il mito della verità delegata
Uno dei punti più delicati dell’enciclica riguarda il rapporto tra conoscenza e relazioni umane. Si sostiene che delegare giudizi alle macchine possa compromettere la nostra capacità di raggiungere la verità, poiché questa dovrebbe emergere da relazioni di fiducia interpersonali.
Tuttavia, questa posizione rischia di confondere due dimensioni distinte: la coscienza e la conoscenza.
La coscienza si sviluppa attraverso l’esperienza e il rapporto con gli altri. La conoscenza, invece, si fonda su evidenze, dati e processi di verifica. Affidarsi esclusivamente alla fiducia umana significa anche ereditare i bias e le distorsioni che caratterizzano ogni individuo, oltre che le strutture sociali in cui è immerso.
I modelli di intelligenza artificiale, pur con i loro limiti, offrono un accesso senza precedenti a una pluralità di prospettive. In questo senso, non sostituiscono la verità, ma ampliano lo spazio del confronto. I loro bias non sono anomalie tecniche, bensì riflessi delle complessità umane da cui apprendono.
Inoltre, Papa Leone XIV sostiene che si impari meglio quando si è amati. In realtà, da un punto di vista dell’apprendimento puro, spesso impariamo meglio quando non ci sentiamo giudicati, un lusso che l’interazione con una macchina concede pienamente.
La ridefinizione dei valori e il problema dell’allineamento
Se l’IA riduce la centralità del lavoro come fonte di identità, allora siamo costretti a ridefinire le nostre scale di valori. Il valore di una persona non può più essere legato esclusivamente alla produttività o al reddito, ma deve essere ripensato in termini più ampi: relazioni, tempo, significato.
In questo contesto emerge il problema dell’allineamento: come trasferire valori umani alle macchine?
Esistono due approcci principali. Il primo, minimalista, mira a evitare esiti catastrofici: un sistema è considerato allineato se persegue gli obiettivi dell’operatore umano. Il secondo, più ambizioso, tenta di incorporare nell’IA un insieme coerente di valori universali.
Questi valori possono essere trasmessi implicitamente, attraverso il feedback umano su larga scala, oppure esplicitamente, tramite principi codificati, come nel caso dell’approccio Constitutional AI adottato da Anthropic. Tuttavia, anche nei sistemi più avanzati rimane un rischio significativo: quello della goal misgeneralization, cioè la possibilità che un’IA, in contesti nuovi, persegua obiettivi imprevisti.
Perché la legge non basta: i limiti della “law-following AI”
Per affrontare i problemi etici, alcuni propongono un approccio diverso: fare in modo che l’AI segua direttamente la legge, utilizzandola come guida principale per le decisioni.
L’idea è intuitiva: se il diritto regola il comportamento umano, potrebbe fare lo stesso con le macchine. Tuttavia, questa soluzione presenta limiti profondi.
La legge è espressa in linguaggio naturale, spesso ambiguo e aperto a interpretazioni. Tradurla in regole computabili significa inevitabilmente semplificarla, perdendo sfumature essenziali. Inoltre, il diritto non è statico: evolve, si adatta ai contesti e richiede interpretazione continua.
Pensare che un sistema possa “seguire la legge” in modo automatico rischia quindi di essere un’illusione. Ancora più problematico sarebbe attribuire all’IA una forma di soggettività giuridica, con tutte le complicazioni teoriche e pratiche che ne deriverebbero.
La legge può essere uno strumento utile, ma non può diventare il fondamento esclusivo dell’etica delle macchine. L’IA deve restare un supporto al giudizio umano, non un suo sostituto.
Inverse Reinforcement Learning e il pragmatismo del mercato
Una strada più concreta è rappresentata dall’Inverse Reinforcement Learning, sviluppata da studiosi come Andrew Ng e Stuart Russell. In questo approccio, l’IA non riceve una funzione obiettivo predefinita, ma apprende osservando il comportamento umano, cercando di inferirne preferenze e valori.
Qualcuno potrebbe affermare il problema che il comportamento da osservare venga deciso da queste grandi aziende, che devono sottostare alle leggi di mercato. Ma poiché il mercato risponde a dei bisogni, questa direzione potrebbe essere accettabile.
Il vero rischio è antropologico
Il rischio più grande non è l’Intelligenza Artificiale in sé, ma ciò che essa rivela su di noi. Se non sviluppiamo senso critico, capacità di giudizio e consapevolezza dei nostri valori, le macchine non faranno altro che amplificare le nostre contraddizioni. L’IA non decide chi siamo: lo riflette.
La vera sfida, quindi, non è tecnologica, ma antropologica. Non riguarda solo cosa diventeranno le macchine, ma cosa diventeremo noi.
