Analisi dell’enciclica Magnifica Humanitas di Leone XIV
Papa Leone XIV firma la sua prima enciclica, Magnifica Humanitas (Foto: Vatican Media)
In queste ore dopo la pubblicazione della prima enciclica di Papa Prevost sulla sfida etico-sociale dell’IA in 245 paragrafi, si è ancora in cerca del punto d’Archimede, cioè della chiave di lettura che riesca a cogliere il senso di questo testo che non è sull’IA in quanto tecnologia ma sulla comprensione e critica della società tecnologica. Rispetto all’approccio alla tecnologia nelle encicliche precedenti – di cui nessuna certamente l’ha elevata a perno della riflessione come è accaduto con Magnifica Humanitas – spicca un’affermazione fatta nella parte introduttiva: «la questione non si esaurisce nella regolamentazione» ma bisogna domandare «con realismo chi oggi detenga questo potere e a quali fini lo orienti» (5). Infatti, «piccoli gruppi molto influenti possono orientare informazione e consumi, condizionare processi democratici e incidere sulle dinamiche economiche a proprio vantaggio, contraddicendo la giustizia sociale e la solidarietà tra i popoli» (108). Non a caso, la parola “pochi” ricorre sempre per caratterizzare quelli che sviluppano, governano e approfittano delle nuove tecnologie, dettando all’umanità una nuova “architettura morale”. A queste «regole dettate da chi possiede dati, infrastrutture e capacità di calcolo» (106) bisogna opporre il vero senso dell’umano che consiste nell’accettazione dei limiti della natura biologica caratterizzata da fragilità, imperfezione e dolore.
La sfida delle nuove tecnologie è dunque doppia: il loro potenziale trasformativo della realtà umana verso una presunta “perfezione” e la nuova élite tecno-industriale che riesce a strutturare una nuova forma di dominio, non più politico ma economico, e di dimensioni finora sconosciute. Per Papa Leone è per questi due motivi che definitivamente non è più possibile interpretare la tecnologia in modo neutro, come uno “strumento” classico di cui chi lo utilizza avrebbe la piena libertà di decisione. Ciò semplicemente non è vero: siamo immersi nella tecnologia che sta trasformando il modo in cui esercitiamo le nostre libertà, viviamo la democrazia e strutturiamo l’economia. È senz’altro la “prospettiva agostiniana” di Leone XIV, che in questo senso si riannoda bene al “francescanismo” di Papa Bergoglio, la quale si trova particolarmente propensa a questa lettura: la “civitas terrena” è la città distante da Dio che nella dimensione tecnologica arriva fino alla sua negazione, con la conseguenza di perdere anche l’uomo nella sua dignità, mentre il cristianesimo esorta gli uomini e le donne a vivere la “città di Dio” che supera le logiche (del potere e degli egoismi o narcisismi) umano-tecnologiche aprendosi alla dinamica della grazia divina e dell’altro: Babele o Gerusalemme – neutralitas non datur, verrebbe da dire, e specialmente in questa prospettiva non-neutra si rafforza certamente l’urgenza di agire. Sebbene la tecnologia non è «di per sé un male», essa «non è neutrale, perché assume il volto di chi la pensa, la finanzia, la regola, la usa» (9), e così senza l’impegno dei singoli protagonisti per il bene, essa diventa il veicolo per le intenzioni del “male”. Verrebbe da pensare: come Peter Thiel è venuto a Roma per predicare l’Anticristo, qui si denuncia la Torre di Babele della Silicon Valley. Certamente non si può dire che il Papa tema i confronti scomodi.
Sia chiaro, la scelta di fronte alla quale ci pone l’enciclica Magnifica Humanitas non è quella tra “prendere o lasciare” la tecnologia – ciò sarebbe una posizione troppo ingenua e non corrisponderebbe alla visione cristiana del mondo –, ma ci pone l’alternativa se l’umanità vorrà utilizzarla per realizzare la sua “magnificenza” o addirittura per deumanizzarsi. E il termine “magnificenza” indica, ça va sans dire, una qualità non producibile dalla tecnologia. Precisamente qui la Dottrina sociale della Chiesa esercita il suo compito, tramite i principi del bene comune, della destinazione universale dei beni, della sussidiarietà, della solidarietà e della giustizia sociale. Annoverati così, non danno affatto più l’impressione di un corpo sistematico (“Dottrina”), ma forse proprio così è voluto. Comunque, a esplicitare quali sono i temi e i principi della Dottrina sociale, il Pontefice dedica interamente i primi due capitoli dell’enciclica, esplicitando che non si tratta di una riflessione rivolta ai soli “credenti” ma nella sua argomentazione razionale aperta a tutti, e li colloca molto più esplicitamente che nella tradizione precedente all’interno della «comunità» cristiana: «un cammino di discernimento comunitario» (27). Anche questo tratto rivela lo spirito agostiniano del suo autore.
Una tecnologia che nega i limiti della natura umana è insensibile alle fragilità umane, agli esclusi – che lo stesso progresso tecnologico contribuisce ad aumentare – e alle sofferenze umane. In questo senso, le nuove tecnologie diventano l’arma di un’élite che si sbarazza della sua responsabilità per l’intera umanità, chiudendosi nella propria torre di Babele fatta di ricchezza e potere: «quando questi beni [delle nuove tecnologie] restano concentrati nelle mani di pochi, senza adeguate forme di condivisione e di accesso, si crea un nuovo squilibrio che contraddice la destinazione universale dei beni e alimenta il divario tra inclusi ed esclusi, tra chi può partecipare alla rivoluzione digitale e chi ne rimane ai margini» (67). Pertanto, l’appello centrale di questo documento è «[d]isarmare l’IA» intendendo non solo di «sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva» (110), ma di qualsiasi esercizio di potere di esseri umani su altri giustificando la squalificazione di persone o gruppi come scarti.
Sin dalle prime battute dei due capitoli che si confrontano in modo particolare con la sfida delle nuove tecnologie – ossia il terzo e quarto capitolo del documento – è chiaro che si tratta di rafforzare culturalmente (cioè di “educare”) l’umanità all’uso retto della potenza, cioè del potere che dirige sulle tecnologie e che si esercita in modo pericoloso (93). E qui si insinua una seconda dicotomia – oltre quella dell’utilizzo “umano” o meno delle stesse: quella tra il potere dei “privati” e del “pubblico”, assegnando a quest’ultimo la prevalenza etica. Questo giudizio, però, sembra affrettato, non solo perché la stessa presenza di Anthropic alla presentazione dell’Enciclica dice che nel mondo dei privati si individuano degli alleati, ma anche perché sono spesso gli stessi governi che usano le tecnologie a scopi di sorveglianza e predizione, che non sono sempre compatibili con l’idea “magnifica” della dignità umana. Ciò che si intende affermare, però, è senz’altro il principio eticamente valido che deve essere non solo possibile ma politicamente garantito «discutere il codice etico da usare» (107), quando si tratta dell’impiego delle nuove tecnologie, e come comunità opporsi alle imposizioni della tecno-élite. Inoltre, contro il “privato delle élite tecnologiche” si schiera il “privato dei martiri del quotidiano” «che curano, educano, accompagnano, consolano senza clamore, come i genitori, gli infermieri, i medici, i volontari, le persone che restano accanto a un anziano o a un escluso» (125). Sono essi che ci ricordano e dimostrano che accanto al principio di potenza – segno del “realismo politico” criticato un po’ troppo tranchant – deve essere realizzata la cura, per non lasciare la società agli effetti disumanizzanti della tecnologia.
Le tecnologie dell’IA ci ingannano per «la facilità di ottenere il risultato, l’impressione di oggettività e la simulazione della comunicazione umana» (100), e così vengono accolte dalla popolazione fino a quando «una visione antiumana» non sembra «giusta e normale» (112), ragionando dell’umanità solo in dimensioni di efficienza e ottimizzazione. Sta dunque in questa mentalità o “immagine dell’uomo” che si diffonde con le nuove tecnologie, il vero pericolo disumanizzante: non sono le macchine quelle che ci privano dell’umanità, ma siamo noi che non siamo più capaci di vederla nel volto e nel bisogno dell’altro. Così, va ricordato che «[l]a qualità di una civiltà si misura non dalla potenza dei suoi mezzi, ma dalla cura che sa offrire, dalla capacità di riconoscere l’altro come volto e non come funzione» (114). «Pensare che le nuove tecnologie porteranno automaticamente beneficio a tutti» (161), dovrebbe essere, così auspica Papa Leone, sempre di più un cortocircuito smascherato dalla società.
Il compito difficile di indicare prospettive concrete per scongiurare il transumanesimo, si basa soprattutto sul principio di sussidiarietà che rivendica per le molteplici categorie degli attori sociali il loro spazio e diritto di realizzarsi, contro l’incombente potere esercitato dall’alto. E mentre, ai tempi della Quadragesimo anno (1931) ciò erano i poteri totalitari politici, ora lo sono quelli delle Big Tech. Sono le nuove tecnologie, così l’accusa, i responsabili di una cultura che ha perso l’interesse alla ricerca della verità. In questo contesto, si punta molto sull’educazione dei giovani e sul sostegno dei genitori in tale compito, tralasciando il fatto che sono innanzitutto quest’ultimi a realizzare un rapporto discutibile con le nuove tecnologie, e a volte i primi ad esplorare nuove strade.
Di fronte ai rischi delle nuove tecnologie per la democrazia, l’affermazione della verità, l’educazione e l’affermazione dell’umanità, manca però del tutto una valorizzazione delle stesse per la promozione dei vari ambiti della realizzazione sociale dell’umano: cioè la domanda se le nuove tecnologie non potrebbero essere addirittura l’occasione per una nuova democrazia, una nuova educazione, un nuovo modo di realizzare le cure. Tuttavia, chi si impegna in tali settori deve comunque sentirsi parte della missione di «fare il possibile per la salvezza degli anni nei quali viviamo, sradicando il male dai campi che conosciamo» (213), come si afferma citando Tolkien il quale – come si sa – è il riferimento primario per l’ideologia transumana del Silicon Valley (la stessa Palantir e altre aziende prendono il loro nome direttamente da termini del Signore degli anelli) come espressione della consapevolezza di realizzare un potere superiore tramite la tecnologia come “destino morale” dell’umanità. Di fronte a questo scenario, «la civiltà dell’amore non è un’utopia ingenua, ma un progetto esigente» (186), contro le tecnologie che «premiano lo scontro possono amplificare polarizzazione e risentimento, accelerare la propaganda e rendere più difficile un discernimento comune» (192).
Inserendosi in un momento relativamente prematuro della trasformazione sociale che deriva dalle nuove tecnologie, questa enciclica è espressione di grande coraggio e di alcune scelte di valutazione non ancora del tutto confermate dallo sviluppo dei fatti. In questo senso, rimangono alcune domande – alla cui risoluzione (nel senso dell’affermazione dell’umanità) l’enciclica vuole comunque contribuire: se la politica è la costruzione di spazi pubblici e condivisi tramite l’agire umano, è essa stessa già preclusa nella società tecnologica? Non si può “politicamente abitare” l’infosfera? Il dominio tecnologico, non è esso pensato troppo sulla falsariga di quello politico?
Markus Krienke
Analisi dell’enciclica Magnifica Humanitas di Leone XIV
Papa Leone XIV firma la sua prima enciclica, Magnifica Humanitas (Foto: Vatican Media)
In queste ore dopo la pubblicazione della prima enciclica di Papa Prevost sulla sfida etico-sociale dell’IA in 245 paragrafi, si è ancora in cerca del punto d’Archimede, cioè della chiave di lettura che riesca a cogliere il senso di questo testo che non è sull’IA in quanto tecnologia ma sulla comprensione e critica della società tecnologica. Rispetto all’approccio alla tecnologia nelle encicliche precedenti – di cui nessuna certamente l’ha elevata a perno della riflessione come è accaduto con Magnifica Humanitas – spicca un’affermazione fatta nella parte introduttiva: «la questione non si esaurisce nella regolamentazione» ma bisogna domandare «con realismo chi oggi detenga questo potere e a quali fini lo orienti» (5). Infatti, «piccoli gruppi molto influenti possono orientare informazione e consumi, condizionare processi democratici e incidere sulle dinamiche economiche a proprio vantaggio, contraddicendo la giustizia sociale e la solidarietà tra i popoli» (108). Non a caso, la parola “pochi” ricorre sempre per caratterizzare quelli che sviluppano, governano e approfittano delle nuove tecnologie, dettando all’umanità una nuova “architettura morale”. A queste «regole dettate da chi possiede dati, infrastrutture e capacità di calcolo» (106) bisogna opporre il vero senso dell’umano che consiste nell’accettazione dei limiti della natura biologica caratterizzata da fragilità, imperfezione e dolore.
La sfida delle nuove tecnologie è dunque doppia: il loro potenziale trasformativo della realtà umana verso una presunta “perfezione” e la nuova élite tecno-industriale che riesce a strutturare una nuova forma di dominio, non più politico ma economico, e di dimensioni finora sconosciute. Per Papa Leone è per questi due motivi che definitivamente non è più possibile interpretare la tecnologia in modo neutro, come uno “strumento” classico di cui chi lo utilizza avrebbe la piena libertà di decisione. Ciò semplicemente non è vero: siamo immersi nella tecnologia che sta trasformando il modo in cui esercitiamo le nostre libertà, viviamo la democrazia e strutturiamo l’economia. È senz’altro la “prospettiva agostiniana” di Leone XIV, che in questo senso si riannoda bene al “francescanismo” di Papa Bergoglio, la quale si trova particolarmente propensa a questa lettura: la “civitas terrena” è la città distante da Dio che nella dimensione tecnologica arriva fino alla sua negazione, con la conseguenza di perdere anche l’uomo nella sua dignità, mentre il cristianesimo esorta gli uomini e le donne a vivere la “città di Dio” che supera le logiche (del potere e degli egoismi o narcisismi) umano-tecnologiche aprendosi alla dinamica della grazia divina e dell’altro: Babele o Gerusalemme – neutralitas non datur, verrebbe da dire, e specialmente in questa prospettiva non-neutra si rafforza certamente l’urgenza di agire. Sebbene la tecnologia non è «di per sé un male», essa «non è neutrale, perché assume il volto di chi la pensa, la finanzia, la regola, la usa» (9), e così senza l’impegno dei singoli protagonisti per il bene, essa diventa il veicolo per le intenzioni del “male”. Verrebbe da pensare: come Peter Thiel è venuto a Roma per predicare l’Anticristo, qui si denuncia la Torre di Babele della Silicon Valley. Certamente non si può dire che il Papa tema i confronti scomodi.
Sia chiaro, la scelta di fronte alla quale ci pone l’enciclica Magnifica Humanitas non è quella tra “prendere o lasciare” la tecnologia – ciò sarebbe una posizione troppo ingenua e non corrisponderebbe alla visione cristiana del mondo –, ma ci pone l’alternativa se l’umanità vorrà utilizzarla per realizzare la sua “magnificenza” o addirittura per deumanizzarsi. E il termine “magnificenza” indica, ça va sans dire, una qualità non producibile dalla tecnologia. Precisamente qui la Dottrina sociale della Chiesa esercita il suo compito, tramite i principi del bene comune, della destinazione universale dei beni, della sussidiarietà, della solidarietà e della giustizia sociale. Annoverati così, non danno affatto più l’impressione di un corpo sistematico (“Dottrina”), ma forse proprio così è voluto. Comunque, a esplicitare quali sono i temi e i principi della Dottrina sociale, il Pontefice dedica interamente i primi due capitoli dell’enciclica, esplicitando che non si tratta di una riflessione rivolta ai soli “credenti” ma nella sua argomentazione razionale aperta a tutti, e li colloca molto più esplicitamente che nella tradizione precedente all’interno della «comunità» cristiana: «un cammino di discernimento comunitario» (27). Anche questo tratto rivela lo spirito agostiniano del suo autore.
Una tecnologia che nega i limiti della natura umana è insensibile alle fragilità umane, agli esclusi – che lo stesso progresso tecnologico contribuisce ad aumentare – e alle sofferenze umane. In questo senso, le nuove tecnologie diventano l’arma di un’élite che si sbarazza della sua responsabilità per l’intera umanità, chiudendosi nella propria torre di Babele fatta di ricchezza e potere: «quando questi beni [delle nuove tecnologie] restano concentrati nelle mani di pochi, senza adeguate forme di condivisione e di accesso, si crea un nuovo squilibrio che contraddice la destinazione universale dei beni e alimenta il divario tra inclusi ed esclusi, tra chi può partecipare alla rivoluzione digitale e chi ne rimane ai margini» (67). Pertanto, l’appello centrale di questo documento è «[d]isarmare l’IA» intendendo non solo di «sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva» (110), ma di qualsiasi esercizio di potere di esseri umani su altri giustificando la squalificazione di persone o gruppi come scarti.
Sin dalle prime battute dei due capitoli che si confrontano in modo particolare con la sfida delle nuove tecnologie – ossia il terzo e quarto capitolo del documento – è chiaro che si tratta di rafforzare culturalmente (cioè di “educare”) l’umanità all’uso retto della potenza, cioè del potere che dirige sulle tecnologie e che si esercita in modo pericoloso (93). E qui si insinua una seconda dicotomia – oltre quella dell’utilizzo “umano” o meno delle stesse: quella tra il potere dei “privati” e del “pubblico”, assegnando a quest’ultimo la prevalenza etica. Questo giudizio, però, sembra affrettato, non solo perché la stessa presenza di Anthropic alla presentazione dell’Enciclica dice che nel mondo dei privati si individuano degli alleati, ma anche perché sono spesso gli stessi governi che usano le tecnologie a scopi di sorveglianza e predizione, che non sono sempre compatibili con l’idea “magnifica” della dignità umana. Ciò che si intende affermare, però, è senz’altro il principio eticamente valido che deve essere non solo possibile ma politicamente garantito «discutere il codice etico da usare» (107), quando si tratta dell’impiego delle nuove tecnologie, e come comunità opporsi alle imposizioni della tecno-élite. Inoltre, contro il “privato delle élite tecnologiche” si schiera il “privato dei martiri del quotidiano” «che curano, educano, accompagnano, consolano senza clamore, come i genitori, gli infermieri, i medici, i volontari, le persone che restano accanto a un anziano o a un escluso» (125). Sono essi che ci ricordano e dimostrano che accanto al principio di potenza – segno del “realismo politico” criticato un po’ troppo tranchant – deve essere realizzata la cura, per non lasciare la società agli effetti disumanizzanti della tecnologia.
Le tecnologie dell’IA ci ingannano per «la facilità di ottenere il risultato, l’impressione di oggettività e la simulazione della comunicazione umana» (100), e così vengono accolte dalla popolazione fino a quando «una visione antiumana» non sembra «giusta e normale» (112), ragionando dell’umanità solo in dimensioni di efficienza e ottimizzazione. Sta dunque in questa mentalità o “immagine dell’uomo” che si diffonde con le nuove tecnologie, il vero pericolo disumanizzante: non sono le macchine quelle che ci privano dell’umanità, ma siamo noi che non siamo più capaci di vederla nel volto e nel bisogno dell’altro. Così, va ricordato che «[l]a qualità di una civiltà si misura non dalla potenza dei suoi mezzi, ma dalla cura che sa offrire, dalla capacità di riconoscere l’altro come volto e non come funzione» (114). «Pensare che le nuove tecnologie porteranno automaticamente beneficio a tutti» (161), dovrebbe essere, così auspica Papa Leone, sempre di più un cortocircuito smascherato dalla società.
Il compito difficile di indicare prospettive concrete per scongiurare il transumanesimo, si basa soprattutto sul principio di sussidiarietà che rivendica per le molteplici categorie degli attori sociali il loro spazio e diritto di realizzarsi, contro l’incombente potere esercitato dall’alto. E mentre, ai tempi della Quadragesimo anno (1931) ciò erano i poteri totalitari politici, ora lo sono quelli delle Big Tech. Sono le nuove tecnologie, così l’accusa, i responsabili di una cultura che ha perso l’interesse alla ricerca della verità. In questo contesto, si punta molto sull’educazione dei giovani e sul sostegno dei genitori in tale compito, tralasciando il fatto che sono innanzitutto quest’ultimi a realizzare un rapporto discutibile con le nuove tecnologie, e a volte i primi ad esplorare nuove strade.
Di fronte ai rischi delle nuove tecnologie per la democrazia, l’affermazione della verità, l’educazione e l’affermazione dell’umanità, manca però del tutto una valorizzazione delle stesse per la promozione dei vari ambiti della realizzazione sociale dell’umano: cioè la domanda se le nuove tecnologie non potrebbero essere addirittura l’occasione per una nuova democrazia, una nuova educazione, un nuovo modo di realizzare le cure. Tuttavia, chi si impegna in tali settori deve comunque sentirsi parte della missione di «fare il possibile per la salvezza degli anni nei quali viviamo, sradicando il male dai campi che conosciamo» (213), come si afferma citando Tolkien il quale – come si sa – è il riferimento primario per l’ideologia transumana del Silicon Valley (la stessa Palantir e altre aziende prendono il loro nome direttamente da termini del Signore degli anelli) come espressione della consapevolezza di realizzare un potere superiore tramite la tecnologia come “destino morale” dell’umanità. Di fronte a questo scenario, «la civiltà dell’amore non è un’utopia ingenua, ma un progetto esigente» (186), contro le tecnologie che «premiano lo scontro possono amplificare polarizzazione e risentimento, accelerare la propaganda e rendere più difficile un discernimento comune» (192).
Inserendosi in un momento relativamente prematuro della trasformazione sociale che deriva dalle nuove tecnologie, questa enciclica è espressione di grande coraggio e di alcune scelte di valutazione non ancora del tutto confermate dallo sviluppo dei fatti. In questo senso, rimangono alcune domande – alla cui risoluzione (nel senso dell’affermazione dell’umanità) l’enciclica vuole comunque contribuire: se la politica è la costruzione di spazi pubblici e condivisi tramite l’agire umano, è essa stessa già preclusa nella società tecnologica? Non si può “politicamente abitare” l’infosfera? Il dominio tecnologico, non è esso pensato troppo sulla falsariga di quello politico?
Markus Krienke