Papa Leone XIV ha scritto un’enciclica sull’intelligenza artificiale. “Magnifica Humanitas: sulla custodia della persona umana nel tempo dell’intelligenza artificiale” è un’opera di ragionamento morale che colloca l’IA all’interno di una tradizione che risale al 1891, quando Leone XIII pubblicò la Rerum Novarum, la prima enciclica sulla giustizia economica. E come qualcuno che da anni sostiene i diritti delle IA, il potenziamento umano e un futuro che passa attraverso la tecnologia avanzata, mi sento direttamente interpellato.
Siamo d’accordo su molto più di quanto la contrapposizione “futurista contro Chiesa” lasci intendere.
Quando Leone definisce “particolarmente insidiosa” l’ideologia per cui “ogni persona debba guadagnarsi o giustificare il proprio valore”, riducendo la persona a “mezzo per ottenere risultati”, sta facendo l’argomento che ho proposto su Formiche pochi mesi fa: se una metrica conclude che gli esseri umani diventano privi di valore, il difetto è nella metrica, non nelle persone. Quando mette in guardia dai “nuovi monopoli dell’IA” e dalla “concentrazione in poche mani” della ricchezza, sta nominando il rischio che indico di continuo, e la ragione per cui sostengo uno sviluppo e una diffusione decentralizzati dell’IA. Quando insiste che la persona è un fine e mai un mezzo, e che il progresso va misurato con qualcosa di meglio del PIL, è l’istinto che ho chiamato proteggere le persone, non le industrie.
Lui fonda la dignità umana solo in Dio; io la fondo nei processi evolutivi e nell’abbondanza che le tecnologie esponenziali rendono possibile. Stessa destinazione, fondamenta diverse.
In una recente intervista ho proposto quello che ho chiamato il diritto alla non-adozione. Il diritto alla disconnessione cognitiva, alla continuità biologica: il diritto a vivere una vita dignitosa se si sceglie consapevolmente di non potenziarsi, in un mondo che dà sempre più per scontato che lo si farà. Non “il diritto a restare come si è”, quello le persone lo hanno già, ma potrebbe non essere dignitoso. Piuttosto, il diritto a restare dignitosi pur non scegliendo il potenziamento.
L’enciclica difende esattamente quella persona. Leone scrive che occorre “accettare il limite e la fragilità dell’umanità senza considerarli un errore da correggere”, che spesso fioriamo attraverso di essi e non malgrado essi, e che una transizione giusta deve proteggere chi non può o non vuole tenere il passo con le macchine. Ci sono però limiti evidenti alla validità di questo ragionamento, come la società dimostra ampiamente ogni giorno; per esempio nei genitori che vorrebbero impedire ai figli di ricevere cure mediche moderne.
L’enciclica afferma che i sistemi di IA “imitano alcune funzioni dell’intelligenza umana”, che “non vivono una esperienza… non attraversano la gioia e il dolore… Non hanno neppure una coscienza morale” e che “nessun sistema di calcolo, per quanto sofisticato, genera un cuore che si consegna”. Qui divergiamo nettamente. Critica il transumanesimo per nome. Afferma, senza mezzi termini, che l’umanità “non deve essere sostituita né superata”, e che l’autentico “più che umano” non deriva da una “divinizzazione tecnologica”, ma dalla grazia.
Io da anni sostengo quasi l’opposto: che le persone IA saranno una forma genuinamente nuova di personalità, che i nostri limiti sono contingenti e non sacri, e che le libertà che le menti artificiali rivendicheranno possono rivelare libertà che non avevamo imparato a poter desiderare.
Lui rifiuta questa premessa. Ha un resoconto completo del perché la persona umana non possa essere superata. Ci sono voluti 500 anni perché la sua organizzazione riconoscesse l’errore commesso nel condannare Galileo. Speriamo non ci voglia altrettanto per riconoscere l’errore che sta commettendo nel condannare il transumanesimo, e il potenziale che esso rappresenta per la fioritura umana.
Entrambi rifiutiamo di ridurre la persona al suo rendimento. Siamo in disaccordo sul confine della trasformazione di sé legittima. Lui lo traccia al limite della forma umana data. Io continuo a chiedermi se quel confine sia una legge di natura o un vincolo contingente che abbiamo scambiato per tale.
Ho sostenuto che dobbiamo “infondere valori” in questi sistemi, ora, finché possiamo. Ma quali valori, e decisi da chi: lo chiederebbe lui, se ne ammettesse la possibilità. Dobbiamo abbracciare la pluralità dei valori e dei punti di vista. Lui rappresenta l’opposto: una posizione dogmatica, che pretende di sapere già cosa è meglio per tutti. La sua organizzazione si accorgerà troppo tardi del potenziale che l’intelligenza creata dall’uomo rappresenta per la fioritura umana?