Il Papa e la IA!

Il Papa e l’intelligenza artificiale: come affrontarla,

come non “farsi usare” e invece utilizzarla bene

Diciamo la verità, senza vergognarci: siamo tutti un po’ affascinati, o se preferite “stregati” dalle meraviglie della intelligenza artificiale! Basta vedere l’interesse che suscitano le varie piattaforme che la distribuiscono: all’inizio ci si registra e il servizio è gratuito, benché alquanto limitato. Poi piano piano propongono programmi a pagamento che promettono un servizio sempre più approfondito, tagliato sulle richieste del cliente, inarrivabile alla clientela delle altre “intelligenze”. Fin qui, tutto bene: è marketing, è la libera concorrenza. E del resto le varie ChatGpt, Gemini, Grok, Claude, Copilot, Perplexity, Deep Seek e altre, alla fine non sono altro che prodotti informatici estremamente sofisticati e costosi, i cui creatori hanno bisogno di diffonderli per rientrare dalle enormi spese sostenute per crearli.

Sappiamo, seppure a livello estremamente semplificato, di cosa sia capace la IA (d’ora in poi chiamiamola così, per semplicità, ndr): sa scrivere molto bene, sa fare i conti più velocemente di noi, sa tradurre in una sessantina di lingue in tempi rapidissimi, sa disegnare e raffigurare su richiesta con stili e capacità tecniche e cromatiche sempre più raffinate, sa creare da sé gli algoritmi che gli esperti informatici fino ad oggi impiegavano ore, giorni o settimane a sviluppare. Ancora, sa pianificare e creare strategie commerciali che i manager delle aziende, freschi di lauree prestigiose, a volte impiegano settimane a implementare. Spingiamoci anche su terreni complessi e sempre più specializzati: sa analizzare i sintomi e i dati medici di un paziente, “leggendo” gli esiti degli esami, le schede sanitarie, le ecografie e le Tac, con una rapidità e precisione che spesso il miglior medico non riesce ad eguagliare. E ancora oltre, in campo militare, dopo avere “ingoiato” i dati geografici, planimetrici, fotografici e satellitari di aree di conflitto, sa pianificare gli attacchi con gli strumenti più idonei per sconfiggere l’avversario sul campo. Ci sarebbe anche da citare la diffusione, per ora agli inizi, dei “robot umanoidi”, dotati di un cervello collegato alla AI e capaci di conoscere e quasi di “leggere nel pensiero” del loro “padrone”: secondo Elon Musk, nei prossimi uno o due decenni avremo “un robot per persona”, una specie di servitore personale al quale affideremo compiti crescenti, col crescere della sua capacità sia intellettiva, sia operativa. Sarà vero? Non lo sappiamo, però il cammino è tracciato

I rischi nascosti e quelli più evidenti

Insomma, la IA rischia di surclassare gli uomini, anche i più preparati, nei loro stessi ambiti di specializzazione, e il tutto producendo risultati velocissimi, semi-gratuiti o comunque a un costo esiguo rispetto agli stipendi che le aziende devono corrispondere per mantenere in servizio i migliori specialisti.

Il risvolto di tutto questo “prodigio” della IA è che sta diventando un fattore anche “distruttivo” a livello economico e sociale. Decine, centinaia di migliaia di impiegati di banche e assicurazioni; di operai e tecnici delle società produttrici e distributrici più diffuse, corrono il serio rischio – a breve, anzi brevissimo – di cominciare a tremare perché con l’adozione della IA, i loro datori di lavoro inizieranno a licenziare. Un caso clamoroso di questi giorni è quello di Amazon che, vuoi per motivi di bilancio, vuoi perché le IA lavorano meglio, con più continuità e senza andare in ferie, senza andare “in bagno”, senza chiedere permessi, ha annunciato migliaia di licenziamenti o incoraggiamenti a lasciare l’azienda per altrettanti contabili e ingegneri gestionali nei diversi centri logistici del mondo. Tutto ciò, facendo comprendere che non solo “si taglia” il personale, ma che diminuiranno i ritmi delle assunzioni, perché i robot già all’opera nei centri Amazon fanno un lavoro migliore e più rapido e preciso degli umani: quindi, perché assumerne ancora?

Come Amazon, anche altri grandi gruppi globali stanno rapidamente adottando l’IA, che diventa sempre più avanzata assimilando dati complessi e dettagliati.  A questo punto è lecito porsi un paio di domande: c’è da averne paura? Oppure, atteggiamento contrario e fideistico, c’è da idolatrarla per le potenzialità che sta mostrando?

La simulazione della relazione e le IA coinvolgenti

Lasciando a ciascuno di noi la risposta personale, mentre piano piano familiarizziamo con la IA, sentiamo cosa ci ha detto, dal suo specifico punto di vista, Papa Leone XIV. Si è occupato del tema nel suo recente documento dal titolo “Custodire voci e volti umani”, messaggio per la LX Giornata mondiale delle Comunicazioni sociali (testo integrale nel sito del Vaticano, ndr).

Già dal titolo, è chiara la prospettiva scelta da Papa Leone per la questione della diffusione dell’intelligenza artificiale. In apertura sottolinea che la sfida non è tecnologica, ma antropologica: nel senso che non è questione di quanto sono bravi i robot o le IA, ma di come gli stessi possano affiancarci, condizionarci e in ultima analisi avere il sopravvento rispetto alle capacità umane e al nostro modo di relazionarci gli uni gli altri.

Fa l’esempio dei “social”, oggi così diffusi. Scrive: “Ci sono da tempo molteplici evidenze del fatto che algoritmi progettati per massimizzare il coinvolgimento sui social media – redditizio per le piattaforme – premiano emozioni rapide e penalizzano invece espressioni umane più bisognose di tempo come lo sforzo di comprendere e la riflessione. Chiudendo gruppi di persone in bolle di facile consenso e facile indignazione, questi algoritmi indeboliscono la capacità di ascolto e di pensiero critico e aumentano la polarizzazione sociale”.

Come dicevamo più sopra, oggi i robot umanoidi sono ancora pochi, costosi, spesso impacciati. Stanno più nei video promozionali che nei salotti, benché non sia così raro trovarli nelle concierge degli alberghi internazionali, negli aeroporti, negli uffici delle stesse società tecnologiche che ne mostrano le potenzialità e li testano sul campo.

Se Elon Musk, imprenditore visionario che vuole portare gli uomini su Marte, parla di un robot pensante per ciascuno di noi, il Papa sposta l’attenzione sull’aspetto forse più inquietante della questione: la IA non avanza solo con bracci meccanici, sensori e robot umanoidi, ma con qualcosa di più subdolo: la simulazione della relazione. Perché tali robot sono già in grado, seppure a livello sperimentale e per ora non di produzione di massa, di simulare voci e volti umani, empatia e amicizia. In una parola, nota Leone XIV, i sistemi di intelligenza artificiale invadono il livello più profondo della comunicazione, quello del rapporto tra persone umane.

Già i più diffusi assistenti vocali (Siri, Alexa, Google Assistant ecc.) interagiscono con gli utenti e sanno riconoscere la voce, il tono, i desideri spesso prevedibili dei loro “proprietari”. A maggior ragione, per i robot il punto non è se sappiano fare il caffè o sollevare un anziano. È che già in questa fase ancora tutto sommato embrionale, sanno parlare, ascoltare, rispondere e interpretare in qualche modo lo stato emotivo della persona. Alcuni sembra che guardino negli occhi. E questo, nota il Papa, è antropologicamente esplosivo.

Industria sì, intimità no (ma il confine si muove)

Mentre è probabile che gli umanoidi prendano velocemente piede nelle fabbriche e nei magazzini, come pure negli uffici, avendo i vantaggi noti della capacità ripetitiva di azioni stereotipate ancorché complesse una volta svolte dagli uomini, il problema si porrà con la diffusione della IA nel campo della assistenza personale. Il robot maggiordomo, quello infermiere, quello di compagnia personale se non addirittura di affettuosa amicizia (digitale!) di persone sole, potranno rappresentare non solo collaboratori necessari, ma – nota il Papa – un pericolo reale. Scrive infatti: «I chatbot resi eccessivamente “affettuosi” […] possono diventare architetti nascosti dei nostri stati emotivi e in questo modo invadere e occupare la sfera dell’intimità delle persone”.

Se la prospettiva è che possano sostituire l’infermiere stanco (e costoso), il figlio distratto (e lontano), il nipote insensibile (e non preparato a interagire col nonno malato), la loro crescente presenza artificiale, sempre disponibile, gentile, paziente, potrebbe modificare il paradigma fondamentale del “funzionamento” degli uomini: quello della loro capacità relazionale basata sull’affetto, sulla fiducia, sulla serietà di un rapporto profondo.

Quindi, ciò che si sta prefigurando è un futuro nel quale non dovremmo avere paura dell’evoluzione di “macchine” così sorprendenti. Non è detto che siano cattive, né che la IA sia negativa e surclassi l’intelligenza umana, quella vera, attiva, fantasiosa. Il punto è che l’uomo, specie l’anziano solo, oppure la persona in cerca di una relazione affettiva senza trovarla, possa alla fine “accontentarsi” del rapporto con un sistema digitale che mima i comportamenti e gli affetti umani. E così rinunciare alla ricerca e allo sviluppo di relazioni vere, profonde, sincere, basate sul cuore oltre che sulla mente e sulla ragione.

Queste caratteristiche è difficile che il robot le sappia declinare, anche se c’è da avere paura della velocità di sviluppo della stessa IA, la quale sembra avviata a interrogarsi sui propri limiti, cercando autonomamente di superarli. Si tratta delle cosiddette AI “agentiche”, le quali sono già capaci di impostare dei programmi complessi, metterli in atto e portarli avanti affrontando gli eventuali ostacoli con elaborazioni interne dettate dalla potenza degli algoritmi sui quali esse sono state costruite.

L’illusione della conoscenza e la “resa” del pensiero

Un altro punto centrale del Messaggio papale riguarda la delega cognitiva. L’IA non solo agisce, ma pensa “al posto nostro”. O meglio: simula il pensiero.

“Sistemi che spacciano una probabilità statistica per conoscenza stanno in realtà offrendoci al massimo delle approssimazioni alla verità”, scrive il Papa. Il rischio è chiaro: meno fatica, meno discernimento, meno responsabilità. In cambio di risposte rapide e plausibili, perdiamo la capacità di giudicare. È la stessa logica che potrebbe governare anche i robot umanoidi: non solo lavoratori instancabili, ma mediatori della realtà, filtri tra noi e il mondo, che ci rendono un servizio in parte credibile e magari utile, però ci allontanano dalla nostra capacità di penetrazione profonda delle questioni e soprattutto dal vero unico e supremo potere della nostra coscienza: il libero arbitrio.

Il Papa prosegue ammonendo su un aspetto delicato della questione. “Dietro questa enorme forza invisibile […] c’è solo una manciata di aziende”, scrive. Robot, AI, piattaforme, dati, modelli linguistici: tutto converge verso pochi centri di potere privato, capaci non solo di orientare i consumi, ma di modellare comportamenti, emozioni, memoria storica. Altro che neutralità tecnologica.

Papa Leone XIV non chiede di spegnere le macchine. Chiede di governarle. E lo fa con tre parole chiave: responsabilità, cooperazione, educazione. Responsabilità di chi progetta, vende, regola. Cooperazione tra politica, industria, cultura. Educazione di cittadini capaci di distinguere lo strumento dalla persona.

Nella parte conclusiva del suo messaggio scrive: “È importante educare ed educarsi a usare l’IA in modo intenzionale, e in questo contesto proteggere la propria immagine (foto e audio), il proprio volto e la propria voce, per evitare che vengano utilizzati nella creazione di contenuti e comportamenti dannosi come frodi digitali, cyberbullismo, deepfake che violano la privacy e l’intimità delle persone senza il loro consenso. Come la rivoluzione industriale richiedeva l’alfabetizzazione di base per permettere alle persone di reagire alla novità, così anche la rivoluzione digitale richiede un’alfabetizzazione digitale (insieme a una formazione umanistica e culturale) per comprendere come gli algoritmi modellano la nostra percezione della realtà, come funzionano i pregiudizi dell’IA, quali sono i meccanismi che stabiliscono la comparsa di determinati contenuti nei nostri flussi di informazioni (feed), quali sono e come possono cambiare presupposti e modelli economici dell’economia della IA”.

In sostanza il Papa ci mette in guardia da eventi che sono già successi: ad esempio, i software che hanno creato persone fittizie con i volti di personalità dello spettacolo, alcune addirittura intente ad attività sessuali che in realtà non sono mai avvenute, ma che risultano così credibili da sembrare vere. E ancora, sullo stesso tenore, le dichiarazioni di avatar di personalità della politica che fanno affermazioni contrarie al loro vero pensiero, con l’intento di diffamarle o di rovinare la loro reputazione. E potremmo continuare a lungo anche per i rischi che ciascuno di noi corre se troppo facilmente cede il proprio volto, la propria voce, i propri dati ad “agenti” di IA.

Ringraziamo Papa Leone per questo documento, che ci può accompagnare in un serio lavoro di riflessione sull’epoca che stiamo vivendo e sulle formidabili (e anche pericolose) novità nelle quali siamo immersi.