IAForming. Stiamo arredando il baratro e lo chiamiamo progresso

Per millenni l’essere umano ha praticato, nel bene e nel male, una forma elementare di terraforming.

Ha modificato l’ambiente per renderlo compatibile con la propria esistenza.

Ha deviato fiumi, costruito argini, bonificato paludi, coltivato terre aride, scavato strade nelle montagne, fondato città e realizzato scuole, ospedali, biblioteche.

Talvolta lo ha fatto con intelligenza, altre volte con quella consueta arroganza che trasforma ogni conquista in una ferita.

Tuttavia, almeno in linea di principio, l’obiettivo era chiaro.

Lo strumento serviva all’uomo e l’ambiente veniva adattato alle esigenze della comunità.

Oggi abbiamo deciso di compiere il passaggio successivo.

Non adattiamo più il mondo all’essere umano.

Adattiamo l’essere umano alle macchine.

È nato così l’IAForming.

Non ci limitiamo a utilizzare l’intelligenza artificiale per migliorare il lavoro, ridurre gli errori, accelerare la ricerca scientifica o liberare le persone dalle attività ripetitive.

Sarebbe troppo ragionevole e, soprattutto, troppo poco spettacolare.

Abbiamo cominciato a riorganizzare la scuola, il giornalismo, l’impresa, la pubblica amministrazione, la comunicazione, la cultura e perfino le relazioni personali intorno alle esigenze dei sistemi artificiali.

Prima costruivamo strumenti per risolvere problemi.

Ora costruiamo problemi per giustificare gli strumenti.

La distinzione non è marginale.

È la differenza tra il progresso e la dipendenza, tra la tecnica al servizio dell’uomo e l’uomo ridotto a componente biologica della tecnica.

L’intelligenza artificiale è probabilmente uno degli strumenti più potenti mai realizzati.

Proprio per questo dovrebbe essere trattata con prudenza, competenza e una robusta dose di diffidenza.

Noi, invece, ci siamo comportati come bambini lasciati soli nel quadro comandi di una centrale nucleare.

Premiamo tutti i pulsanti, osserviamo le luci colorate e ci congratuliamo per essere entrati nel futuro.

Nessuno sa esattamente dove stia andando il treno, ma siamo molto soddisfatti della velocità.

L’intelligenza artificiale viene raccontata come una sorta di decima meraviglia del mondo.

Le sette tradizionali evidentemente non bastavano, l’ottava è stata attribuita negli anni a qualche centinaio di opere diverse, la nona dev’essersi persa in un aggiornamento e siamo arrivati direttamente alla decima.

Ogni applicazione diventa “rivoluzionaria”.

Ogni algoritmo “cambierà per sempre il nostro modo di vivere”.

Ogni nuova versione promette di pensare, lavorare, scrivere, diagnosticare, insegnare, governare e forse anche soffrire al posto nostro.

Presto sarà probabilmente annunciato un sistema capace di andare dal dentista al posto del paziente, provando però un dolore molto più efficiente e pienamente scalabile.

Nel frattempo, mentre celebriamo l’intelligenza delle macchine, stiamo rinunciando con sorprendente entusiasmo a esercitare la nostra.

Delegare è diventato il nuovo verbo del progresso.

Deleghiamo la memoria ai dispositivi, l’orientamento ai navigatori, la scrittura ai modelli linguistici, la selezione del personale agli algoritmi, la valutazione degli studenti alle piattaforme, l’informazione ai sistemi di raccomandazione e il giudizio alle statistiche predittive.

Ci stiamo liberando non soltanto della fatica, ma anche della responsabilità.

Ed è qui che lo strumento comincia a trasformarsi nell’obiettivo.

Non utilizziamo più l’intelligenza artificiale per diventare persone migliori, più preparate e più libere.

Modifichiamo noi stessi per diventare utenti più compatibili, produttori di dati più costanti, consumatori più prevedibili e lavoratori più facilmente sostituibili.

Non è la macchina che sta imparando a essere umana. È l’uomo che si sta allenando a essere macchina.

Siamo davanti al nuovo Pianeta delle scimmie, scusate ma credo che il riferimento al Pianeta delle scimmie non dovrebbe essere liquidato come una semplice provocazione cinematografica.

In quella storia il vero colpo di scena non consiste nell’ascesa delle scimmie.

Consiste nella scoperta che l’umanità ha costruito da sola la propria rovina.

Il mondo che appare alieno è in realtà la Terra dopo il fallimento dell’uomo.

La celebre immagine finale, con i resti della Statua della Libertà, non racconta soltanto una catastrofe.

Rappresenta il monumento funebre di una civiltà convinta di essere troppo intelligente per scomparire.

Naturalmente non vedremo necessariamente scimmie a cavallo che conquistano le nostre città, anche perché difficilmente potrebbero amministrarle peggio di quanto già facciamo noi.

Il rischio contemporaneo è più sottile.

Non saremo sconfitti da una specie esterna e nemmeno, con ogni probabilità, da un esercito di robot con gli occhi rossi.

Potremmo essere progressivamente esautorati senza che nessuno debba dichiararci guerra.

Continueremo a svegliarci, lavorare, consumare, votare, pubblicare fotografie e mettere reazioni sotto contenuti scelti per noi.

Avremo l’impressione di decidere, perché il sistema ci presenterà un menù.

Nessuno ci ricorderà che anche il menù, le alternative e l’ordine con cui appaiono sono stati stabiliti da qualcun altro.

La più efficace forma di dominio non vieta la libertà.

La rende superflua.

Il nuovo pianeta non sarà abitato da scimmie più intelligenti degli uomini, ma da uomini progressivamente meno allenati a pensare.

Sarà popolato da individui capaci di ottenere istantaneamente una risposta e sempre meno capaci di formulare una domanda.

Persone con accesso all’intero sapere umano, ma prive degli strumenti critici necessari per distinguere una conoscenza da una frase plausibile.

Una civiltà così non ha bisogno di essere conquistata.

Si consegna spontaneamente, dopo aver accettato le condizioni d’uso senza leggerle.

Oggi siamo davanti alla scuola dell’I.A. (Ignoranza Assistita).

Il luogo nel quale l’IAForming può produrre i danni più profondi è la scuola.

L’intelligenza artificiale potrebbe essere un magnifico strumento educativo.

Potrebbe sostenere gli studenti con difficoltà, personalizzare alcune attività, aiutare i docenti nella preparazione dei materiali, favorire l’accessibilità, ampliare le possibilità della ricerca e restituire tempo alla relazione pedagogica.

Ma uno strumento potente inserito in un sistema debole non rende forte il sistema.

Amplifica le sue debolezze.

Se uno studente utilizza l’intelligenza artificiale prima di avere imparato a leggere criticamente, argomentare, verificare le fonti e costruire un pensiero autonomo, non sta accelerando l’apprendimento.

Sta saltando la sua formazione.

Riceve il prodotto finale senza attraversare il processo mentale che gli avrebbe consentito di comprenderlo.

Avrà il testo, ma non il pensiero.

Avrà la risposta, ma non la conoscenza.

Avrà un voto, forse anche una laurea, e rimarrà intellettualmente dipendente dal primo sistema capace di completare una frase al posto suo.

Stiamo rischiando di costruire la più istruita generazione di ignoranti della storia.

Giovani capaci di produrre in pochi secondi relazioni impeccabili su argomenti che non conoscono, presentazioni eleganti su libri che non hanno letto e analisi sofisticate di problemi che non saprebbero riconoscere nella realtà.

L’ignoranza di ieri aveva almeno la dignità di mostrarsi.

Quella di domani sarà corretta grammaticalmente, ben impaginata e accompagnata da un grafico colorato.

Veniamo ora ad un falso storico: la IA libera l’uomo dal lavoro.

Ci era stato promesso che le macchine avrebbero liberato l’uomo dal lavoro più faticoso.

La promessa era affascinante.

Peccato che, strada facendo, qualcuno abbia ritenuto più conveniente liberare il lavoro dall’uomo.

Le imprese investono nell’intelligenza artificiale per aumentare la produttività, ridurre i costi e rendere più efficienti i processi.

È comprensibile.

Un’impresa non è un ente di beneficenza e deve produrre valore.

Ma quando l’intera trasformazione viene misurata soltanto in termini di risparmio, la persona cessa di essere il destinatario del progresso e diventa la voce di costo da eliminare.

Anche qui lo strumento si trasforma nell’obiettivo.

Non ci domandiamo più quale organizzazione favorisca il benessere umano, la qualità del lavoro e la crescita delle competenze.

Ci chiediamo quante persone possano essere sostituite, quanti minuti possano essere recuperati, quante decisioni possano essere automatizzate.

Poi chiamiamo tutto questo “centralità della persona”, possibilmente durante un convegno aziendale organizzato da un algoritmo e seguito da dodici persone, quattro delle quali realmente presenti.

Il rischio non riguarda soltanto la disoccupazione.

Riguarda la progressiva perdita delle competenze.

Quando un sistema svolge costantemente un’attività al posto nostro, noi perdiamo la capacità di svolgerla.

È accaduto con l’orientamento, con il calcolo mentale e con la memoria.

Può accadere con la scrittura, l’analisi, la diagnosi, la progettazione e il giudizio.

Una società che non possiede più le competenze incorporate nei suoi strumenti è una società tecnologicamente avanzata e umanamente fragile.

Basta un’interruzione, un errore sistemico, una manipolazione o un conflitto perché scopra di non sapere più funzionare senza l’infrastruttura alla quale ha affidato se stessa.

Il Titanic era una meraviglia tecnologica.

Il problema non era la nave.

Era la convinzione che non potesse affondare.

Anche l’informazione è entrata allegramente nell’epoca dell’IAForming, con il giornalismo sintetico e la realtà opzionale

L’intelligenza artificiale può aiutare il giornalista a esaminare grandi quantità di documenti, confrontare dati, trascrivere interviste e individuare collegamenti.

Ma il giornalismo non consiste nella produzione rapida di frasi.

Consiste nella ricerca della realtà, nella verifica, nel confronto con le fonti e nell’assunzione pubblica di una responsabilità.

Un algoritmo può generare un articolo.

Non può rispondere moralmente delle sue conseguenze.

Se le redazioni sostituiscono l’indagine con la generazione automatica, ottengono contenuti più economici e perdono il giornalismo.

Se l’intero ecosistema informativo viene alimentato da testi artificiali che rielaborano altri testi artificiali, arriveremo a un circuito chiuso nel quale le macchine si citeranno reciprocamente e gli uomini commenteranno indignati fatti mai accaduti.

Sarà la perfezione dell’informazione contemporanea.

Nessun reporter, nessuna fonte, nessuna verifica e milioni di opinioni.

La realtà diventerà un fastidioso costo di produzione.

Il potere non è dell’algoritmo, o almeno non dovrebbe!

Si sente spesso dire che l’intelligenza artificiale prenderà il potere.

È una formula comoda, perché attribuisce alla macchina una responsabilità che appartiene agli esseri umani.

Gli algoritmi non possiedono fabbriche, centri di calcolo, piattaforme, reti energetiche e banche dati.

Qualcuno li possiede.

Qualcuno decide quali dati utilizzare, quali obiettivi ottimizzare, quali contenuti mostrare, quali comportamenti premiare e quali persone classificare come rischiose, improduttive o irrilevanti.

Il problema non è soltanto ciò che l’intelligenza artificiale può fare.

Il problema è chi la controlla, con quali interessi e sotto quale forma di responsabilità democratica.

Una tecnologia capace di concentrare conoscenza, influenza e capacità decisionale nelle mani di pochi soggetti privati non è una semplice innovazione industriale.

È una questione politica di prima grandezza.

Eppure la politica appare spesso incantata davanti agli algoritmi.

Pronuncia termini inglesi, finanzia piattaforme, inaugura tavoli tecnici e promette digitalizzazioni epocali.

Non sempre comprende ciò che sta regolando, ma lo regola con grande fiducia.

È il metodo tradizionale con cui si affrontano le rivoluzioni tecnologiche.

Prima si lascia correre il cavallo, poi si convoca una commissione per studiare la forma degli zoccoli.

Nel frattempo i cittadini diventano profili, i lavoratori punteggi, gli studenti indicatori, i pazienti probabilità e gli elettori segmenti comportamentali.

La persona scompare dietro la precisione del dato.

Il rischio più grave non è una ribellione improvvisa delle macchine.

È una lenta erosione dell’umano, presentata come comodità.

Ogni singolo passaggio sembrerà innocuo.

Un po’ meno memoria, perché tanto possiamo cercare tutto.

Un po’ meno scrittura, perché il sistema completa le frasi.

Un po’ meno giudizio, perché l’algoritmo ha analizzato più dati.

Un po’ meno responsabilità, perché “lo ha deciso il sistema”.

Un po’ meno libertà, perché la personalizzazione rende tutto più semplice.

Alla fine non ci sarà un momento preciso nel quale potremo dire di avere oltrepassato il confine.

Ci accorgeremo di essere arrivati al baratro quando non sapremo più tornare indietro.

E forse anche allora un assistente virtuale ci tranquillizzerà, spiegandoci che la caduta è stata ottimizzata per migliorare l’esperienza dell’utente.

Questa non è una requisitoria contro l’intelligenza artificiale.

Sarebbe sciocco demonizzare uno strumento che può contribuire alla medicina, alla scienza, all’istruzione, alla sicurezza e alla qualità della vita.

È una requisitoria contro l’idolatria tecnologica, contro l’idea infantile che tutto ciò che può essere automatizzato debba esserlo e contro una classe dirigente che scambia l’innovazione con la rinuncia al governo dell’innovazione.

La domanda decisiva non è quanto l’intelligenza artificiale possa diventare simile all’uomo.

La domanda è quanto l’uomo sia disposto a diventare simile all’intelligenza artificiale.

Dobbiamo tornare a stabilire una gerarchia elementare.

La tecnologia è lo strumento.

La persona è il fine.

L’efficienza è un criterio, non un valore assoluto.

La velocità non coincide con il progresso.

Una decisione statisticamente ottimale può essere umanamente ingiusta.

Una risposta formalmente perfetta può essere culturalmente vuota.

Una società interamente automatizzata può essere anche una società perfettamente disumana.

Se dimentichiamo questa gerarchia, l’IAForming non costruirà la decima meraviglia del mondo.

Costruirà un pianeta nel quale tutto funzionerà magnificamente, tranne l’essere umano.

E quando, davanti alle rovine della nostra autonomia, scopriremo di avere edificato da soli il nostro Pianeta delle scimmie, non potremo neppure gridare di essere stati ingannati.

Avremo premuto il tasto, gentilmente offertoci dall’intelligenza artificiale, “Accetta tutto”.