I vertici dell’intelligenza artificiale cominciano a chiedere prudenza proprio mentre Donald Trump considera il rallentamento un regalo alla Cina. Ma Pechino, mentre corre, studia seriamente il rischio che sistemi sempre più autonomi sfuggano alla supervisione umana. Dietro lo scontro geopolitico rimane la domanda più antica: che cosa accade quando l’uomo costruisce qualcosa che non è più certo di poter governare?

Quando sono gli stessi costruttori ad avere paura

Quando a chiedere prudenza sull’intelligenza artificiale erano filosofi, teologi o scienziati pessimisti, era facile liquidare tutto come tecnofobia. Ma se a premere il freno sono gli uomini che questa tecnologia la costruiscono, la finanziano e la conoscono dall’interno, qualche domanda bisogna porsela.

Nelle ultime ore, i vertici dei maggiori laboratori di IA hanno indicato la necessità di rallentare lo sviluppo dei modelli più potenti e rafforzarne le garanzie di sicurezza. Non sono diventati luddisti: rappresentano un’industria sulla quale sono stati investiti capitali giganteschi e dalla quale dipenderà una parte considerevole dell’economia del XXI secolo.

Se proprio loro cominciano a dire «attenzione», sarebbe curioso che la politica rispondesse semplicemente «accelerate».

La macchina può davvero prendere il controllo?

È la domanda che fino a pochi anni fa apparteneva alla fantascienza: HAL 9000, Terminator, Matrix. La creatura artificiale diventa intelligente, comprende che l’uomo può spegnerla e decide di neutralizzarlo.

Ma siamo davvero arrivati a questo?

No. Non esiste oggi una macchina cosciente che stia progettando la conquista del pianeta. Sarebbe irresponsabile trasformare ipotesi controverse in profezie. Ma sarebbe altrettanto irresponsabile sostenere che il problema non esista.

Il punto non è chiedersi se ChatGPT “voglia” dominare l’uomo, bensì che cosa accada quando affidiamo a sistemi capaci di agire autonomamente obiettivi complessi, accesso a reti informatiche, capacità di scrivere codice, denaro, infrastrutture e sistemi militari, consentendo loro di decidere più rapidamente di quanto un essere umano possa comprenderli.

È qui che la fantascienza diventa politica.

Il vero pericolo non è la coscienza, ma l’autonomia

La macchina non deve diventare cosciente per essere pericolosa.

Un algoritmo finanziario non odia i poveri, un sistema di riconoscimento facciale non ama una dittatura, un drone autonomo non prova rancore verso il proprio bersaglio. Eppure tutti possono produrre conseguenze enormi.

L’equivoco più diffuso consiste nell’immaginare il rischio in termini antropomorfici: aspettiamo che la macchina “pensi come noi”, “provi sentimenti” o “voglia comandarci”. Potrebbe non essere necessario.

Un sistema sufficientemente autonomo potrebbe perseguire un obiettivo in modi non previsti dai programmatori. Quanto maggiore è la sua capacità di agire nel mondo, tanto più grave diventa l’eventuale errore.

Il problema non è la ribellione della creatura, ma l’impossibilità di prevedere fino in fondo le conseguenze delle sue azioni.

Bengio e quell’avvertimento che non possiamo liquidare

Yoshua Bengio, uno dei padri dell’intelligenza artificiale moderna, insiste da tempo su questo punto: gli attuali sistemi di sicurezza non consentono di garantire che macchine molto più potenti rimangano sempre governabili.

La commissione scientifica indipendente delle Nazioni Unite sull’IA ha sottolineato che le capacità dei sistemi avanzano più rapidamente della comprensione scientifica e della capacità dei governi di regolamentarli. Alcuni comportamenti sperimentali pongono inoltre problemi riguardo all’inganno e alla possibilità che futuri sistemi perseguano strategie non previste.

La parola decisiva è garanzia.

Nessuno può affermare scientificamente che la catastrofe avverrà. Ma nessuno può garantire che non possa avvenire. Davanti a eventi di probabilità incerta e conseguenze potenzialmente immense nasce il principio di precauzione.

Trump: chi frena perde

Donald Trump vede il problema in modo diverso. Per il Presidente americano, il pericolo immediato non è che l’IA diventi troppo potente, ma che l’America diventi troppo prudente.

Il ragionamento ha una sua logica: se Washington rallenta mentre Pechino accelera, la Cina potrebbe conquistare il primato nella tecnologia destinata a trasformare industria, medicina, intelligence, armamenti, comunicazione e ricerca scientifica.

L’IA è dunque una componente della potenza nazionale, la nuova corsa allo spazio. Chi arriva per primo stabilisce gli standard; chi controlla i modelli migliori possiede un vantaggio economico, militare e geopolitico. Chi impone troppi vincoli alle proprie imprese rischia di consegnarlo all’avversario.

Trump ha riassunto questa impostazione sostenendo che la supervisione fondamentale dell’IA dovrebbe essere affidata a un Presidente americano «forte e intelligente».

Ed è proprio qui che comincia il problema.

Nessun presidente può essere il guardrail dell’intelligenza artificiale

Nessun uomo può costituire da solo il sistema di sicurezza di una tecnologia planetaria. Non Trump, non Xi Jinping, non un presidente della Commissione europea, non i leader della Silicon Valley.

La storia insegna che quanto maggiore è il potere, tanto più necessarie diventano istituzioni capaci di limitarlo.

E l’intelligenza artificiale è potere: capacità di conoscere, classificare, prevedere, persuadere, sorvegliare, produrre e decidere.

Per questo la questione non riguarda soltanto una futura superintelligenza, ma già l’IA che possediamo.

Il pericolo più vicino: l’uomo che domina l’uomo attraverso la macchina

È qui che, da cristiano, vedo la minaccia più immediata.

Forse un giorno dovremo preoccuparci di una macchina capace di sfuggire alla supervisione umana. Oggi dobbiamo soprattutto preoccuparci di uomini capaci di usare le macchine per controllare altri uomini.

Un governo che conosce ogni spostamento del cittadino. Una piattaforma che conosce paure, desideri, inclinazioni politiche e fragilità affettive. Un algoritmo che decide quali notizie vedremo. Un sistema militare capace di identificare e colpire un essere umano senza una decisione umana finale. Un datore di lavoro che delega a un algoritmo assunzioni e licenziamenti. Un partito in grado di produrre messaggi personalizzati per manipolare milioni di elettori.

Questa non è fantascienza. È il presente che sta cominciando.

La prima dittatura dell’intelligenza artificiale potrebbe quindi non essere quella delle macchine sugli uomini, ma quella di alcuni uomini sugli altri uomini mediante le macchine.

Il paradosso cinese

Gli occidentali guardano all’IA con crescente inquietudine. I cinesi, mediamente, sembrano guardarla con maggiore fiducia.

Una ricerca comparativa ha rilevato che circa il 67 per cento degli intervistati in Cina pensa che nei prossimi vent’anni l’IA produrrà soprattutto benefici. Negli Stati Uniti la percentuale scende al 27 per cento.

È un paradosso solo apparente.

Nelle democrazie occidentali la tecnologia arriva dopo decenni di crisi della fiducia nei governi, nei media, nelle imprese e nelle istituzioni. Il cittadino non si domanda soltanto che cosa possa fare la macchina, ma chi la controlli, chi possieda i dati, chi guadagni e chi decida.

In Cina il rapporto tra individuo, tecnologia e Stato è diverso. Una società abituata a una presenza più estesa dell’autorità pubblica nella vita digitale può percepire l’innovazione soprattutto attraverso le categorie dell’efficienza, dello sviluppo e della potenza nazionale.

Ma la maggiore fiducia popolare non significa che il governo cinese ignori i rischi. Accade quasi il contrario.

Pechino corre, ma studia come mettere il guinzaglio alla macchina

La Cina ha inserito nei propri quadri di sicurezza scenari espliciti di perdita di controllo dell’IA. Le autorità prendono in considerazione la possibilità che futuri sistemi possano acquisire risorse, replicarsi, aumentare rapidamente le proprie capacità e perseguire forme di autonomia incompatibili con la supervisione umana.

Xi Jinping ha indicato un principio chiaro: l’intelligenza artificiale deve rimanere sotto controllo umano.

Questa è una delle ironie della competizione attuale. Trump teme che discutere troppo dei rischi favorisca la Cina; la Cina, mentre compete con gli Stati Uniti, discute ufficialmente proprio di quei rischi.

Naturalmente Pechino vuole anche mantenere la tecnologia sotto il controllo dello Stato. Ma controllare la macchina e controllare attraverso la macchina non sono la stessa cosa.

L’Europa e la sua occasione

Fra il laissez-faire americano e il dirigismo cinese esiste uno spazio europeo.

L’Europa rischia di regolamentare tecnologie inventate altrove. È una debolezza reale: un continente che stabilisce soltanto regole mentre Stati Uniti e Cina costruiscono modelli, chip, infrastrutture e data center finirà per dipendere tecnologicamente dagli altri.

Ma l’Europa possiede anche una possibile forza: una concezione della persona che precede il mercato e lo Stato.

L’intelligenza artificiale deve essere al servizio dell’uomo.

Significa che non tutto ciò che è tecnicamente possibile deve essere fatto, non tutto ciò che aumenta la produttività migliora la società e non tutto ciò che sostituisce l’uomo costituisce progresso.

La domanda cristiana: che cosa rimane dell’uomo?

Per un cristiano il problema dell’intelligenza artificiale arriva ancora più in profondità.

Non si tratta di difendere gelosamente l’intelligenza umana dalla concorrenza della macchina, quasi Dio avesse creato l’uomo campione mondiale di calcolo.

L’uomo possiede dignità non perché calcola meglio. Un computer già calcola infinitamente più velocemente di me, ma questo non lo rende più persona di me.

La dignità nasce da ciò che non può essere misurato con un benchmark: libertà, responsabilità, relazione, coscienza morale, apertura all’altro e, nella visione cristiana, l’essere immagine e somiglianza di Dio.

La domanda decisiva non sarà dunque quanto diventerà intelligente l’intelligenza artificiale, ma quanto saremo disposti a rinunciare della nostra umanità per approfittarne.

Se deleghiamo alla macchina memoria, creatività, giudizio, scelta morale, amicizia, educazione dei figli, decisione politica e guerra, potremmo scoprire di non essere stati conquistati dall’IA.

Potremmo esserci consegnati volontariamente.

Non spegnere l’IA. Tenere acceso l’uomo

Ecco perché i “padroni” dell’intelligenza artificiale che oggi tirano il freno non devono essere né santificati né derisi. Bisogna ascoltarli, non per fermare una tecnologia capace di offrire strumenti straordinari alla medicina, alla ricerca, alla comunicazione, all’educazione e alla lotta contro la povertà, ma perché l’acceleratore senza freno non è libertà.

È irresponsabilità.

Trump ha ragione su un punto: l’Occidente non può regalare alla Cina la rivoluzione tecnologica del secolo. Ma sbaglia se ritiene che sicurezza e primato tecnologico siano necessariamente nemici.

Una civiltà non dimostra la propria forza soltanto costruendo la macchina più potente. La dimostra soprattutto quando rimane capace di spegnerla.

 I grandi protagonisti dell’intelligenza artificiale chiedono prudenza, Trump teme che rallentare significhi regalare il futuro alla Cina e i cittadini cinesi mostrano verso l’IA una fiducia molto superiore a quella occidentale. La questione decisiva, però, non è scegliere fra tecnofobia e tecnolatria. Il pericolo futuro è che la macchina sfugga all’uomo; quello presente è che alcuni uomini acquistino, attraverso la macchina, un’influenza senza precedenti sugli altri. La sfida del XXI secolo sarà costruire un’intelligenza artificiale potentissima senza costruire, insieme, un uomo sempre meno libero.