La nuova frontiera del disarmo passa dall’intelligenza artificiale
Dalla Dichiarazione di Roma emerge una consapevolezza inedita: il problema non è soltanto l’arma nucleare, ma il matrimonio sempre più stretto tra potenza atomica, algoritmi e concentrazione tecnologica. Per la prima volta premi Nobel, scienziati, leader religiosi ed ex capi di Stato lanciano un appello globale che riguarda il futuro stesso della politica.
C’era un tempo in cui la paura aveva il volto della nube atomica. Oggi quella paura conserva il fungo nucleare sullo sfondo, ma davanti ha il volto impalpabile dell’algoritmo. La minaccia non è più soltanto la bomba. È la macchina che potrebbe decidere quando usarla.
La “Dichiarazione di Roma”, sottoscritta in Campidoglio al termine dell’Assemblea Globale dei Premi Nobel sull’Intelligenza Artificiale e la Guerra Nucleare, fotografa una svolta culturale prima ancora che politica. Per decenni il dibattito internazionale si è concentrato sulla quantità delle testate, sulla deterrenza, sugli equilibri strategici tra le grandi potenze. Oggi il problema si è spostato più in profondità: chi controllerà le tecnologie che controllano le armi?
La questione non è fantascientifica. È già presente. Gli eserciti investono somme colossali nell’automazione dei sistemi di difesa, nell’analisi predittiva, nell’intelligenza artificiale applicata alla sorveglianza e al comando militare. Le grandi piattaforme tecnologiche dispongono di capacità di elaborazione dati superiori a quelle possedute da molti Stati sovrani. In questo scenario la corsa all’intelligenza artificiale rischia di diventare la nuova corsa agli armamenti del XXI secolo.
La Dichiarazione coglie un punto essenziale: la tecnologia non è neutrale quando si concentra nelle mani di pochi. Se il Novecento fu il secolo della divisione del mondo in blocchi geopolitici, il nostro tempo potrebbe essere ricordato come l’epoca della concentrazione del potere cognitivo. Chi possiede i dati, gli algoritmi e la capacità computazionale dispone infatti di una forma di sovranità nuova, più sottile ma non meno incisiva di quella militare.
Per questo assume un valore simbolico e concreto la richiesta che la decisione finale sull’impiego di un’arma nucleare non venga mai affidata a un sistema automatizzato. Sembra un principio ovvio. Eppure la storia insegna che ciò che è tecnicamente possibile tende prima o poi a essere sperimentato. Durante la Guerra Fredda furono diversi gli episodi in cui errori di valutazione o malfunzionamenti rischiarono di provocare una catastrofe nucleare. A evitare l’irreparabile fu sempre un elemento umano: il dubbio, l’intuizione, la prudenza di un ufficiale. Affidare quel momento decisivo a una macchina significherebbe eliminare proprio l’ultima barriera contro l’errore.
Ma il documento romano va oltre la dimensione militare. Vi è infatti una critica implicita a un modello di sviluppo che identifica il progresso con la velocità dell’innovazione. Non tutto ciò che può essere realizzato deve necessariamente essere realizzato. È una lezione antica, che la modernità ha spesso dimenticato. La tecnica produce mezzi; la politica e l’etica dovrebbero stabilirne i fini. Quando il rapporto si rovescia, la società finisce per inseguire le proprie invenzioni anziché governarle.
In questo senso il richiamo di Papa Leone a una “pace disarmata e disarmante” appare meno utopico di quanto possa sembrare. La vera novità della Dichiarazione non consiste infatti nell’ennesimo appello contro le armi nucleari, ma nell’aver compreso che il disarmo del futuro dovrà essere anche culturale, digitale e antropologico. Occorrerà limitare non soltanto gli arsenali, ma anche la tentazione di delegare alle macchine ciò che appartiene alla responsabilità umana.
La storia insegna che ogni civiltà viene giudicata non dalle tecnologie che inventa, ma dall’uso che decide di farne. L’intelligenza artificiale può curare malattie, accelerare la ricerca scientifica, migliorare la vita di milioni di persone. Può però anche amplificare le disuguaglianze, concentrare il potere e rendere più efficiente la distruzione.
Per questo la sfida evocata dalla Dichiarazione di Roma non riguarda soltanto gli scienziati o i governi. Riguarda l’idea stessa di uomo che vogliamo consegnare al XXI secolo. Se l’algoritmo diventa il nuovo sovrano e la deterrenza il nuovo dio, la politica abdica alla propria missione. Se invece la tecnica torna a essere uno strumento e non un destino, allora il futuro rimane aperto.
La Guerra Fredda aveva insegnato a convivere con l’equilibrio del terrore. L’era dell’intelligenza artificiale rischia di introdurre qualcosa di ancora più inquietante: l’automazione del terrore. La Dichiarazione di Roma ricorda che, prima di governare le macchine, occorre salvare l’uomo dalla tentazione di sostituire la propria coscienza con un algoritmo.
