La diplomazia nell’era degli algoritmi:
come l’IA erode relazioni e compromessi

Negli ultimi anni osserviamo ovunque una crescente polarizzazione, di opinioni, di posizioni, di appartenenze. In che modo i meccanismi algoritmici dei social network e dell’intelligenza artificiale (IA) contribuiscono a questa situazione?

Negli ultimi dieci anni gli algoritmi, che generano contenuti orientati al maggior coinvolgimento possibile, stanno cambiando il nostro modo di vedere il mondo.

E questo vale sia per i teenager sia per gli adulti, come scrive Jonathan Haidt nel suo ultimo libro, La generazione ansiosa. Nel momento in cui un ragazzo si registra su Instagram, il suo profilo vuoto viene completamente riempito da messaggi che gli dicono “guarda questo contenuto”, “guarda questa foto”, “devi sembrare così”... Analogamente mia moglie, maestra elementare, riceve sul suo profilo pubblicità di qualcosa da comprare per la scuola perché l’algoritmo valuta che, con altissima probabilità, questi contenuti la possono ingaggiare.

Come si traduce questo in dinamiche di polarizzazione sociale?

In realtà, non siamo noi a essere polarizzati: sono gli algoritmi con cui ci sono proposti i contenuti che ci polarizzano e ci dividono. Se cerco su Google un materassino yoga, vengo immediatamente profilato come appartenente a una certa parte politica e gli algoritmi che presentano i contenuti innescano un processo di confluenza in quella direzione. Se invece il mio vicino di casa, che è un amico, cerca su Google “come comprare un nuovo furgoncino”, viene profilato dalla parte politica opposta. Nel giro di poche settimane, io e lui finiamo per parlare di cose diverse e non ci intendiamo più, perché la stessa notizia ci viene raccontata in modi completamente diversi o, in alcuni casi, viene completamente ignorata.

Che impatto ha questo sulle pratiche diplomatiche e sulla capacità di negoziare compromessi?

Nel dialogo e nel rapporto “uno a uno” le persone desiderano collaborare e lavorare assieme. Eppure, nel mondo “social” sembra che tutto ci porti nella direzione opposta. Nonostante se ne discuta da vent’anni, il criterio guida degli algoritmi che propongono contenuti rimane sempre la massimizzazione del coinvolgimento dell’utente, esso non viene modificato perché è legato a obiettivi economici aziendali, e ciò ha una forza detonante. A livello inconscio, su un piano individuale, e su scala esponenziale nella politica e nella diplomazia, le cosiddette “camere d’eco” [luoghi virtuali in cui le nostre idee e opinioni vengono rafforzate e confermate, NdR] generano un effetto per cui nessuno è incentivato a scendere a compromessi. La diplomazia è tutta un lavoro di relazione, ma perché fare la fatica di un simile sforzo quando gli incentivi mirano tutti da un’altra parte?

Che tipo di bias, di distorsioni emergono quando applichiamo sistemi di IA generativa all’analisi di scenari di politica estera?

Recentemente, tre ricercatori del Centro di Studi Strategici Internazionali (SIS) hanno condotto una comparazione tra le risposte fornite da vari modelli di IA – Llama, ChatGPT, ecc. – di fronte a una serie di scenari internazionali e istanze di potenziale conflitto. L’analisi ha fatto emergere come i suggerimenti proposti dall’intelligenza artificiale generativa siano molto più conflittuali rispetto al comportamento normale di un attore, generalmente si riscontra una sua spiccata tendenza all’aggressività.

Perché?

Un aspetto è sicuramente quello dell’obiettivo di massimizzazione del tempo di connessione dell’utente. ChatGPT, come i social media ai quali accennavamo prima, non è uno strumento neutro. L’impulso conflittuale sospinge gli istinti dell’utente e quindi lo coinvolge maggiormente. Poi, è possibile modificare con i propri prompt i pregiudizi cognitivi della risposta per riportarla su un piano meno aggressivo, ma di per sé l’istanza primaria del risultato fornito è la conflittualità. D’altra parte, la base dei testi utilizzati per educare i modelli di IA e il peso dato a certi testi piuttosto che ad altri rimangono oscuri, anche perché ogni motore ha il suo modello proprietario.

E cosa accade secondo lei a livello diplomatico?

Per comprendere meglio perché questa tendenza aggressiva sia problematica in questo campo bisogna tener conto del fatto che, nella relazione diplomatica, uno degli elementi principali è l'uso dell’intelligenza in tutte le sue dimensioni. Non solo l’intelligenza funzionale per risolvere un problema, ma anche l’intelligenza affettiva, l’intelligenza emotiva – che porta anche a tener conto delle proprie paure – e l’intelligenza relazionale: questi sono aspetti che l’IA non possiede. L’intelligenza è ragione e intelletto: ratio, risoluzione dei problemi – e rispetto a questo la macchina può imprimere una certa direzione sulla base dei testi presi in considerazione, a cui viene aggiunto l’obiettivo del coinvolgimento – ma non solo, perché l’intelligenza personale tiene conto anche di tutti gli aspetti dell’uomo, che è un essere essenzialmente incarnato. Quindi, se la diplomazia, che una volta richiedeva un incontro fisico tra le persone coinvolte, viene appiattita oggi su questi strumenti, il risultato sono decisioni basate su un solo aspetto dell’intelligenza, cioè la pura risoluzione dei problemi. L’approccio che ne deriva è molto limitato.

Come docente, come prepara i suoi studenti a comprendere questi strumenti?

Da tre anni, nel mio corso per le matricole su “Intelligenza artificiale generativa e futuro del lavoro”, preparo sempre una lezione in cui cerco di spiegare, anzitutto, come funzionano questi motori di Intelligenza artificiale generativa, perché se capiamo questo, comprendiamo cosa possono fare e cosa no, cosa sono e cosa non sono.

Qual è la differenza tra un motore di ricerca come Google e, per esempio, ChatGPT?

Sono due paradigmi diversi, è uno dei punti su cui insisto maggiormente con gli studenti. Alla scuola superiore qui negli Stati Uniti hanno iniziato a usare ChatGPT pensando che fosse un motore di ricerca, dunque prendendo per veri tutti i suoi risultati. Per spiegare la differenza tra i due approcci, racconto come vengono costruiti i motori di ricerca di Google, che sono come una finestra sulla città, come l’indice di un libro. Per poter creare quella finestra, quell’indice, viene utilizzata l’Intelligenza artificiale in modo molto sofisticato. Il motore di ricerca è comunque una finestra sulla realtà: può essere opaca, piccola o grande, popolare o meno, ma alla fine arrivi all’oggetto che cercavi. L’indice ti dà accesso a qualcosa che esiste. ChatGPT, invece, crea contenuto in quel momento, usa un modo sostanzialmente diverso di processare le informazioni.

Quali conseguenze ha questa diversità di paradigma sul modo in cui comprendiamo e valutiamo l’informazione?

San Tommaso d’Aquino definisce la verità come relazione tra la realtà e la mente, tra la realtà e il linguaggio. Il motore di ricerca resta all’interno di quella relazione, l’Intelligenza artificiale generativa invece l’ha completamente spezzata, perché crea contenuto al momento, senza fornirti accesso alle fonti. Una volta che il motore IA ha imparato i modelli probabilistici di concatenazione delle parole, non ha più bisogno dei riferimenti testuali per costruire la risposta alla tua interrogazione. A quel punto, la manipolazione di questo nuovo linguaggio è potente ed estremamente fluida.

Che cosa rischiamo quando confondiamo questi due paradigmi, ricerca vs generazione?

Quello che qui è in gioco è l’accesso alla realtà: se non si comprende questa differenza tra Intelligenza artificiale generativa e motori di ricerca, l’accesso alla realtà rischia di andare perduto, perché si finisce per usare un filtro come se fosse un serbatoio. Negli ultimi anni i due mondi stanno confluendo: i modelli di Intelligenza artificiale generativa forniscono all’utente anche il link a risorse e documenti grazie ai quali ha elaborato le sue risposte, e i motori di ricerca offrono un riassunto creato al momento dall’Intelligenza artificiale generativa. Rimangono comunque due paradigmi diversi.

Questa differenza non è solo tecnica, tocca il modo stesso in cui intendiamo la conoscenza. Come cambia il significato di “conoscenza” nel momento in cui l’IA può generare bozze e prototipi immediati di qualsiasi cosa?

Oggi si sta cominciando a comprendere che il valore del lavoro non può risiedere nel risultato, ma in quello che imparo nel processo, cioè in come vivo il mio rapporto con la realtà lungo quella strada. Come il processo di scrittura, che è fare esperienza della realtà. L’intelligenza che ci vuole per creare una grande idea è la stessa intelligenza che ci vuole per capire una grande idea. Allora, quando uso l’Intelligenza artificiale generativa per scrivere, mi viene dato del materiale che non è mio e io lo posso poi riutilizzare e manipolare, ma mi viene tolto il processo di scrittura, e quindi quell'esperienza del mondo è un’altra cosa.

Quali rischi comporta per le relazioni il fatto che l’IA riduca il processo e privilegi il risultato?

La relazione si costruisce in un processo graduale, per cui, se mi viene già dato il risultato finale, io posso proporre quell’esito, ma ho perso dei passaggi. Lo vedo in maniera chiarissima nelle collaborazioni in università, la relazione è più importante del risultato, di quello che si può ottenere nell’immediato: è più importante collaborare che avere ragione, perché è il tessuto della relazione che costruisci a permetterti, a lungo termine, di realizzare qualcosa di duraturo.

Finora abbiamo parlato di individui e istituzioni: cosa accade se spostiamo lo sguardo al sistema internazionale?

A questo riguardo, è particolarmente interessante la prospettiva offerta nel recente saggio The Technological Republic: Hard Power, Soft Belief and the Future of the West (2025) di Alex Karp, co-fondatore di Palantir, azienda americana che produce software IA per applicazioni militari e tra le pochissime a utilizzare l’Intelligenza artificiale nel campo della difesa. Dal punto di vista dell’evoluzione, osserva Karp, tutto l’intelletto tecnologico si è appiattito sul ruolo del consumatore. Pochissimi attori hanno il coraggio di usare gli strumenti tecnologici, che sono comunque anche una risorsa per la difesa del paese e per gli obiettivi che portano avanti il progetto di una nazione. Karp denuncia come la Silicon Valley abbia ormai perso la bussola, rinunciando alla possibilità di usare questi strumenti per un progetto ben più grande dell’algoritmo che genera contenuti per ricavare più soldi, aumentare il valore delle azioni di una società quotata in Borsa, tenere le persone incollate allo schermo e, in realtà, divorare la società dal suo interno.

Internet è nato grazie all’applicazione militare, perché nel 1969 la Darpa [Defense Advanced Research Projects Agency, un’agenzia del Dipartimento della Difesa degli Stati Uniti che sviluppa tecnologie innovative per scopi militari, NdR] creò una Rete di interconnessione per lo scambio di documenti. Il web è venuto dopo. Senza l’investimento militare non avremmo il computer, il mouse e tutta la tecnologia che usiamo adesso. Il problema è che abbiamo dimenticato quello che ci è stato dato da chi ha investito in un progetto per la nazione e nelle infrastrutture del paese e ha permesso alla società di fiorire, e l’abbiamo ridotto a un uso distorto, dal quale siamo dipendenti. In ultima analisi, Karp richiama all’uso della nostra ragione, della tecnologia – che è poi un’applicazione della ragione – per un progetto più grande.