Disarmare l'IA per evitare un abisso di disumanità in guerra

Valerio Palombaro - Città del Vaticano

“La rivoluzione digitale sta modificando la grammatica dei conflitti”. Papa Leone XIV, nell’enciclica Magnifica humanitas, è stato molto chiaro nell’ammonire sui rischi derivanti dall’applicazione dell’IA in ambito bellico. Applicazioni che hanno un impatto deleterio evidente sullo ius in bello, ovvero quel corpo di norme nato per regolamentare il modo in cui si conducono le operazioni militari, ma che rischiano persino di allentare ulteriormente i vincoli posti agli Stati dallo ius ad bellum, con il ricorso alla forza ritenuto “un’opzione immediata e praticabile”. La rivoluzione dell’IA, in un mondo che vive già una crisi dell’ordine internazionale multilaterale, rischia così di essere cavalcata da coloro che puntano a imporre una “cultura della potenza” portando verso un baratro di totale disumanità. Guerre sempre più frequenti e in apparenza facili, ma a costi esorbitanti sia dal punto di vista monetario che umano.      

Guerre a distanza

Che le tecnologie dell’IA siano ormai penetrate sempre più nel settore della difesa, cambiando il modo di fare la guerra, non è fantascienza ma una allarmante realtà dai sanguinosi risvolti quotidiani: dall’Ucraina, al Libano e Gaza, fino ai conflitti più “dimenticati” come in Sudan o ad Haiti. “Oggi ci sono già una serie di applicazioni semi-autonome, come i droni guidati da remoto, che possono avere una serie di usi estremamente invasivi”, osserva il presidente di Archivio Disarmo, Fabrizio Battistelli, spiegando che “fanno perdere la percezione al soldato del campo di battaglia e lasciano a un pilota a migliaia di chilometri di distanza la decisione sulla vita delle persone”. Ma oltre a questi, sono già operativi nei teatri di guerra anche “sistemi di arma autonomi” (AWS, Autonomous Weapon Systems) la cui caratteristica principale, nonché la differenza con le armi tradizionali, è che identificano, selezionano e attaccano un bersaglio senza un intervento umano diretto.

Mentre nei droni sopra menzionati, seppure a chilometri di distanza, la decisione finale di colpire l’obiettivo è sempre presa da un essere umano, negli AWS operanti in base all’IA la scelta sulla vita o sulla morte è presa da un software installato sulla macchina. Esempi di AWS sono le loitering munitions (come l’israeliana IAI Harpy o la statunitense Switchblade e altre utilizzate nel conflitto russo ucraino), ovvero piccoli droni che stazionano in aria per lunghi periodi, individuano un bersaglio e decidono di colpirlo; così come le “torrette autonome” (pionere di questo è il sistema Samsung SGR-A1, utilizzato al confine tra le due Coree), postazioni fisse che integrano sensori, tracciamento e in alcuni casi capacità di sparare in modo automatico in base a certe regole di ingaggio preimpostate; i veicoli terrestri armati (UGV, come il modello estone THeMIS), utilizzati per ricognizione, sorveglianza e talvolta per l’identificazione di obiettivi. E sono considerati sistemi di arma autonomi anche quelli di tipo difensivo che rilevano, classificano e possono neutralizzare droni o missili usando criteri automatici di identificazione e ingaggio (anche l’Iron Dome israeliano). 

Conflitti "accelerati"

“Gli algoritmi applicati all’individuazione dell’obiettivo sono stati attivissimi e funesti ad esempio nella campagna israeliana di Gaza”, dichiara Battistelli, facendo riferimento all’uso di sistemi come Habsora e Lavender. Si tratta di sistemi a supporto dei processi di targeting che individuano con l’IA quale è una persona combattente da attaccare, anche se ancora non sparano da soli. “Il problema – fa notare il professore - è che l’operatore umano che si vede ricevere magari con velocità altissime, tipo ogni 20 secondi, l'indicazione di un target, alla fine si assuefà e dice sì nel 90% dei casi perché tende a fidarsi dell’IA”. I dati relativi all’uso dell’IA in guerra sono inquietanti. Secondo il bilancio operativo di Maven Smart System, il software utilizzato dalla società Palantir nella campagna aerea degli Stati Uniti contro l’Iran, in meno di 40 giorni l’IA è stata in grado di colpire 13.000 obiettivi. Il sistema raccoglie informazioni sia da fonti aperte che classificate, mette insieme immagini satellitari, segnalazioni di intelligence e rapporti operativi fornendo un’unica visualizzazione in tempo reale del campo di battaglia con l’identificazione automatica degli obiettivi. Anche la Nato ha comprato Maven da Palantir e il sistema è oggi integrato in tutti i Paesi dell’Alleanza. 

I casi concreti: dall'Iran a Gaza, fino all'Ucraina

Ma questi sistemi non sono certo infallibili, tanto più nel contesto caotico di un conflitto armato: il raid statunitense che lo scorso 28 febbraio a Minab, in Iran, ha distrutto una scuola femminile causando l’uccisione di più di 170 persone, la maggior parte bambine, secondo quanto trapelato sulla stampa internazionale dalle indagini in corso al Pentagono sarebbe stato deciso sulla base di mappe non aggiornate fornite dall’IA di Palantir. Esempi sull’uso dell’IA nel settore difesa arrivano pure dal conflitto tra Kyiv e Mosca: l’Ucraina sta diventando un laboratorio per il settore e il progetto Brave1 Dataroom, lanciato all’inizio del 2026, già consente alle forze ucraine e alle aziende coinvolte di addestrare modelli di intelligenza artificiale utilizzando dati raccolti sul fronte dal febbraio 2022. Anche Russia e Iran d’altra parte, come tutti i Paesi più impegnati nella corsa agli armamenti, scommettono su questa rivoluzione: un’analisi del Financial Times, fondata su articoli pubblicati su riviste militari iraniane, ha evidenziato studi dedicati al suo impiego nella guerra elettromagnetica, nei sistemi di supporto alle decisioni sui campi di battaglia, nella guida dei droni e nelle attività di puntamento subacque.

Preservare il giudizio umano significativo

Il giudizio umano nella decisione - l’unico che può avere una valenza etico-morale, a differenza di quello di una macchina - viene in questo modo sensibilmente compresso o persino eliminato. E questo genera un livello di incertezza senza precedenti: dal punto di vista etico, giuridico, umanitario e di sicurezza. “L’uso bellico dell’IA è un elemento rivoluzionario in senso negativo perché toglie ogni responsabilità”, denota Battistelli. Secondo il professore, la responsabilità viene compressa “sia a livello tattico che strategico”: “A livello tattico un comandante militare, ma anche un soldato semplice, si trova a dover decidere qualcosa che è praticamente già stabilito e quindi viene deresponsabilizzato rispetto all’azione” visto che risulterà molto più difficile un domani arrivare all’accertamento della responsabilità giuridiche individuali per una condotta “decisa dall’algoritmo”. Il rischio, come ammonito dal pontefice, è che responsabilità ed eventuali colpe “si dissolvano nella macchina”, nell’algoritmo.
C’è poi una deresponsabilizzazione a livello strategico, quindi sulle decisioni dei governanti, che si collega al discorso sull’impatto dell’IA anche sullo ius ad bellum. “L’IA – commenta Battistelli - alimenta l’illusione di poter condurre delle guerre a perdite zero che storicamente, almeno dalla Seconda guerra mondiale, è lo slogan delle forze armate statunitensi”. Perdite zero tra i propri soldati, ma infliggendone naturalmente al nemico e senza necessariamente distinguere tra vittime militari e civili. Mentre prima bisognava dispiegare gli uomini sul terreno e c’era la paura di perdere i soldati inviati al fronte, vedi tutto il dibattito sui così detti “boots on the ground” (stivali sul terreno), con i sistemi d’arma autonomi si abbassa la soglia e si agevolano le decisioni sugli interventi perché al massimo si perde un drone o una munizione.

I civili sempre più "vittime collaterali"

A perdere però sono ancora una volta i civili, che rischiano di subire la sorte di “effetti collaterali” dei conflitti che insanguinano il mondo. I principi cardine del diritto internazionale umanitario (DIU) — umanità, necessità militare, distinzione (distinguere gli obiettivi militari dai civili), proporzionalità (vietare danni collaterali “eccessivi” rispetto al vantaggio militare concreto e diretto previsto) e precauzione (adottare le cautele necessarie per evitare morti civili) — non appaiono tutelati con lo sviluppo di nuovi sistemi d’arma autonomi. L’uso bellico dell’IA pone inoltre tutta una questione legata alla qualità dei dati. “Una delle preoccupazioni principali riguarda la possibilità che questi sistemi non tengano conto delle caratteristiche specifiche degli individui o che operino in maniera pregiudizievole”, afferma Tommaso Natoli, Responsabile Principi, Valori, Diritto Internazionale Umanitario e Dottrina della Croce Rossa Italiana (CRI): “Se pensiamo ad esempio al supporto alla fase di targeting da parte di un sistema automatizzato di IA che si trovi a valutare i comportamenti di una persona con disabilità, non si può non considerare il rischio che questi vengano interpretati in maniera anche paradossalmente ostile in un contesto di conflitto”.  

Un approccio costruttivo

L’IA, soprattutto nella “nebbia della guerra”, è ancora lontana da quella pretesa di affidabilità. Natoli precisa in ogni caso che “non c’è una posizione aprioristicamente contraria all’IA”: l’invito, della CRI, è rivolto “ai governi, ai decisori politici, alle forze armate e alle aziende del settore a considerare le nuove tecnologie non solo come utili all’identificazione degli obiettivi militari ma anche a progettarle e utilizzarle per rafforzare il rispetto del DIU e del principio di distinzione, includendo ad esempio strumenti per riconoscere la presenza di civili o di emblemi protettivi. Questo è un altro aspetto su cui insistiamo molto – sottolinea Natoli – in quanto non bisogna soffermarsi su una posizione necessariamente contraria a uno sviluppo tecnologico che non può essere fermato, mentre bisogna capire come utilizzarlo per assicurare l’effettiva applicazione delle norme esistenti”. “Come CRI – dichiara il presidente nazionale di Croce Rossa Italiana, Rosario Maria Gianluca Valastro - teniamo alta l’attenzione sugli sviluppi di questa nuova tecnologia, che farà sempre più parte delle nostre vite. Ciò vuol dire interrogarsi sulle opportunità che offre, ma anche sui rischi e sui dilemmi etici e giuridici che pone, consapevoli della necessità di regolarne l’utilizzo al fine di scongiurare ogni rischio di ‘disumanizzazione’, soprattutto nei contesti di conflitto armato e di emergenza umanitaria”.        

Tenere l'essere umano al centro

Il DIU, che resta applicabile anche nel caso di utilizzo di sistemi di IA nei contesti di conflitto armato, deve cercare di tenere il passo della nuova realtà. “Una strada per aggiornare questo quadro di norme è quella classica della produzione di nuovi strumenti giuridici”, riprende Natoli, ammettendo che chiaramente in un contesto in cui il multilateralismo è in crisi “tale soluzione non appare facilmente percorribile al momento. Altre strade – prosegue – sono quelle della diplomazia umanitaria e della creazione di strumenti di soft law, di pressioni e di raccomandazioni fondate sull’analisi tecnico-giuridica degli effetti sul campo delle nuove tecnologie. Il punto fermo è che il DIU continua a rappresentare una lente attraverso la quale occorre valutare la legalità dell'utilizzo di questi sistemi: qualsiasi sviluppo in corso deve necessariamente passare al vaglio di valutazioni etico-legali basate sul così detto human centered approach, ovvero tenere l’essere umano al centro del giudizio di legittimità di ogni azione commessa dalle parti in conflitto”.
Ma non tutti gli Stati remano in questa direzione. E persino laddove un’azienda del settore, come nel caso di Anthropic negli Usa, abbia tentato di mettere qualche linea rossa invalicabile rifiutandosi di concedere i propri modelli per operazioni che utilizzino armi completamente autonome, il risultato non è stato di avviare un percorso virtuoso ma l’esclusione dalla lista dei fornitori.  “Alcuni degli Stati più impegnati nella ricerca sull’automazione assoluta dei sistemi d’arma, tra cui Stati Uniti, Russia e Israele, sono molto contrari a qualunque forma di regolamentazione del settore”, conferma il professor Battistelli. In sede Onu è in corso da alcuni anni a Ginevra un dibattito tra esperti governativi, nel quadro della ‘Convenzione su certe armi convenzionali’, ma questi Stati respingono ogni proposta di regolamentazione del settore “sostenendo che esiste già il DIU” e che basterebbe “far garantire il rispetto di tale normativa alle loro forze armate”.    

Gli sforzi dell'Onu

L’Onu, a livello di Assemblea generale, lo scorso 6 novembre ha approvato per il terzo anno consecutivo a larga maggioranza una risoluzione non vincolante sulle armi autonome per esprimere preoccupazione per l’impatto di questi sistemi sulla pace e sulla sicurezza dei civili. Ma a livello di Consiglio di sicurezza, i Paesi con diritto di veto bloccano ogni iniziativa. “Deve essere creato un quadro per regolamentare la nuova realtà vietando i sistemi d’arma autonomi che non garantiscono un controllo umano significativo”, dichiara la direttrice della campagna internazionale Stop Killer Robots, Nicole van Rooijen: “E bisognerebbe aggiungere un protocollo alla Convenzione sulle armi convenzionali, che sarebbe il sesto, dedicato alle armi autonome e all’IA in guerra”. La Santa Sede, come Stato non membro con lo status di osservatore permanente dell’Onu, è in prima linea in questi sforzi. Ma il lavoro della comunità internazionale, fino ad ora, è stato solo sulle armi autonome e non specificamente sugli usi bellici dell’IA. “A livello di Assemblea generale Onu una prima riunione si svolge a Ginevra dal 15 al 17 giugno 2026 – sottolinea Van Rooijen -. Si tratta solo di un primo tentativo di trovare un quadro regolatorio, mentre lo sviluppo dell’IA avanza troppo più velocemente”.

Il monito del Papa e quello della società civile

Proprio a margine dei lavori di Ginevra si è fatta sentire anche la società civile: 226 associazioni, ong, esperti e individui che lavorano nel settore, tra cui organizzazioni laiche come la stessa campagna Stop Killer Robots ma anche religiose come il Consiglio ecumenico delle chiese, hanno sottoscritto una dichiarazione congiunta per chiedere esplicitamente alle aziende ed agli Stati di “interrompere la fornitura” di sistemi di IA da utilizzare nella “catena di uccisione militare” e “di adottare tutte le misure necessarie per garantire che gli altri sistemi di intelligenza artificiale da loro forniti non causino o contribuiscano a violazioni del DIU e del diritto internazionale dei diritti umani”. A novembre, inoltre, gli Stati si incontreranno sempre a Ginevra per la Conferenza di revisione della Convenzione sulle armi convenzionali: “Un evento – spiega Van Rooijen - che si svolge ogni cinque anni e che rappresenta un’opportunità senza precedenti per lanciare negoziati su un trattato per regolamentare e proibire i sistemi d’arma autonomi”.
La sfida posta dagli usi bellici dell’IA non è rinviabile e deve interrogare le coscienze dei governanti per evitare un baratro disumano in cui la guerra viene assimilata a un videogioco. “Ogni tecnologia che rende più facile colpire senza vedere il volto dell’altro abbassa la soglia morale del conflitto”, ha ammonito Papa Leone. Di fronte all’accelerazione impressa dall’IA non bisogna assuefarsi ma urgono più che mai vincoli etici e giuridici rigorosi, condivisi a livello internazionale, per proteggere i civili dalle atrocità delle guerre.