Umanità

Case study: intelligenza artificiale militare

“Intelligenza artificiale militare” non identifica un’unica tecnologia. Il CICR utilizza l’espressione in senso ampio per comprendere l’impiego dell’AI nei sistemi e nelle operazioni militari: armi autonome, sistemi di supporto alle decisioni, cyberoperazioni, logistica, sorveglianza e analisi di intelligence. Il case study del CICR evidenzia proprio questa varietà: l’AI può aumentare la velocità con cui vengono analizzate grandi quantità di dati, migliorare la situational awareness e assistere il comandante, ma può anche essere incorporata in sistemi robotici e d’arma.

Occorre anzitutto distinguere AI e autonomia. Un sistema autonomo è, in termini operativi, un sistema capace di svolgere determinate funzioni senza un ulteriore intervento umano dopo l’attivazione. Non ogni sistema autonomo utilizza necessariamente AI: alcuni sistemi di difesa antimissile, per esempio, operano automaticamente sulla base di regole software relativamente tradizionali. Allo stesso modo, non ogni sistema militare dotato di AI è un’arma autonoma: un algoritmo che analizza immagini satellitari o suggerisce al comandante possibili percorsi d’azione utilizza AI, ma non per questo seleziona e attacca autonomamente un bersaglio.

Il CICR definisce un sistema d’arma autonomo, o Autonomous Weapon System (AWS), come un sistema che, una volta attivato, può selezionare un bersaglio e applicare forza contro di esso senza ulteriore intervento umano. Il sistema utilizza i dati provenienti dai propri sensori per confrontare ciò che rileva con un “profilo del bersaglio”: forma, movimento, velocità, firma radar, emissione termica o altre caratteristiche. L’elemento decisivo non è quindi che l’arma “pensi” come un essere umano, ma che l’utente non determini necessariamente quale specifico bersaglio sarà colpito, né il momento e il luogo esatti dell’applicazione della forza.

L’espressione “sistemi d’arma autonomi letali”, o LAWS (Lethal Autonomous Weapon Systems), è invece quella maggiormente utilizzata nel dibattito diplomatico delle Nazioni Unite. Non esiste ancora una definizione universalmente accettata contenuta in un trattato internazionale specificamente dedicato a tali sistemi; proprio la loro caratterizzazione è uno dei temi ancora discussi nel Gruppo di esperti governativi della Convenzione su certe armi convenzionali. Al 25 agosto 2026 questo processo negoziale è ancora in corso.

Un’altra categoria, probabilmente ancora più importante nell’impiego militare quotidiano dell’AI, è quella degli AI Decision-Support Systems, o AI-DSS. Sono strumenti informatici che raccolgono, ordinano, correlano o analizzano informazioni e possono formulare valutazioni, previsioni o raccomandazioni per assistere una decisione umana. Possono, per esempio, evidenziare un veicolo in migliaia di ore di video, correlare immagini con altre informazioni di intelligence, stimare la presenza di civili, suggerire un’arma o una traiettoria che riduca i danni collaterali oppure proporre una lista di possibili obiettivi. Formalmente non “decidono” quando un essere umano conserva la decisione finale, ma possono influenzarla in modo determinante.

Il Project Maven statunitense offre un esempio concreto. Nato nel 2017, utilizzava algoritmi di computer vision e machine learning per estrarre oggetti d’interesse da grandi quantità di immagini e video acquisiti dai sistemi di intelligence, sorveglianza e ricognizione. L’obiettivo dichiarato dal Dipartimento della Difesa era permettere agli analisti umani di elaborare una quantità molto maggiore di dati. Il caso è importante proprio perché dimostra che il problema dell’AI militare non comincia con il “robot che spara da solo”: un algoritmo può incidere profondamente sul processo che conduce alla selezione di un obiettivo molto prima dell’impiego dell’arma.

Il punto di partenza giuridico è che il DIU si applica indipendentemente dalla tecnologia utilizzata.

L’AI non è, in quanto tale, né autorizzata né vietata dal diritto internazionale umanitario. Ciò che deve essere valutato è se lo specifico sistema, e soprattutto il modo nel quale viene utilizzato, consentano di rispettare le norme applicabili. Lo stesso principio era già espresso, molto prima dell’AI, dall’articolo 22 del Regolamento dell’Aia del 1907: il diritto dei belligeranti di scegliere i mezzi con cui nuocere al nemico non è illimitato.

Per un sistema che contribuisce alla selezione o all’attacco di un bersaglio, la prima regola fondamentale è il principio di distinzione.

L’articolo 48 del I Protocollo aggiuntivo alle Convenzioni di Ginevra impone alle parti di distinguere in ogni momento la popolazione civile dai combattenti e i beni civili dagli obiettivi militari. Gli articoli 51 e 52 sviluppano questa regola, mentre il diritto consuetudinario la rende applicabile anche oltre il quadro pattizio del Protocollo I. Le regole consuetudinarie 1 e 7 del CICR stabiliscono rispettivamente che gli attacchi possono essere diretti soltanto contro combattenti e obiettivi militari e non contro civili o beni civili.

Qui emerge immediatamente uno dei limiti dell’AI: riconoscere un oggetto non equivale a determinarne lo status giuridico. Un algoritmo può riconoscere con elevata affidabilità la sagoma di un camion. Ma sapere che si tratta di un camion non significa sapere se quel veicolo sia un bene civile o un obiettivo militare. La qualificazione dipende dal contesto: chi lo utilizza, per quale funzione, in quale momento e quale contributo offre all’azione militare. La definizione di obiettivo militare dell’articolo 52, paragrafo 2, del Protocollo I richiede infatti una valutazione sia del contributo effettivo all’azione militare sia del vantaggio militare concreto derivante dalla sua distruzione, cattura o neutralizzazione. La difficoltà aumenta enormemente quando il bersaglio è una persona. Un sistema potrebbe riconoscere un essere umano, un’uniforme o la presenza di un’arma. Ma elementi giuridicamente decisivi possono cambiare in pochi secondi. Un combattente può essere ferito e diventare hors de combat; può arrendersi; una persona apparentemente civile può partecipare direttamente alle ostilità e successivamente cessare tale partecipazione. Il DIU proibisce l’attacco contro una persona riconosciuta, o che nelle circostanze dovrebbe essere riconosciuta, come hors de combat. Il CICR ritiene proprio questa dipendenza dal contesto una delle ragioni principali per cui i sistemi autonomi progettati per attaccare direttamente persone pongono problemi particolarmente gravi.

Il secondo principio centrale è la proporzionalità.

L’articolo 51, paragrafo 5(b), del Protocollo I e la regola consuetudinaria 14 vietano un attacco dal quale ci si possa attendere che provochi incidentalmente morti o feriti tra i civili o danni ai beni civili che sarebbero eccessivi rispetto al vantaggio militare concreto e diretto previsto. La regola è consuetudinaria sia nei conflitti armati internazionali sia in quelli non internazionali.

Qui parlare di “calcolo algoritmico della proporzionalità” può essere fuorviante. La proporzionalità non consiste nel confrontare automaticamente due numeri, per esempio “dieci civili” contro “un obiettivo militare di valore cinque”. Il comandante deve effettuare una valutazione prospettica sulla base delle informazioni ragionevolmente disponibili, tenendo conto della natura e dell’importanza del vantaggio militare previsto e dei danni incidentali prevedibili. Un AI-DSS può aiutare a identificare edifici, stimare presenze civili o simulare gli effetti di una munizione, ma non per questo sostituisce il giudizio giuridico richiesto alla persona che pianifica o decide l’attacco. Il CICR insiste quindi sul fatto che l’output algoritmico possa informare tali decisioni, ma non sostituire il giudizio umano che il DIU richiede.

Il terzo pilastro è quello delle precauzioni.

L’articolo 57 del Protocollo I impone a chi pianifica o decide un attacco, tra l’altro, di fare tutto ciò che è praticamente possibile per verificare che il bersaglio sia un obiettivo militare, scegliere mezzi e metodi di attacco che evitino o minimizzino il danno civile, valutare la proporzionalità e annullare o sospendere l’attacco se emerge che il bersaglio non è militare o che il danno previsto sarebbe eccessivo. Le regole consuetudinarie 15-19 sviluppano obblighi analoghi: “constant care”, verifica del bersaglio, scelta dei mezzi e metodi, valutazione degli effetti e controllo durante l’esecuzione dell’attacco.

È qui che va precisata la questione del controllo umano.

Il DIU vigente non contiene una norma generale formulata nei termini: “ogni sistema di AI deve essere sottoposto a meaningful human control”. Presentare questa espressione come se fosse già una disposizione convenzionale universale sarebbe impreciso. Esistono però obblighi giuridici che devono essere adempiuti da parti e persone: verificare, valutare, scegliere, prendere precauzioni, controllare l’esecuzione e, quando necessario, interrompere un attacco. Il CICR ne ricava l’esigenza pratica e giuridica di preservare sufficiente giudizio e controllo umano affinché queste valutazioni possano essere effettivamente compiute. Per i sistemi autonomi propone inoltre che tale esigenza venga rafforzata attraverso nuove regole internazionali vincolanti. Un sistema che agisse in modo talmente imprevedibile da impedire all’operatore di anticiparne e limitarne ragionevolmente gli effetti porrebbe un problema ancora più radicale: potrebbe diventare un mezzo di guerra indiscriminato. Per questo il CICR propone di proibire espressamente le armi autonome i cui effetti non possano essere sufficientemente compresi, previsti e spiegati. È importante distinguere, però, il diritto esistente dalla proposta normativa: il divieto degli attacchi e delle armi intrinsecamente indiscriminati deriva già dal DIU, mentre il CICR chiede un nuovo trattato che traduca questo limite in una proibizione specificamente formulata per determinate categorie di armi autonome.

A ciò si aggiungono i limiti generali sui mezzi di guerra.

L’articolo 23(e) del Regolamento dell’Aia e l’articolo 35, paragrafo 2, del Protocollo I vietano mezzi di guerra di natura tale da causare mali superflui o sofferenze inutili. L’AI non modifica neppure questa regola: incorporare un algoritmo in un’arma non rende lecita un’arma che sarebbe altrimenti vietata.

Infine, esiste un obbligo cruciale prima del campo di battaglia. L’articolo 36 del Protocollo I impone agli Stati parte, nello studio, sviluppo, acquisizione o adozione di una nuova arma, di un nuovo mezzo o metodo di guerra, di determinare se il suo impiego sia vietato dal Protocollo o da altre norme di diritto internazionale applicabili allo Stato.

Un’arma autonoma nuova deve quindi essere sottoposta a questa revisione giuridica.

Per gli AI-DSS che non costituiscono di per sé un’arma o un metodo di guerra, l’applicazione diretta dell’articolo 36 dipenderà dalle funzioni svolte e dal rapporto con il sistema d’arma; il CICR raccomanda comunque, almeno come politica e buona prassi, di estendere una rigorosa revisione giuridica anche agli AI-DSS che incidono sulle decisioni relative all’uso della forza.

Ma chi risponde quando l’AI sbaglia? Uno dei rischi più discussi è il cosiddetto accountability gap: se un sistema complesso produce un risultato inatteso, chi ne risponde? Il programmatore? Il produttore? Il comandante? L’operatore? Lo Stato? Dal punto di vista del diritto internazionale, la prima risposta è importante: la macchina non sostituisce il soggetto responsabile. Sul piano della responsabilità internazionale dello Stato, un sistema di AI utilizzato dalle forze armate rimane uno strumento attraverso il quale agiscono organi statali. Gli articoli sulla responsabilità degli Stati elaborati dalla Commissione del diritto internazionale stabiliscono che il comportamento degli organi dello Stato è attribuibile allo Stato e che vi è illecito internazionale quando una condotta attribuibile viola un obbligo internazionale. L’uso di un software acquistato da una società privata non consente quindi allo Stato di rispondere semplicemente: “è stato l’algoritmo”.

Quando il comportamento delle proprie forze viola il DIU, l’interposizione della tecnologia non elimina l’attribuzione.

Anche un comportamento ultra vires di un organo statale può, alle condizioni previste dal diritto sulla responsabilità internazionale, essere attribuito allo Stato. E quando sussiste una violazione, le conseguenze possono comprendere la cessazione della condotta, garanzie di non ripetizione quando appropriate e la piena riparazione del pregiudizio causato.

Diversa è la responsabilità penale individuale, perché un errore tecnologico non costituisce automaticamente un crimine di guerra.

Lo Statuto di Roma attribuisce responsabilità penale a persone fisiche, non a software. Gli articoli 25 e 30 richiedono inoltre di considerare il modo di partecipazione al crimine e l’elemento soggettivo previsto dallo Statuto. L’articolo 8 contempla, tra gli altri, il crimine di dirigere intenzionalmente attacchi contro civili o beni civili e, nei conflitti armati internazionali, determinate forme di attacco manifestamente sproporzionato. Un falso positivo prodotto da un algoritmo può quindi contribuire materialmente a un attacco illecito senza che ciò significhi automaticamente che l’operatore abbia commesso un crimine di guerra: devono essere provati tutti gli elementi del reato, compreso l’elemento mentale richiesto.

L’AI può però rendere particolarmente importante la responsabilità di comando.

L’articolo 28 dello Statuto di Roma prevede, alle condizioni indicate dalla norma, la responsabilità del comandante militare che eserciti comando e controllo effettivi sulle forze, sapeva o, in ragione delle circostanze, avrebbe dovuto sapere che esse stavano commettendo o stavano per commettere crimini e non abbia adottato tutte le misure necessarie e ragionevoli di sua competenza per impedirli, reprimerli o sottoporli alle autorità competenti. Un algoritmo non è naturalmente una “forza subordinata” alla quale applicare autonomamente l’articolo 28. Ma l’uso di sistemi automatizzati può diventare rilevante nel valutare la condotta del comandante. Immaginiamo che un AI-DSS produca ripetutamente identificazioni errate di civili, che gli incidenti vengano segnalati e che il comando continui a utilizzare il sistema senza verifiche, limiti o correzioni. L’esistenza dell’AI non eliminerebbe la domanda sulla condotta umana; potrebbe, al contrario, rendere centrali questioni come ciò che il comandante sapeva, quali anomalie erano state segnalate e quali misure ragionevoli avrebbe potuto adottare. Questa è un’applicazione ipotetica dei criteri giuridici esistenti, non un caso già deciso dalla Corte penale internazionale sull’uso dell’AI.

La distinzione tra responsabilità statale e penale è quindi decisiva.

Può sussistere un illecito internazionale dello Stato senza che sia possibile provare un crimine di guerra individuale. E, viceversa, l’assenza di una persona penalmente responsabile per uno specifico malfunzionamento non trasforma l’attacco in un atto lecito. La responsabilità internazionale dello Stato e la responsabilità penale individuale rispondono a logiche, condizioni e standard differenti.

L’attrattiva militare dell’AI è evidente. Un essere umano non può analizzare contemporaneamente migliaia di ore di video, milioni di immagini satellitari, segnali elettronici, dati radar e comunicazioni. Un sistema informatico può invece correlare enormi quantità di dati in pochi secondi. Il case study del CICR sottolinea proprio questo possibile vantaggio: maggiore rapidità, migliore gestione delle informazioni e possibilità di sostenere decisioni in ambienti complessi e caratterizzati da tempi molto ridotti.

Ma la stessa velocità può trasformare un errore piccolo in un errore su vasta scala.

Un primo problema è la cosiddetta brittleness, la fragilità dei modelli fuori dalle condizioni nelle quali sono stati progettati e addestrati. Un algoritmo può ottenere risultati eccellenti nei test e degradarsi drasticamente davanti a una situazione leggermente diversa: una telecamera diversa, fumo, neve, oscurità, un’angolazione inattesa, un ambiente urbano differente, mezzi modificati o comportamenti che non erano presenti nei dati di addestramento. Il case study del CICR richiama proprio il rischio che sistemi apparentemente affidabili non riescano a generalizzare al di fuori di un insieme ristretto di condizioni.

In guerra questo problema è aggravato dal fatto che l’ambiente è avversariale: il nemico cerca deliberatamente di ingannare il sistema. Dati possono essere falsificati, sensori disturbati, immagini manipolate, segnali spoofati e vulnerabilità informatiche sfruttate. Anche i dataset utilizzati per addestrare un modello possono essere oggetto di data poisoning. Il CICR evidenzia che proprio questa combinazione di informazioni incomplete, inaffidabili e intenzionalmente manipolate rappresenta uno dei principali problemi per l’AI militare. Un secondo problema sono i bias. Se i dati di addestramento non rappresentano adeguatamente la popolazione, il territorio o le condizioni operative, le prestazioni possono variare sistematicamente tra categorie diverse. Un sistema potrebbe, per esempio, rilevare più facilmente alcune persone di altre o interpretare un comportamento culturalmente normale come indicatore di attività ostile. Il CICR ha osservato che un sistema addestrato senza adeguata rappresentazione di determinate categorie potrebbe persino non rilevare alcuni civili, con conseguenze dirette sulla stima dei danni incidentali.

Il problema giuridico non consiste semplicemente nel fatto che “l’algoritmo è biased”. La domanda è se la parte che lo utilizza abbia adottato le precauzioni concretamente possibili per conoscere, testare e mitigare quel limite. Se un determinato sistema è noto per avere prestazioni inadeguate nel contesto operativo nel quale viene impiegato, affidarsi alla sua indicazione senza ulteriori verifiche può entrare in tensione con l’obbligo di verificare il bersaglio e con il dovere di costante attenzione verso civili e beni civili.

Un terzo rischio non è nella macchina, ma nell’essere umano: l’automation bias. Quando un sistema sofisticato restituisce un risultato con apparente precisione (es: “92% di probabilità che questo edificio sia un posto di comando”) l’utente può essere portato ad attribuirgli un’autorità superiore a quella che realmente merita. Il rischio aumenta quando il tempo è poco, gli output sono numerosi e il funzionamento interno del sistema non è facilmente comprensibile. Il comandante rischia così di diventare un semplice timbro umano apposto su una decisione sostanzialmente prodotta dalla macchina.

Da questo punto di vista, l’AI può produrre un paradosso. Viene introdotta per accelerare il ciclo decisionale, ma il DIU può richiedere in alcuni momenti di rallentarlo: cercare una seconda fonte, controllare un dato, attendere che la situazione diventi più chiara, aggiornare la stima della presenza civile o sospendere l’attacco. Il CICR ha richiamato l’importanza di preservare tempo e spazio per la deliberazione umana anche nei processi assistiti dall’AI, compresa quella “pazienza tattica” che permette di acquisire informazioni migliori prima di usare la forza.

Immaginiamo, per esempio, un AI-DSS che segnali un edificio come probabile centro di comando sulla base della presenza ricorrente di determinate automobili, traffico radio e movimenti notturni. Il sistema non ha però accesso all’informazione che l’edificio ospita anche una clinica civile. Se il comandante accetta l’indicazione senza confrontarla con le altre fonti disponibili, il problema non è soltanto l’errore dell’algoritmo: è il possibile mancato adempimento dell’obbligo umano di verificare e valutare tutte le informazioni ragionevolmente disponibili prima dell’attacco. È un esempio ipotetico, ma illustra il rapporto tra errore tecnico e obbligo giuridico.

Pensiamo poi a un drone autonomo programmato per colpire determinati veicoli militari sulla base di forma, velocità e firma termica. In un ambiente desertico isolato, con bersagli chiaramente identificabili e assenza di civili, il margine di prevedibilità potrebbe essere relativamente elevato. Lo stesso sistema utilizzato in una città, tra ambulanze, autobus e veicoli civili, comporterebbe problemi radicalmente diversi. La liceità non dipende soltanto dal software: dipende dal bersaglio, dall’ambiente, dalla durata dell’impiego, dall’area geografica, dalla presenza civile e dalla possibilità di intervento umano. È proprio per questo che il CICR propone di limitare, per le armi autonome non proibite, tipi di bersaglio, durata, estensione geografica, scala e situazioni d’uso.

Assicurare il rispetto del DIU non significa quindi aggiungere un pulsante “human in the loop” alla fine del processo. La conformità deve essere costruita lungo l’intero ciclo di vita del sistema: progettazione, acquisizione, addestramento, test, integrazione operativa, impiego, aggiornamento e dismissione. La stessa Assemblea generale delle Nazioni Unite ha riconosciuto che le questioni relative all’AI militare devono essere affrontate lungo tutto il ciclo di vita, e il CICR raccomanda un approccio analogo.

Il primo strumento è una governance chiara.

Prima dell’impiego devono essere definiti lo scopo del sistema, le funzioni consentite, il tipo di decisioni che può supportare, i contesti nei quali è autorizzato e quelli nei quali non lo è. Deve essere chiaro chi è responsabile della validazione tecnica, chi effettua la revisione giuridica, chi autorizza l’impiego e chi ha l’autorità e il dovere di sospenderlo quando le condizioni cambiano. Il principio di una “responsible human chain of command and control” compare anche nella Political Declaration statunitense del 2023 riportata nel case study del CICR.

La revisione giuridica deve poi dialogare con quella tecnica.

Sapere che un modello ha un’accuratezza media del 97 per cento serve a poco se non si sa su quali dati è stato testato, quale tipo di errore rappresenti il restante 3 per cento, come si comporti in condizioni degradate e se l’errore sia distribuito uniformemente. La domanda giuridicamente rilevante non è soltanto “quanto è accurato?”, ma “è sufficientemente prevedibile e affidabile per questa specifica funzione, contro questo tipo di bersaglio e in questo ambiente?”.

Per questo il CICR raccomanda test, evaluation, verification and validation rigorosi; qualità e affidabilità dei dati; mitigazione del bias; coinvolgimento umano significativo; formazione degli operatori anche sull’automation bias; e revisioni dopo l’impiego. I test dovrebbero includere non solo le condizioni ottimali, ma anche condizioni degradate e attacchi deliberati: perdita delle comunicazioni, disturbi ai sensori, dati contraddittori, falsi bersagli, immagini insolite, cambiamenti climatici e ambientali, spoofing, cyberattacchi e scenari non presenti nei dati di addestramento. Un sistema che continua ad apprendere o che viene aggiornato durante la propria vita operativa richiede inoltre particolare attenzione: una modifica sostanziale può cambiare il comportamento che era stato inizialmente testato e sottoposto a revisione giuridica. Il CICR raccomanda quindi un approccio di valutazione che non si esaurisca nel momento dell’acquisizione.

Le regole d’ingaggio possono tradurre questi limiti in condizioni operative concrete. Per un sistema autonomo potrebbero specificare quali categorie di bersagli siano ammesse, in quale area, per quanto tempo, in presenza di quali livelli di popolazione civile e con quali condizioni di interruzione. Per un AI-DSS possono stabilire che determinate raccomandazioni non siano mai sufficienti da sole per autorizzare un attacco, che debbano essere confrontate con fonti indipendenti o che una decisione non possa essere presa se il sistema segnala un livello insufficiente di affidabilità. Questi esempi sono misure di governance e non prescrizioni testuali universali del DIU; servono a trasformare gli obblighi di distinzione, verifica e precauzione in procedure concretamente applicabili.

La catena di comando deve inoltre evitare che la tecnologia diluisca la responsabilità. Un operatore deve sapere quale parte dell’informazione proviene dall’AI, quali sono i limiti dichiarati del sistema e in quali circostanze deve contestarne il risultato. Chi prende la decisione deve avere il tempo, la formazione e l’autorità necessari per dire no alla macchina. Un controllo umano puramente nominale, esercitato da una persona che non comprende l’output, non può verificarlo o dispone di pochi secondi per confermare centinaia di raccomandazioni, rischia di essere poco più di una finzione organizzativa.

Servono infine tracciabilità e revisione ex post.

Registrare quale versione del modello era in uso, quali dati ha ricevuto, quale output ha prodotto, quali informazioni erano disponibili al comandante e chi ha autorizzato l’azione può essere essenziale tanto per correggere il sistema quanto per ricostruire eventuali violazioni. L’after-action review non deve limitarsi a chiedere se l’obiettivo sia stato distrutto: deve verificare anche se il sistema abbia funzionato come previsto, se siano emersi nuovi bias, falsi positivi o condizioni nelle quali l’affidabilità diminuisce. Il CICR include espressamente le revisioni successive all’azione tra le misure raccomandate per gli AI-DSS.

Il problema non è soltanto giuridico: rispettare il DIU è indispensabile, ma non esaurisce il problema. Le armi autonome sollevano una domanda più profonda: vogliamo che una macchina determini autonomamente quale essere umano sarà colpito?

Per il CICR, l’automazione della forza contro persone non pone soltanto difficoltà di distinzione e prevedibilità. Tocca la dignità umana e il principio di umanità. Trasformare una persona in una combinazione di caratteristiche rilevate da sensori (altezza, movimento, firma termica, abbigliamento, comportamento) significa affidare a un processo meccanico una decisione con conseguenze irreversibili sulla vita umana. Per questo il CICR propone che le armi autonome progettate o utilizzate per applicare forza direttamente contro persone siano vietate, anche sulla base di considerazioni etiche.

Anche qui è fondamentale distinguere lex lata e lex ferenda: ciò che il diritto già vieta e ciò che il CICR e altri attori chiedono che venga vietato in futuro. Non esiste ad oggi un trattato universale specificamente dedicato ai sistemi d’arma autonomi che vieti in modo generale ogni sistema capace di selezionare e attaccare bersagli senza intervento umano. Esistono invece le regole generali del DIU, che si applicano pienamente, e un processo internazionale volto a elaborare ulteriori limiti.

Il CICR propone un futuro strumento giuridicamente vincolante costruito essenzialmente su due livelli: proibire i sistemi autonomi imprevedibili e quelli progettati o utilizzati per attaccare direttamente persone; regolare rigorosamente gli altri, attraverso limiti sui bersagli, sull’area geografica, sulla durata, sulla scala e sulle situazioni di impiego, oltre a requisiti di interazione uomo-macchina che permettano supervisione, intervento e disattivazione. Il Segretario generale delle Nazioni Unite ha anch’egli chiesto la conclusione di un accordo giuridicamente vincolante. Il negoziato, tuttavia, non è concluso. Il Gruppo di esperti governativi sui LAWS nell’ambito della Convenzione su certe armi convenzionali si è riunito dal 2 al 6 marzo 2026 e sta lavorando su un testo che affronta, tra gli altri elementi, la caratterizzazione dei sistemi, l’applicazione del DIU, possibili divieti e regolamentazioni, misure di conformità e accountability. Una seconda sessione è prevista dal 31 agosto al 4 settembre 2026; la settima Conferenza di revisione della Convenzione è prevista dal 16 al 20 novembre 2026. Pertanto, alla data di questo articolo, l’esito del processo non è ancora determinato.

Parallelamente, l’Assemblea generale delle Nazioni Unite ha adottato il 1° dicembre 2025 la risoluzione 80/58 sull’intelligenza artificiale nel dominio militare, riaffermando l’applicabilità del diritto internazionale lungo il ciclo di vita delle capacità di AI e richiamando la necessità di un impiego responsabile, sicuro, affidabile, human-centric e conforme al diritto internazionale. Si tratta di una risoluzione dell’Assemblea generale, non di un trattato che introduca autonomamente nuovi divieti vincolanti.

La sfida, in definitiva, è evitare un equivoco molto semplice: che più dati significhino necessariamente più conoscenza, più velocità significhi necessariamente decisioni migliori e maggiore precisione tecnica significhi automaticamente maggiore conformità al DIU.

L’AI può anche avere effetti positivi. Può aiutare a identificare più rapidamente la presenza di civili, elaborare informazioni che un essere umano non riuscirebbe a processare in tempo, suggerire armi meno distruttive o individuare una traiettoria che riduca il rischio per la popolazione. Il CICR riconosce espressamente queste possibilità.

Ma nessun algoritmo può correggere una dottrina di targeting già incompatibile con il diritto. Se il criterio utilizzato per definire un obiettivo è giuridicamente errato, applicarlo con l’AI significa semplicemente riprodurre l’errore più velocemente, più spesso e su scala maggiore.

Forse è questo il punto essenziale per il DIU.

La guerra è sempre stata trasformata dalle tecnologie. Il diritto internazionale umanitario non richiede che gli eserciti rinuncino all’innovazione. Richiede però che l’innovazione rimanga entro un limite fondamentale: la tecnologia deve essere uno strumento attraverso il quale gli esseri umani rispettano il diritto, non un meccanismo attraverso il quale gli esseri umani si sottraggono al giudizio e alla responsabilità che il diritto impone loro.

Il vero interrogativo, quindi, non è se l’intelligenza artificiale diventerà abbastanza sofisticata da partecipare alle decisioni militari. In molti casi lo sta già facendo.

La domanda è un’altra: quanto della decisione di usare la forza siamo disposti ad affidare a una macchina senza perdere, insieme al controllo, anche la capacità di applicare il diritto e di rispondere delle conseguenze?

Fonti

Rispondi