Umanità

·

Dal veleno all’algoritmo: quando la guerra sfugge al controllo umano

Per secoli il veleno ha rappresentato una delle forme di violenza bellica più difficili da conciliare con le regole della guerra. Non soltanto perché può uccidere, ma perché può agire in modo insidioso, propagare i propri effetti oltre il bersaglio immediato e sottrarre a chi lo impiega un controllo effettivo sulle conseguenze.

Oggi una questione molto diversa pone una domanda sorprendentemente simile: che cosa accade quando un sistema d’arma dotato di intelligenza artificiale è in grado di selezionare e ingaggiare autonomamente i propri bersagli?

Il veleno e un sistema d’arma autonomo non sono giuridicamente assimilabili. Il primo è oggetto di un divieto consolidato; il secondo non è, in quanto tale, attualmente vietato dal diritto internazionale umanitario vigente. Il collegamento riguarda piuttosto il problema che entrambi possono porre: l’impiego di un mezzo di guerra i cui effetti possono svilupparsi oltre la capacità dell’essere umano di determinarli, limitarli o interromperli efficacemente.

È una questione antica nella storia del diritto internazionale umanitario: la capacità tecnica di utilizzare un mezzo di guerra non comporta automaticamente il diritto di utilizzarlo.

Il divieto del veleno compare molto presto nella moderna codificazione delle leggi della guerra. Nel Lieber Code del 1863, promulgato da Abraham Lincoln per disciplinare la condotta dell’esercito dell’Unione durante la guerra civile americana, l’articolo 70 dichiarava completamente escluso l’uso del veleno, diretto contro pozzi, alimenti o armi. Lo stesso testo precisava che la necessità militare non poteva giustificarne l’impiego. Il Lieber Code era però una regolamentazione militare nazionale, non un trattato internazionale.

Il passaggio al diritto internazionale avvenne con i Regolamenti dell’Aia del 1899 e del 1907. L’articolo 23 del Regolamento del 1907 vietò espressamente di «impiegare veleno o armi avvelenate», collocando questa proibizione tra i limiti fondamentali ai mezzi e ai metodi con cui può essere combattuta una guerra.

Oggi il divieto di utilizzare veleno o armi avvelenate è considerato dal CICR una norma di diritto internazionale umanitario consuetudinario applicabile sia nei conflitti armati internazionali sia in quelli non internazionali.

Questo divieto non deve però essere confuso con quello delle armi chimiche, anche se le due discipline possono sovrapporsi. Dopo l’impiego massiccio dei gas nella Prima guerra mondiale, il Protocollo di Ginevra del 1925 vietò l’uso in guerra di gas asfissianti, velenosi o altri gas e dei metodi di guerra batteriologici. La Convenzione sulle armi chimiche del 1993 costruì poi un regime molto più ampio, vietando agli Stati parte anche sviluppo, produzione, acquisizione, accumulo e trasferimento delle armi chimiche.

Dietro questa evoluzione esiste un principio più generale. La guerra consente l’impiego della forza, ma non attribuisce alle parti una libertà illimitata nella scelta dei mezzi e dei metodi di combattimento.

La Dichiarazione di San Pietroburgo del 1868 aveva già espresso questa logica vietando determinati proiettili esplosivi. La questione non era soltanto stabilire se un’arma fosse efficace, ma chiedersi se le sofferenze provocate fossero giustificate dallo scopo militare perseguito. Il I Protocollo aggiuntivo del 1977 avrebbe poi codificato espressamente il principio secondo cui il diritto delle parti di scegliere mezzi e metodi di guerra non è illimitato.

È proprio questa logica che rende interessante il confronto con i moderni sistemi d’arma dotati di intelligenza artificiale e autonomia nella selezione dei bersagli.

Intelligenza artificiale e autonomia non sono sinonimi. Non ogni sistema militare che utilizza AI è un’arma autonoma e un sistema autonomo non deve necessariamente utilizzare le forme più sofisticate di intelligenza artificiale. Il CICR descrive generalmente come sistema d’arma autonomo un sistema che, una volta attivato, può selezionare e ingaggiare uno o più bersagli senza un ulteriore intervento umano.

La differenza rispetto alle armi tradizionali è importante. Quando un soldato spara contro una persona, o un operatore autorizza un attacco contro un edificio, esiste normalmente un soggetto umano che individua quello specifico bersaglio e decide di impiegare la forza contro di esso. Con un sistema autonomo, invece, l’essere umano può attivare un’arma definendo un’area, un periodo di funzionamento e determinate caratteristiche del bersaglio; sarà poi il sistema, sulla base dei dati raccolti dai propri sensori, a determinare quale specifica persona o oggetto soddisfi quei criteri e debba essere colpito.

Il problema non è quindi soltanto quanto un algoritmo sia “intelligente”. La questione giuridicamente decisiva è quanto controllo rimanga all’essere umano sulle conseguenze concrete dell’uso della forza.

È qui che il parallelismo con il veleno acquista significato.

Il veleno è stato progressivamente escluso dalla guerra anche perché il suo impiego può creare effetti difficili da confinare alla persona o all’obiettivo contro cui viene inizialmente utilizzato. Una volta contaminata un’acqua, un alimento o un ambiente, la catena degli effetti può proseguire indipendentemente da chi ha dato origine all’azione.

Un’arma autonoma produce ovviamente effetti di natura completamente diversa. Ma, quando dispone di un elevato grado di autonomia, può verificarsi un problema strutturalmente analogo: l’essere umano stabilisce le condizioni iniziali, mentre la sequenza concreta delle decisioni che conducono all’applicazione della forza viene successivamente determinata dal sistema.

In entrambi i casi, quindi, diventa essenziale interrogarsi sulla possibilità di prevedere, circoscrivere e interrompere gli effetti prodotti. Questa esigenza è particolarmente evidente quando il sistema autonomo viene utilizzato contro persone.

Il diritto internazionale umanitario impone di distinguere in ogni momento tra civili e combattenti e tra beni civili e obiettivi militari. Ma queste qualificazioni non dipendono necessariamente da caratteristiche fisiche facilmente riconoscibili da un sensore. Una persona che porta un’arma potrebbe essere un combattente, ma in determinate circostanze potrebbe anche essere un civile. Un veicolo dello stesso modello può costituire un obiettivo militare in una situazione e un bene civile in un’altra.

Il DIU richiede inoltre valutazioni di proporzionalità e precauzione. Un attacco deve essere annullato o sospeso quando è prevedibile che provochi incidentalmente perdite civili o danni a beni civili eccessivi rispetto al vantaggio militare concreto e diretto previsto. Chi pianifica o decide un attacco deve inoltre adottare tutte le precauzioni concretamente possibili per verificarne l’obiettivo e ridurre il danno alla popolazione civile.

Sono valutazioni fortemente dipendenti dal contesto.

Per questo il CICR sottolinea un principio essenziale: gli obblighi del DIU rimangono in capo agli esseri umani. Non è possibile trasferire a un algoritmo la responsabilità giuridica per il rispetto della distinzione, della proporzionalità o delle precauzioni.

Ciò non significa che il diritto vigente vieti automaticamente qualsiasi sistema autonomo. Significa invece che un sistema può essere utilizzato soltanto in condizioni nelle quali i suoi effetti possano essere sufficientemente compresi, previsti e limitati da chi decide di impiegarlo.

Un sistema progettato per colpire esclusivamente determinati oggetti militari in un’area circoscritta, per un periodo limitato e con possibilità di intervento umano pone problemi diversi da un sistema lasciato operare per lungo tempo in un ambiente urbano, incaricato di selezionare autonomamente persone sulla base di classificazioni algoritmiche.

La prevedibilità diventa così non soltanto una caratteristica tecnica, ma una componente della valutazione giuridica.

Il DIU possiede già uno strumento concepito per affrontare esattamente questo problema. L’articolo 36 del I Protocollo aggiuntivo del 1977 impone agli Stati parte, nello studio, sviluppo, acquisizione o adozione di una nuova arma o di un nuovo mezzo o metodo di guerra, di verificare se il suo impiego sia vietato dal diritto internazionale applicabile.

Una legal review di un sistema basato sull’intelligenza artificiale non può quindi limitarsi a domandare se esista un trattato che proibisca espressamente “l’AI militare”. Deve verificare se quella tecnologia possa essere utilizzata conformemente alle regole sulla distinzione, sul carattere indiscriminato delle armi, sulla proporzionalità, sulle precauzioni e sugli altri limiti applicabili ai mezzi e metodi di guerra.

È qui che il confronto storico diventa particolarmente utile. Il veleno e l’algoritmo rappresentano due modi completamente diversi attraverso i quali la violenza può allontanarsi dal controllo umano immediato. Nel primo caso il problema deriva dalla natura del mezzo: una volta liberato, il veleno può continuare ad agire e a produrre effetti che chi lo ha impiegato non controlla più direttamente. Nel secondo il problema può derivare dalla delega della selezione del bersaglio: l’essere umano attiva il sistema, ma potrebbe non determinare direttamente quale specifica persona verrà individuata e colpita.

Al momento il diritto non tratta le due situazioni nello stesso modo. Il veleno è vietato, i sistemi d’arma autonomi sono invece sottoposti alle regole generali del DIU e sono al centro di un processo internazionale volto a stabilire ulteriori limiti. Ma in entrambi i casi emerge la stessa preoccupazione fondamentale: impedire che la sofferenza prodotta dalla guerra si espanda oltre ciò che gli esseri umani possono ragionevolmente prevedere e controllare.

Per questo il CICR sostiene da anni la necessità di nuove regole giuridicamente vincolanti sui sistemi d’arma autonomi. La sua posizione propone di vietare i sistemi i cui effetti non possano essere sufficientemente compresi, previsti e spiegati e quelli progettati o utilizzati per applicare la forza direttamente contro persone; per gli altri sistemi autonomi chiede restrizioni volte a preservare un effettivo controllo umano sull’uso della forza.

Il diritto internazionale umanitario non nasce per arrestare l’innovazione tecnologica. Nasce per stabilire fin dove l’innovazione possa essere utilizzata nella guerra. Nel XIX secolo la domanda riguardava veleno, proiettili esplosivi e nuove sostanze chimiche. Oggi riguarda anche sensori, algoritmi e sistemi capaci di selezionare autonomamente un bersaglio. Cambia la tecnologia, ma resta una delle domande più antiche del diritto della guerra: quanto controllo deve conservare l’essere umano sulla violenza che decide di liberare?

La storia del DIU suggerisce una risposta precisa: quando un mezzo rischia di ampliare la sofferenza oltre la capacità umana di prevederla e limitarla, la sua efficacia militare non può essere l’unico criterio per stabilirne la liceità.

Fonti

Rispondi