Intelligenza Artificiale contro l’Uomo: come difendersi dalla “Rivolta delle Macchine”

Film come Terminator, Matrix e Battlestar Galactica ci hanno messo in guardia: un giorno, non molto lontano, le macchine dotate di intelligenza artificiale costruite dall’uomo potrebbero ribellarsi contro il suo stesso creatore. Ma questo scenario non è più solo una trama di fantascienza: ricercatori e militari studiano protocolli per difenderci da un'eventuale ribellione delle macchine.

 

Secondo alcuni esperti dell’Università di Cambridge, l’Intelligenza Artificiale potrebbe essere uno dei fattori più determinanti per l’estinzione della razza umana.
E’ possibile che uno scenario del genere sia plausibile? L’uomo può difendersi dalla sua stessa creatura?
Esiste un meccanismo tipo le tre Leggi della Robotica immaginate da Isaac Asimov, che possa difenderci da un’eventuale ammutinamento degli elettrodomestici intelligenti?
I ricercatori di Cambridge propongono l’istituzione di un Centro Studi sul Rischio Esistenziale (CSER), con l’obiettivo specifico di analizzare i possibili rischi per la sopravvivenza della specie umana legati agli sviluppi nel campo della tecnologia.
Le tecnologie robotiche infatti potrebbero compromettere la nostra posizione di esseri più intelligenti sul pianeta: le macchine potrebbero scalzarci dal nostro primato e non tener conto dei nostri interessi così come li intendiamo noi, mettendo addirittura a rischio la nostra esistenza.
L’inusuale centro di ricerca in questione metterà assieme uno scienziato, un filosofo e un ingegnere di software. “Ad un certo punto, in questo secolo o successivo, potremmo essere di fronte a uno dei grandi cambiamenti della storia umana, quando l’intelligenza sfuggirà ai vincoli della biologia”, ha spiegato Huw Price, professore di filosofia. “Non voglio dire che siamo in grado di prevederlo con certezza, nessuno è attualmente in grado di farlo, ma questo è il punto. Con così tanto in gioco, abbiamo bisogno di fare un lavoro migliore per comprendere i rischi potenzialmente catastrofici delle tecnologie”.
Gli scenari più apocalittici rimandano a opere come “Matrix”, “Terminator” o “2001, Odissea nello Spazio”, ma non è necessario evocare improbabili guerre tra uomini e macchine. Cosa succederebbe se, per esempio, le macchine senzienti decidessero di progredire ignorando le questioni ambientali, e riempissero l’atmosfera di veleni mortali?

I protocolli del Pentagono

Intanto, anche al Pentagono si ragiona sull’Apocalisse delle Macchine. L’esercito americano si pone la questione dei robo-soldati intelligenti mettendo in chiaro che i futuri sistemi d’arma robotici avranno sempre bisogno dell’autorizzazione di un umano prima di poter aprire il fuoco su un altro umano.
Il Dipartimento della Difesa promette (forse più a se stessa che al mondo) che le armi computerizzate saranno progettate in modo tale da avere sempre bisogno dell’autorizzazione umana per far fuoco sugli esseri umani.
La promessa arriva dopo un rapporto della Human Rights Watch nel quale si chiede un divieto internazionale per l’uso dei “robot killer”, che secondo l’organizzazione umanitaria, potrebbero essere messi in azione entro i prossimo 20 anni.
Nella direttiva 3000.09 si dice: “I sistemi d’arma semiautomatici devono essere progettati in modo tale che, in caso di comunicazione radio difficile o impossibile, il sistema non selezioni in autonomia i bersagli da colpire ma restino in attesa di istruzioni da parte di un operatore umano autorizzato”.
In verità, sistemi d’arma che siano in grado di decidere da soli il loro bersaglio già esistono. Il Sistema Gun Raytheon Phalanx, già in dotazione alle navi della marina militare statunitense, è in grado di individuare il fuoco nemico e distruggere autonomamente i proiettili in arrivo.
Oppure il famigerato X-37B, un aereo drone in grado di decollare e atterrare sulle portaerei, effettuare combattimenti in volo e rifornimento senza pilota.
Infine, in Corea del Sud, la Samsung ha realizzato un robot sentinella automatico munito di pistola che è in grado di individuare attività insolite, inseguire gli intrusi e, se autorizzato da un essere umano, ad aprire il fuoco.
Di fronte a questi sviluppo preoccupanti, la Human Rights Watch ha chiesto un patto internazionale che vieti assolutamente lo sviluppo, la produzione e l’uso di armi completamente automatiche. Il timore potrebbe essere che in un futuro non troppo lontano, un sistema d’arma automatizzato possa riconoscere come “nemico” il proprio creatore e cominciare una guerra senza quartiere nei confronti degli esseri umani. Quindi è meglio correre ai ripari!

http://www.ilnavigatorecurioso.it/2014/03/02/intelligenza-artificiale-contro-luomo-come-difendersi-dalla-rivolta-delle-macchine/