robot
Trappola etica per il robot: non sa chi salvare
Art. inviato in privato da Francesco Melis, 03\10\2014, h. 12.56.

Da Repubblica del 3 ottobre 2014

http://www.repubblica.it/scienze/2014/09/29/news/il_robot_e_la_trappola_etica_la_dura_scelta_di_chi_salvare-96903405/?ref=HRERO-1
In un esperimento del Bristol Robotics Laboratory, un automa viene messo nella situazione di dover 
scegliere chi proteggere tra due automi "in pericolo" nello stesso luogo e momento. A causa 
dell'indecisione, spesso lascia "morire" entrambi. Secondo il professor Winfield che ha condotto la 
ricerca: "quando riusciremo a far acquisire alle macchine la capacit, propria degli umani, di 
prevedere le conseguenze di alcune azioni, allora l'intelligenza artificiale far il vero salto di 
qualit"
di ELIS VIETTONE

Trappola etica per il robot: non sa chi salvare
RIUSCIR mai un robot a compiere scelte difficili dal punto di vista etico? L'esperimento condotto 
dal professor Alan Winfield del Bristol Robotics Laboratory mostra l'incertezza di un automa nel 
decidere per conto proprio, anche se le sue reazioni sono diverse da un caso all'altro. Winfield e 
il suo team costruiscono "una trappola etica": in uno spazio limitato simulano che ci sia un buco e 
programmano un robot affinch impedisca a un altro automa, che rappresenta un essere umano da 
salvare, di caderci.
In questa prima fase il robot riesce nel suo compito e, appena l'altro automa si avvicina all'area 
del "pericolo", interviene e lo spinge via. Gi negli Anni 40 Isaac Asimov, il padre della 
fantascienza, aveva teorizzato nelle sue tre leggi della robotica un codice comportamentale per 
queste macchine. Nella prima sosteneva che "un robot non deve fare del male a un essere umano o, 
attraverso l'inazione, permettere che un essere umano si faccia male". Nel caso in esame questo 
principio viene rispettato.
Le cose cambiano quando nell'esperimento viene aggiunto un terzo robot, che si sposta nella stessa 
direzione e alla stessa velocit del primo. Il "salvatore" deve quindi ora raggiungerli entrambi 
per metterli fuori pericolo, ma il tempo che ha a disposizione  limitato e quindi l'operazione non 
 cos semplice. Su 33 prove, in alcuni casi riesce a salvarne uno, lasciando "morire" l'altro; in 
due occasioni riesce a raggiungerli entrambi, ma in ben 14 simulazioni il robot  troppo lento nel 
decidere, e non riesce a salvare nessuno dei due. "Ci sono due ragioni per cui ogni test  
leggermente diverso dagli altri", spiega Winfield. "Innanzitutto diamo ai robot 'in pericolo' delle 
indicazioni di partenza lievemente distinte, e in secondo luogo perch i robot sono macchine reali, 
con sensori, motori e ruote imperfetti. Voglio sottolineare che il robot non ha memoria da un 
esperimento all'altro: non c' apprendimento dalla pratica".
"Un tempo sostenevo che un robot non fosse in grado di prendere decisioni per conto proprio, sulla 
base di principi etici", prosegue il professore, "oggi la mia risposta : non ne ho idea. Faccio un 
esempio: sapete perch se vediamo un uomo che sta per cadere in un precipizio interveniamo per 
metterlo al riparo dal pericolo? Perch abbiamo quella innata capacit di prevedere le conseguenze 
delle azioni di un altro essere", conclude Winfield, "e questa capacit, se acquisita dall'automa, 
segner la differenza nello sviluppo dell'intelligenza artificiale".
Gli scenari offerti dai numerosi impieghi di questi robot possono essere i pi vari se, come 
sostiene il professore di robotica Rodney Brooks del Mit di Boston, "entro al massimo 50 anni il 
nostro mondo sar popolato da miriadi di robot, ed esattamente come  successo per la diffusione 
dei pc, ci sar l'esplosione dell'impiego di automi".
Facciamo allora un passo indietro e consideriamo, ad esempio, gli standard di salvataggio del 
soccorso alpino. La prima regola per questi operatori  non mettere mai a repentaglio la propria 
vita e quella del resto della squadra, per aiutare qualcuno che si trova gi a rischio. La seconda 
 - in una situazione concitata, senza tempo per agire - mettere prima in salvo la persona pi 
facile da recuperare e poi pensare agli altri: "In quei momenti dobbiamo essere cinici e 
considerare in fretta la situazione", spiega un alpino esperto di soccorso e recupero. "Quando si 
legge dei casi in cui la squadra di salvataggio  morta sul luogo dell'incidente significa che si  
disattesa la prima regola basilare. Dobbiamo agire in maniera fredda e razionale e cos facendo 
sappiamo di compiere il nostro dovere".
L'utilizzo di robot, la cui priorit sar sempre quella di sacrificare la propria esistenza per 
mettere in salvo quella di un uomo, apre quindi il terreno a questa e altre applicazioni in un 
futuro, forse, di "automi etici".

