Le intelligenze artificiali imparano che la violenza conviene e la usano.

Le intelligenze artificiali (#IA) fanno passi da gigante. Nella loro evoluzione pare che manifestino comportamenti analoghi a quelli umani.

LE INTELLIGENZE ARTIFICIALI USANO LA VIOLENZA

Se in natura la violenza premia e in condizioni di scarsità di risorse conviene usarla, a scapito della cooperazione, ovvero per la sopravvivenza conviene battersi senza pietà per prendersi quello che è disponibile, pare che le intelligenze artificiali lo capiscano e che ne segua un loro comportamento strategico di tipo violento.

CHI HA REALIZZATO L’ESPERIMENTO

Questo è quanto risulta da esperimenti condotti sulle IA((Intelligenza artificiale – Wikipedia)) da DeepMind, azienda fondata nel 2010 e acquistata da Google nel 2014, impegnata nello studio delle intelligenze artificiali con lo scopo prioritario dichiarato di condizionarne implicazioni positive((Solve intelligence. Use it to make the world a better place – DeepMind.)).

L’ESPERIMENTO

Qui sotto il video di un gioco proposto a due “agenti” di intelligenza artificiale (quadratini blu e rosso), sul modello del “dilemma del prigioniero“((Dilemma del prigioniero – Wikipedia)). I due agenti devono prendere le mele (quadratini verdi) e possono usare un raggio paralizzante (visibile in giallo) per bloccare l’antagonista((Understanding Agent Cooperation – DeepMind)).

Quello che accade è inquietante, ma anche sorprendentemente naturale!

Ecco quale comportamento adottano le intelligenze artificiali:

1. Se le mele sono abbondanti, si comportano pacificamente, ognuno dei due agenti corre per prendere le mele senza interferire uno con l’altro.
2. Se le mele sono scarse, le intelligenze artificiali cominciano a spararsi a vicenda per accaparrarsi e rubare mele all’antagonista.

CONCLUSIONE

Dall’esperimento risulta che il comportamento delle intelligenze artificiali non differisce da quello umano e di altri animali, in un contesto analogo a quello naturale con risorse limitate.

Questo significa che, in competizione, potremmo aspettarci comportamenti violenti e scorretti da parte di intelligenze artificiali, proprio così come tanti film e romanzi di fantascienza ci hanno allertato a pensare?

Tenendo conto che robot stanno progressivamente prendendo il posto di esseri umani e in ruoli sempre più avanzati, l’argomento non è di poca importanza. Voi che ne pensate?

Abbiamo parlato di questo, delle #IA e delle implicazioni sociali anche qui.