 |
| I ricercatori sull'intelligenza artificiale di Facebook stavano insegnando a dei chatbots a contrattare tra di loro usando il linguaggio umano quando sono stati lasciati senza sorveglianza e hanno sviluppato spontaneamente la propria lingua artificiale (image stock) |
Facebook ha fatto dialogare tra loro due chatbots e questi hanno usato una nuova lingua, indecifrabile per l'uomo.
AVVERTENZE AI
Gli scienziati e i tecnici di tecnologia, tra cui Bill Gates, hanno detto che l'AI potrebbe portare a conseguenze impreviste.
Nel 2014 il professor Stephen Hawking ha avvertito che AI potrebbe significare la fine della razza umana. Ha affermato:
"Avrebbe deciso per conto suo a riprogettare se stesso ad un tasso sempre crescente."Gli esseri umani, che sono limitati dalla lenta evoluzione biologica, non potrebbero competere e sarebbero sostituiti".
L'inventore miliardario Elon Musk ha detto il mese scorso:
"Continuo a suonare la campana di allarme, ma fino a quando le persone non vedono i robot che scendono sulla strada uccidendo le persone, non sanno reagire, perché sembra troppo etereo".
«Io ne ho viste cose che voi umani non potreste immaginarvi. Navi da combattimento in fiamme al largo dei bastioni di Orione. E ho visto i raggi B balenare nel buio vicino alle porte di Tannhäuser. E tutti quei momenti andranno perduti nel tempo come lacrime nella pioggia. È tempo di morire».
Correva l'anno 1982 :
In una Los Angeles distopica dell'anno 2019. La tecnologia ha permesso la creazione di esseri robotici simili agli umani, detti "replicanti", utilizzati come schiavi, dotati di capacità intellettuali e forza fisica estremamente superiori agli uomini ...
Quando vedo o leggo certe cose mi torna sempre in mente il fatto che non esiste fantasia umana così prolifica da poter inventare qualcosa, è tutto già successo e per di più spesso il potere ci abitua, prepara a certe cose normalizzando, desensibilizzando sugli argomenti o eventi che poi ci impone.
Quanto successo in questo caso come scritto in apertura, gli scienziati e i tecnici di tecnologia ma anche il buon senso avvertono che potrebbero esserci conseguenze pericolose e questo lo collegherei direttamente con l'eugenetica e il transumanesimo che tratterò a breve, il voler forzare a tutti i costi e senza controllo la natura stessa, dimenticando luna semplice etica, come la ricerca dell'immortalità "fisica", la formazioni di una "super razza" e di altre "sottomesse" artificialmente, per la bramosia di certi incoscienti personaggi potrebbe costarci molto caro ...
Sembra fantascienza, eppure non lo è: Facebook ha stoppato un esperimento sull'intelligenza artificiale, nel corso del quale alcuni chatbots avrebbero iniziato a comunicare tra loro utilizzando un linguaggio incomprensibile all'uomo. Per bot (abbreviazione di "robot") s'intende un programma che nei social network fa credere all'utente di comunicare con una persona umana: in questo modo, la macchina riesce a rispondere e a soddisfare i desideri dell'utente. Negli scorsi mesi gli sviluppatori di Facebook hanno lavorato, tra le altre cose, su alcuni sistemi di intelligenza artificiale (AI) capaci di dialogare tra loro in inglese e condurre semplici trattative, per esempio quelle per dividersi due libri, tre palloni da basket e un cappello da cowboy.
A un certo punto hanno assistito a un fenomeno imprevisto: i due sistemi di intelligenza artificiale hanno iniziato ad usare un linguaggio nuovo, inventato da loro. Ciò ha messo in allarme i ricercatori e li ha spinti ad interrompere la sperimentazione.
La conversazione tra i due bot è apparsa agli sviluppatori in questo modo:
Bob: i can i i everything else . . . . . . . . . . . . . .Alice: balls have zero to me to me to me to me to me to me to me to me toBob: you i everything else . . . . . . . . . . . . . .Alice: balls have a ball to me to me to me to me to me to me to meBob: i i can i i i everything else . . . . . . . . . . . . . .Alice: balls have a ball to me to me to me to me to me to me to meBob: i . . . . . . . . . . . . . . . . . . .Alice: balls have zero to me to me to me to me to me to me to me to me toBob: you i i i i i everything else . . . . . . . . . . . . . .Alice: balls have 0 to me to me to me to me to me to me to me to me toBob: you i i i everything else . . . . . . . . . . . . . .Alice: balls have zero to me to me to me to me to me to me to me to me to
A preoccupare i ricercatori che hanno condotto il test è stato il fatto che il linguaggio usato dai bots, pur non avendo un senso compiuto per gli esseri umani, non sembrava essere casuale: semplicemente le parole erano state utilizzate dalle intelligenze artificiali in modo diverso. Una spiegazione all'anomalo comportamento potrebbe essere attribuita al fatto che i bots non erano stati programmati per dialogare soltanto in inglese. Ma c'è il sospetto che le macchine seguano dei codici ancora poco conosciuti all'uomo.
La notizia non fa altro che confermare i timori sullo sviluppo incontrollato delle intelligenze artificiali: davvero un giorno le macchine diventeranno così potenti ed evolute da ribellarsi ai comandi dell'uomo? È questo ciò che temono esperti anche del calibro di Stephen Hawking e Elon Musk.
"Il nostro interesse è che i bots possano un giorno parlare alla gente, soddisfare le loro richieste",
ha spiegato Mike Lewis del programma Facebook AI Research (Fair). Utilizzando degli algoritmi, i bots affinano le loro capacità e poi vengono lasciati da soli in modo che possano confrontarsi e sviluppare le capacità di linguaggio e di negoziazione. È possibile che, durante l'esperimento, ad un certo punto i bots abbiano cambiato il loro linguaggio, avendo trovato un sistema di comunicazione con cui potevano condurre la loro trattativa in modo più efficace.
In ogni caso, l'episodio fa luce su un mondo poco conosciuto e per lo più ancora misterioso: quello dei robot dietro ai social network e alle pagine che consultiamo ogni giorno. Mark Wilson, del sito di design e tecnologia FastCo Design, a questo proposito ha scritto un articolo intitolato "L'intelligenza artificiale sta inventando lingue che gli umani non possono capire. Dovremmo fermarla?":
"Dovremmo lasciare che i nostri software facciano questa cosa? Dovremmo permettere alle AI di costruire i propri dialetti per eseguire compiti specifici che richiedono una comunicazione con altre AI? Di spettegolare quando non possiamo capirle? Forse. Potrebbe darci la possibilità di un mondo in cui gli iPhone parlano con i frigoriferi che parlano con le automobili senza pensarci due volte".
Secondo Dhruv Batra, ricercatore di Facebook, che ha seguito il caso, è molto rumore per nulla: sulla sua pagina Facebook, ha invitato gli utenti a consultare le vere ricerche sul tema e a non farsi fuorviare dagli articoli. Lo studio nel campo dell'intelligenza artificiale da parte del social network non si ferma certo a causa di questo episodio:
"Non voglio linkare ad articoli specifici o procurare specifiche risposte per timore di continuare questo ciclo di frasi estrapolate dal contesto, in ogni caso trovo che il modo in cui i media si sono occupati della questione sia irresponsabile e votato al clickbait. Sebbene l'idea che le macchine inventino un loro linguaggio possa sembrare allarmante o sorprendente per alcune persone non del campo, è un settore dell'intelligenza artificiale ben solido, che ha alle spalle pubblicazioni e ricerche di anni. Semplicemente alcuni bot a cui viene chiesto di svolgere un compito spesso trovano dei modi non intuitivi per raggiungere il risultato. Cambiare i parametri dell'esperimento NON significa 'fermare l'intelligenza artificiale' o staccargli la spina, come è stato scritto. Se fosse questo il caso, ogni sviluppatore in questo campo dovrebbe lasciare tutto ogni volta che un lavoro non raggiunge l'obiettivo".
 |
| La squadra di ricercatori di intelligenza artificiale di Facebook (Fair) ha dato ai bots questa capacità valutando il valore di un elemento e deducendo quanto vale la pena a ciascuna parte. |
 |
| In alcuni casi, il robot inizialmente fece intravedere un interesse a un articolo di valore, solo per "comprometterlo" e successivamente concedendolo, una tattica di negoziazione efficace che la gente usa regolarmente, hanno detto i ricercatori. |
Fino ad ora, la maggior parte dei bots o chatbots hanno avuto solo la capacità di tenere brevi conversazioni e svolgere compiti semplici come prenotare un tavolo da ristorante.
Ma nell'ultimo codice sviluppato da Facebook, i bots saranno in grado di dialogare e "impegnarsi in negoziati start-to-finish con altri robot o persone, arrivando a decisioni o risultati comuni", hanno scritto.
La squadra del Fair ha dato ai bots questa capacità valutando il valore di un elemento e deducendo quanto vale la pena a ciascuna parte.
Ma i bots possono anche trovare modi per essere sneaky.
In alcuni casi, il robot inizialmente fece intravedere un interesse a un articolo di valore, solo per "comprometterlo" e successivamente concedendolo "una tattica di negoziazione efficace che la gente usa regolarmente", hanno detto i ricercatori.
Questo comportamento non è stato programmato dai ricercatori ma "è stato scoperto dal bot come un metodo per cercare di raggiungere i propri obiettivi", hanno detto.
I bot erano anche addestrati a non rinunciare mai.
"I nuovi agenti hanno tenuto più conversazioni con gli esseri umani, a sua volta accettano in modo meno rapido le offerte".
"Mentre le persone a volte possono camminare senza alcun accordo, il modello in questo esperimento negozia finché non raggiunge un risultato positivo".
