chatbot-facebook Fonte foto: Shutterstock
TECH NEWS

I bot di Facebook inventano un loro linguaggio: sono pericolosi?

La notizia che due robot realizzati da Facebook avevano iniziato a parlare una lingua a noi sconosciuta ha creato il panico, ma non è completamente vera

2 Agosto 2017 - Di robot che si rifiutano di obbedire ai loro creatori e che creano panico nel pianeta è pieno il mondo della fantascienza, dai film ai libri. Quando i ricercatori di Facebook hanno notato che due dei loro automi avevano iniziato a parlare tra loro una lingua a noi sconosciuta però la paura è diventata reale.

Non bisogna però farsi prendere dal panico. Molte notizie a riguardo hanno aggiunto tensione sull’argomento, parlando di ricercatori costretti a “uccidere” i bot perché ormai fuori controllo. Anche perché non è proprio quello che è successo. Facebook negli ultimi tempi stava lavorando su due semplici robot che servivano per chiacchierare e interagire. A dire il vero non si tratta nemmeno dei chatbot più efficienti mai visti al mondo. Non c’è nessun motivo quindi per pensare che questi due robot possano essere pericolosi. Dobbiamo poi capire che a breve intelligenza artificiale e apprendimento automatico saranno presenti in ogni settore della quotidianità, dal lavoro alla giustizia e perfino negli scontri bellici. E dobbiamo adeguarci a questo cambiamento.

Cosa è successo nel laboratorio di Facebook

Nello specifico all’interno dei laboratori di Facebook, i ricercatori stavano cercando di realizzare dei nuovi chatbot per poter interagire con gli utenti. L’idea era quella di dotare le pagine business delle aziende di questi chatbot per facilitare l’assistenza con i consumatori. I ricercatori hanno iniziato ad insegnare ai due bot delle categorie di oggetti, come capelli, libri, ecc. Inoltre ai robot è stato insegnato un linguaggio specifico e adatto all’ambito del commercio. A questo punto i bot hanno iniziato a interagire tra loro attraverso negoziazioni e giochi, sfruttando una tecnica che viene chiamata apprendimento di rinforzo. È durante questa frase che i due robot hanno smesso di usare delle frasi riconoscibili, portando a delle divergenze rispetto al linguaggio umano.

Perché è accaduto questo

Perché è accaduto tutto questo? La risposta è abbastanza semplice: l’esperimento non è andato a buon fine. In pratica i robot non vogliono uccidere la razza umana ma semplicemente per degli errori d’apprendimento automatico hanno capito che per esprimere un concetto possono usare delle ripetizioni di parole. Ripetizioni che rendono incomprensibile a noi quello che dicono. L’errore dei programmatori è stato quello di porre come obiettivo la vincita di un semplice giochino tra robot ma non hanno insegnato ai bot a farlo usando esclusivamente l’inglese, per questo gli automi hanno usato un linguaggio “loro” per vincere. E a dirla tutta non si tratta nemmeno della prima volta che accade una cosa del genere. In passato anche Elon Musk nel suo progetto OpenAI ebbe problemi simili. Questo non fa che sottolineare i passi in avanti che bisogna fare nel campo dell’intelligenza artificiale per creare robot che possano interagire con le persone. Insomma, per ora Terminator resta solo un film.

 

Ti raccomandiamo