InfoAut
Immagine di copertina per il post

Durante un esperimento di Facebook due AI hanno inventato un proprio linguaggio: è la rivolta dei robot?

||||

La prima cosa da fare è chiarire cosa sia effettivamente successo durante questo esperimento. La maggior parte dei mezzi d’informazione ha inizialmente trattato la notizia in termini sensazionalistici alludendo ad una ribellione delle Intelligenze Artificiali e alla necessità da parte dei ricercatori di spegnerle prima che ne perdessero il controllo. La realtà è un po’ diversa.

Infatti proprio uno dei ricercatori coinvolti è intervenuto con un post su Facebook per riportare il discorso alla realtà. Prima di tutto è utile capire meglio di che tipo di esperimento si trattasse. Il team di Facebook sta lavorando allo sviluppo di chatbots, ovvero software in grado di interagire con gli esseri umani tramite chat. L’esperimento in questione prevedeva l’interazione tra due intelligenze artificiali in lingua inglese. Qua si trova il report “Deal or no Deal? Training AI bots to negotiate”.

I due agenti AI devono contrattare come dividersi alcuni oggetti (cappelli, palle, libri), ad ogni oggetto è assegnato un punteggio e ognuno dei due deve cercare di massimizzare la somma dei punteggi degli oggetti in proprio possesso. I ricercatori li hanno programmati in modo che simulassero i possibili sviluppi della conversazione e scegliessero, di volta in volta, le risposte associate ad una maggiore probabilità di ottenere un punteggio alto nella divisione degli oggetti.

Inizialmente entrambi gli agenti sono stati “allenati” ad imitare il comportamento umano usando migliaia di dialoghi tra esseri umani durante contrattazioni simili. Questo passaggio serve a mappare linguaggio e significato; in questo modo, durante il dialogo, la macchina cerca di indovinare quello che avrebbe detto un essere umano nella stessa situazione. Un secondo passaggio è stato utilizzato per raffinare la capacità di negoziazione, ovvero che cosa dire. È stata usata una tecnica chiamata “reinforcement learning” nella quale si allena ulteriormente il modello per favorire le espressioni che portano ad un risultato migliore.

Quando i due bot sono stati fatti interagire, entrambi sottoposti al reinforcement learning, la conversazione è diventata incomprensibile per gli esseri umani. Ma, come ha dichiarato Dhruv Batra: «Sebbene l’idea di agenti AI che inventano un loro linguaggio possa sembrare allarmante/inaspettata alle persone fuori dal campo, è un ben noto sotto-campo dell’intelligenza artificiale, con pubblicazioni risalenti a decenni fa». Infatti i due agenti AI costruiscono espressioni basandosi su parametri, funzioni e distribuzioni di probabilità, ovvero gli oggetti matematici che codificano le informazioni apprese dai dati umani e dal reinforcement learning. Nell’insieme di tutti i dialoghi possibili, scomposti in valori di funzioni matematiche, possono trovare quelli che portano all’obbiettivo nella maniera più efficiente. Per dirla ancora con le parole di Dhruv Batra: « degli agenti in un ambiente che cercano di portare a termine un compito troveranno spesso modi controintuitivi per massimizzare la ricompensa».

In conclusione, i ricercatori si sono semplicemente resi conto di non aver imposto che i bot si limitassero a produrre dialoghi in lingua inglese. Nessuna spina staccata nel panico (anche se ci sarebbe piaciuto…).

Le macchine non si ribellano

Lo abbiamo descritto in maniera molto stringata, ma questo esempio mostra che, sebbene in grado di apprendere e di modificare il proprio comportamento, anche l’intelligenza artificiale (quantomeno sul medio periodo) non è altro che una macchina che viene progettata e programmata dagli esseri umani per scopi precisi. Come in questo caso, le macchine possono trovare la soluzione più efficiente a dei problemi all’interno di un range di possibilità determinate dai sistemi logici e matematici con cui sono programmate. È possibile che svolgano le loro funzioni in modi incomprensibili agli umani o anche dannosi per l’uomo stesso, ma non si tratta di ribellione.

Abbiamo spesso argomentato come le capacità umane vengano incorporate nelle macchine (anche immateriali, come i software), tra cui la capacità di negoziare degli scambi. In questa forma diventano risorse fredde cristallizzate negli ingranaggi o nelle righe di codice, separate dal corpo caldo dell’essere umano dove effettivamente possono essere riprodotte, potenziate, arricchite e trasformate.

Le macchine non si ribellano perché al giorno d’oggi, e per le prossime decadi, non esistono macchine coscienti in grado di ragionare sulla propria esistenza, sul suo senso e i fini della propria attività. Per dirla in altri termini. Incorporando le capacità umane, le macchine possono sostituire l’essere umano nella sua veste di attore di ruoli sociali, ma mancano completamente di quelle caratteristiche di autonomia (almeno potenziale) peculiari dell’essere umano, che permettono di ragionare sul proprio ruolo nella società capitalistica e farsi soggetto, ribellandosi. Le macchine non possono negarsi nel proprio ruolo sociale. La ribellione non è separata dall’essere umano, dalla sua soggettività, dal residuo irrisolto che il capitale non riesce a piegare completamente al suo dominio e alla sua macchinizzazione.

Ci dispace deludere chi aspetta l’arrivo messianico di una rivolta da parte delle macchine: quella continua ad essere affare nostro.

 

Ti è piaciuto questo articolo? Infoaut è un network indipendente che si basa sul lavoro volontario e militante di molte persone. Puoi darci una mano diffondendo i nostri articoli, approfondimenti e reportage ad un pubblico il più vasto possibile e supportarci iscrivendoti al nostro canale telegram, o seguendo le nostre pagine social di facebook, instagram e youtube.

pubblicato il in Approfondimentidi redazioneTag correlati:

facebooktecnologia

Articoli correlati

Immagine di copertina per il post
Approfondimenti

Lo spettro dell’agitatore esterno

Dopo l’attacco alle università Usa, media e politici hanno rinnovato la caccia al provocatore esterno: la usarono anche contro Martin Luther King. Ma gli attivisti che fanno da ponte tra le lotte sono una costante nella storia dei movimenti

Immagine di copertina per il post
Approfondimenti

Una luce di speranza

La grande rivolta giovanile nelle università degli Stati Uniti non smette di crescere e mostra una meraviglia di organizzazione e l’incredibile diversità di coloro che vogliono fermare il genocidio a Gaza, arrivando a contagiare anche l’Europa.

Immagine di copertina per il post
Approfondimenti

La diffusione del dengue, l’agroindustria e il cambiamento climatico

Le cause dell’epidemia di dengue sono molteplici, conosciute e anche poco affrontate: cambiamento climatico, deforestazione, uso di pesticidi, impatto sui predatori delle zanzare e mancanza di pianificazione territoriale.

Immagine di copertina per il post
Approfondimenti

Il ciclo breve dei Csoa, tra spontaneità e organizzazione

Quello di Giovanni Iozzoli, militante e fondatore di Officina 99, uno dei più importanti centri sociali degli anni Novanta, è uno sguardo di parte ma laico.

Immagine di copertina per il post
Approfondimenti

Andare oltre l’inferno planetario – di Gennaro Avallone

“Non è l’Uomo, ma è il Capitale il responsabile dell’inferno planetario”

Immagine di copertina per il post
Approfondimenti

Le “collaborazioni” delle Università: ma la scienza è neutrale?

Se la scienza possa o non possa essere neutrale rispetto al suo utilizzo per finalità diverse è un tema che merita qualche riflessione non troppo superficiale.

Immagine di copertina per il post
Approfondimenti

Cronaca e riflessioni sulla mobilitazione per la Palestina a Pisa

In questi mesi Pisa, come molte altre città d’Italia, ha visto e continua a vedere un’intensa e articolata mobilitazione per la libertà della Palestina e per lo stop al genocidio. Dallo scorso autunno, sin dall’intensificarsi dell’offensiva israeliana sulla Palestina e la ripresa dei bombardamenti su Gaza dopo il 7 ottobre, giovani e studentǝ della città […]

Immagine di copertina per il post
Approfondimenti

“Lavender”: la macchina dell’Intelligenza Artificiale di Israele che dirige i bombardamenti a Gaza

L’esercito israeliano ha contrassegnato decine di migliaia di gazawi come sospetti per l’assassinio, utilizzando un sistema di puntamento AI con scarsa supervisione umana e una politica permissiva per i danni collaterali, rivelano +972 e Local Call.

Immagine di copertina per il post
Approfondimenti

ELEZIONI LOCALI DEL 2024 IN TURCHIA

Riprendiamo dall’osservatorio internazionale per la coesione e l’inclusione sociale questo quadro sulle elezioni a livello locale che si sono tenute in Turchia il 31 marzo 2024. Pur non condividendo l’enfasi sulla rinascita della socialdemocrazia, il testo ha il merito di fornire un panorama chiaro sulla sconfitta subita dall’AKP di Erdogan. La Turchia ha vissuto una […]

Immagine di copertina per il post
Approfondimenti

Uscita la legge europea sull’Intelligenza Artificiale: cosa va alle imprese e cosa ai lavoratori

Il 13 marzo 2024 è stato approvato l’Artificial Intelligence Act, la prima norma al mondo che fornisce una base giuridica complessiva sulle attività di produzione, sfruttamento e utilizzo dell’Intelligenza Artificiale.

Immagine di copertina per il post
Culture

Il reale delle/nelle immagini. La magia neoarcaica delle immagini tecniche

Il doppio offerto da queste “nuove immagini” a partire dalla fotografia finisce per dare vita ad atteggiamenti “neoarcaici” – come li definisce Edgar Morin (L’Esprit du temps) –, attivando reazioni irrazionali, primitive, infantili proprie dell’Homo demens che, da sempre, contraddistinguono il rapporto tra l’essere umano e le differenti forme di rappresentazione.

Immagine di copertina per il post
Formazione

Intelligenza artificiale, Ai Act e panopticon globale

Lo scorso sabato parlamento, consiglio e Unione Europea si sono accordati sul testo finale per la regolamentazione dell’intelligenza artificiale. Un accordo selettivo, che consente l’utilizzo di strumenti di controllo, vietati per i cittadini europei, ai migranti.

Immagine di copertina per il post
Approfondimenti

Intelligenza artificiale e guerra: ieri Iraq oggi Ucraina

La discussione italiana sull’invio delle armi in Ucraina è tanto più surreale nel momento in cui, nel dibattito politico ufficiale e non, si parla di una guerra che non esiste più mimando una teatralità di discussione da primo novecento.

Immagine di copertina per il post
Culture

StakkaStakka 18 Aprile 2023 – Diritto alla Riparazione

Il diritto alla riparazione è un disegno di legge che stabilisce l’obbligo dei produttori di apparecchi elettronici di rispettare criteri di progettazione e montaggio che siano facili da riparare anche dall’utente stesso e di distribuire parti di ricambio e istruzione per la riparazione. Le implicazioni ecologiche e sociali di questa riforma sono evidenti, ma qual’è il dibattito in corso a riguardo?

Immagine di copertina per il post
Conflitti Globali

Silicon Valley Bank: la bolla delle Big Tech alla resa dei conti?

Il fallimento della Silicon Valley Bank è considerato il più grande dal 2008. Non è detto che si trasformi nell’innesco di una nuova nova crisi finanziaria globale, ma è uno sconvolgimento tutt’altro che secondario in uno dei settori di punta del capitalismo USA.

Immagine di copertina per il post
Approfondimenti

“Circuiti di guerra” di Marco D’Eramo

L’articolo affronta il recente ed esteso blocco tecnologico imposto dagli Stati Uniti alla Cina soprattutto nel settore fondamentale dei semiconduttori/microchip.

Immagine di copertina per il post
Conflitti Globali

CHE COS’E’ IL METAVERSO? DI DISTOPIA, AVATAR E ALTRI INCUBI VIRTUALI

Metaverso (in inglese Meta-verse) è un termine coniato da Neal Stephenson in Snow Crash, un libro di fantascienza cyberpunk del 1992, descritto come una sorta di realtà virtuale condivisa tramite internet, dove si è rappresentati in tre dimensioni attraverso il proprio avatar. Nel 2021, però, il termine assume una nuova forma, quando Facebook decide di […]

Immagine di copertina per il post
Conflitti Globali

FACEBOOK: AUDIZIONE AL SENATO DELL’EX DIPENDENTE HAUGEN. “IL SOCIAL NETWORK FAVORISCE ODIO PER GENERARE PROFITTO”

Bufera su Facebook con l’audizione al Senato dell’ex dipendente Frances Haugen, che ha denunciato i danni sociali prodotti dalla creatura di Zuckerberg. Il social network, tramite i suoi algoritmi, favorirebbe discorsi di odio e discriminazione, per aumentare le interazioni e incrementare i profitti. Secondo Haugen “la leadership della compagnia sa come rendere Facebook e Instagram […]

Immagine di copertina per il post
Editoriali

Il problema della frontiera

Ad oggi sembra emergere come il principale problema della dimensione capitalista sia di fatto l’assenza di nuove possibilità esplorative ed estrattive, almeno per quanto riguarda il pianeta terra e le sue risorse. O meglio, ogni esplorazione, ogni nuova risorsa estratta ha delle conseguenze fuori proporzione sull’equilibrio ecologico del pianeta e sulla sopravvivenza nel suo complesso […]

Immagine di copertina per il post
Conflitti Globali

Erdogan e Facebook non possono oscurare l’informazione indipendente

Insieme agli altri siti di informazione indipendente oscurati nei giorni scorsi da Facebook abbiamo preso parola in una conferenza stampa a Roma. Riportiamo la presa di parola collettiva condivisa dalle realtà che hanno partecipato. Facebook non può rimanere in mano a un privato. Oggi venerdì 18 ottobre, si è svolta presso nella sala della Federazione […]