Naomi Klein: “Intelligenza Artificiale, il più grande saccheggio della storia umana”

Un articolo dell’attivista canadese comparso sul The Guardian.

Quando si sbagliano, le intelligenze artificiali “allucinano“, dicono i loro progettisti. Questo prestito dal vocabolario della psicologia permette loro di rafforzare il mito di macchine dotate di ragione e capaci di salvare l’umanità. Mentre sono “terrificanti strumenti di spoliazione”, afferma la saggista Naomi Klein, in un articolo comparso sul giornale britannico The Guardian.

Di seguito un ampio estratto del suo articolo.

Nel mezzo del diluvio di polemiche ispirate al lancio precipitoso delle cosiddette tecnologie di “intelligenza artificiale” (IA), un’oscura lite infuria intorno al verbo “allucinare”. È il termine che i progettisti e i sostenitori delle IA generative usano per caratterizzare alcune delle risposte totalmente inventate, o oggettivamente false, formulate dai chatbot.

Recuperando un termine più comunemente usato nei campi della psicologia, dello psichedelismo o in varie forme di misticismo, gli apostoli dell’IA riconoscono certamente il carattere fallibile delle loro macchine, ma, soprattutto, rafforzano il mito preferito di questa industria: l’idea che elaborando questi grandi modelli di linguaggio [LLM] e immagazzinando tutto ciò che l’umanità ha potuto scrivere, dire o rappresentare visivamente, stanno dando vita a una forma di intelligenza dotata di un’esistenza propria e sul punto di segnare un grande balzo in avanti per l’evoluzione della nostra specie.

Se le allucinazioni sono effettivamente legioni nel mondo dell’IA, non sono tuttavia il prodotto dei chatbot, ma delle menti febbrili di alcuni grandi della tecnologia. Le IA generative porranno fine alla povertà nel mondo, ci dicono. Risolveranno il problema del cambiamento climatico. E ridaranno un senso ai nostri mestieri e li renderanno più interessanti.

Esiste un mondo in cui le IA generative potrebbero effettivamente essere al servizio dell’umanità, delle altre specie e della nostra casa comune. Tuttavia, dovrebbero essere dispiegate in un ambiente economico e sociale radicalmente diverso da quello che conosciamo.

Viviamo in un sistema progettato per estrarre il massimo della ricchezza e dei profitti, sia dagli esseri umani che dalla natura. E in questa realtà in cui il potere e il denaro sono iperconcentrati, è molto più probabile che le IA si trasformino in terrificanti strumenti di furto e spoliazione.

Tornerò su questo punto, ma, in un primo momento, è utile riflettere sullo scopo che servono le affascinanti allucinazioni degli utopisti dell’IA. Ecco un’ipotesi: sotto la loro vernice lucida, queste belle storie permettono di nascondere quello che potrebbe rivelarsi il più grande saccheggio, e il più consistente, della storia dell’umanità. Perché ciò che si osserva è che le aziende più ricche della storia stanno mettendo le mani su tutta la conoscenza umana registrata in forma digitale e di rinchiuderla in prodotti proprietari, tra cui molti danneggeranno uomini e donne il cui lavoro sarà stato utilizzato – senza il loro consenso – per fabbricare queste macchine.

Questo è ciò che la Silicon Valley chiama comunemente “disruption” – un trucco che ha funzionato troppo spesso. Conosciamo il principio: sfrecciate nel Far West normativo; gridate forte e chiaro che le vecchie regole non possono applicarsi alle vostre nuove tecnologie. Il tempo di superare l’effetto novità e di iniziare a misurare i danni sociali, politici ed economici di questi nuovi giocattoli, la tecnologia è già così onnipresente che i legislatori e i tribunali gettano la spugna.

Ecco perché le allucinazioni su tutti i benefici che le IA porteranno all’umanità stanno prendendo tanta importanza. Non solo queste belle promesse cercano di far passare un saccheggio su larga scala come un dono, ma contribuiscono anche a negare le indiscutibili minacce che costituiscono queste tecnologie.

Come si giustifica lo sviluppo di strumenti che presentano rischi così catastrofici? Generalmente, affermando che questi strumenti nascondono immensi benefici potenziali. Solo che la maggior parte di questi benefici riguarda l’allucinazione, il miraggio. Esaminiamone alcuni.

Allucinazione n° 1: le IA risolveranno la crisi climatica

Tra le qualità delle IA, l’idea che possano in un modo o nell’altro trovare una soluzione alla crisi climatica è quasi invariabilmente in cima alla lista. L’ex CEO di Google Eric Schmidt riassume questa concezione in un’intervista asparsa su The Atlantic, dove afferma che in materia di IA, il gioco vale la candela: “Quando si pensa ai principali problemi del mondo, sono tutti molto complicati – il cambiamento climatico, le organizzazioni umane, ecc. E quindi, mi batto sempre affinché le persone siano più intelligenti.”

Secondo questa logica, la mancanza di una soluzione alle grandi sfide della nostra epoca – come la crisi climatica – sarebbe quindi legata a un deficit di intelligenza. Solo che è da decenni che persone molto intelligenti, con dottorati e premi Nobel, spingono i governi a prendere misure imperative. Se i loro consigli molto saggi non sono stati ascoltati, non è perché non li capiamo ma perché seguendo le loro raccomandazioni, i governi rischierebbero di perdere miliardi e miliardi di dollari nell’industria dei combustibili fossili e questo farebbe vacillare il modello di crescita basato sul consumo, che è la chiave di volta delle nostre economie interconnesse. L’idea che sia meglio aspettare che le macchine formulino soluzioni più accettabili e/o redditizie non è una cura per il male, ma un sintomo in più.

Sembra molto più probabile che il dispiegamento delle IA contribuirà al contrario ad aggravare attivamente la crisi climatica. Innanzitutto perché gli enormi server che permettono a questi chatbot di produrre testi e creazioni artistiche istantanee sono una fonte enorme e crescente di emissioni di CO2. Poi, perché in un momento in cui aziende come Coca-Cola stanno investendo massicciamente nelle IA generative per spingere le loro vendite, diventa perfettamente ovvio che l’obiettivo non è salvare il mondo, ma incoraggiare le persone ad acquistare sempre più prodotti che emettono carbonio.

Infine, questa evoluzione avrà un’altra conseguenza, più difficile da anticipare. Più i nostri media saranno invasi da deepfake e cloni, più le informazioni si trasformeranno in zone di sabbie mobili. Quando diffidiamo di tutto ciò che leggiamo e vediamo un ambiente mediatico sempre più inquietante, siamo ancora meno attrezzati per risolvere i problemi più urgenti dell’umanità.

Allucinazione n° 2: le IA assicureranno una buona governance

Si tratta qui di evocare un futuro prossimo in cui politici e burocrati, basandosi sull’immensa intelligenza cumulativa delle IA, saranno in grado [come si vanta ad esempio questo gruppo di riflessione] di “rilevare esigenze ricorrenti e di elaborare programmi basati su elementi concreti” per il massimo beneficio dei loro amministrati.

Come per il clima, la domanda merita di essere posta: è per mancanza di elementi concreti che i responsabili politici impongono decisioni tanto crudeli quanto inefficaci? Davvero non capiscono il costo umano che comportano i tagli di bilancio del sistema sanitario in piena pandemia? Non vedono il beneficio per i loro amministrati di creare alloggi non soggetti alle regole del mercato quando il numero di senzatetto continua ad aumentare? Hanno davvero bisogno delle IA per diventare “più intelligenti” o sono solo abbastanza intelligenti da sapere chi finanzierà la loro prossima campagna?

Sarebbe meraviglioso se le IA potessero effettivamente contribuire a rompere i legami tra il denaro delle aziende e il processo decisionale di politici irresponsabili. Il problema è che questi collegamenti sono proprio il motivo per cui aziende come Google e Microsoft sono state autorizzate a distribuire i loro chatbot sul mercato nonostante una valanga di avvertimenti.Pur conoscendo bene il potere del denaro sulle politiche del governo, Sam Altman, il CEO di OpenAI – ideatore di ChatGPT –, sembra avere allucinazioni su un mondo completamente diverso dal nostro, un mondo in cui i leader politici e gli industriali prenderebbero le loro decisioni sulla base dei dati più pertinenti. Il che ci porta a una terza allucinazione.

Allucinazione n° 3: le IA ci libereranno da lavori faticosi

Se le seducenti allucinazioni della Silicon Valley sembrano plausibili, il motivo è semplice. Le IA generative sono per il momento in una fase di sviluppo che potremmo qualificare come “simil-socialismo”. È una tappa imprescindibile nel metodo ormai ben noto delle aziende della Silicon Valley. In primo luogo, create un prodotto attraente e mettetelo a disposizione gratuitamente o quasi per alcuni anni, senza un apparente modello commerciale sostenibile. Fai dichiarazioni nobili sul tuo obiettivo di creare un “posto pubblico” [Elon Musk su Twitter] o di “collegare le persone”, diffondendo al contempo la libertà e la democrazia. Poi vedi le persone diventare dipendenti dal tuo strumento gratuito e i tuoi concorrenti fallire. Una volta che il campo è libero, fate spazio per la pubblicità, la sorveglianza, i contratti con l’esercito e la polizia, la scatola nera delle rivendite dei dati degli utenti e le spese di abbonamento in aumento.

Dai piccoli negozianti ai giornali locali, quante vite e settori sono stati decimati da questo metodo? Con la rivoluzione dell’IA, questi pregiudizi potrebbero sembrare marginali rispetto al numero di insegnanti, programmatori, grafici, giornalisti, traduttori, musicisti, assistenti e tanti altri professionisti minacciati di vedere il loro sostentamento sostituito da un codice cattivo.

Ma non abbiate paura, profetizzano gli apostoli dell’IA – sarà meraviglioso. Chi ha voglia di lavorare comunque? Le IA generative non segneranno la fine del lavoro, ci dicono, solo del lavoro “noioso”. Da parte sua, Sam Altman immagina un futuro in cui il lavoro “copre una nozione più ampia; dove non è qualcosa che si fa per mangiare, ma per far parlare la propria creatività, come fonte di gioia e realizzazione”.

Si dà il caso che questa visione dell’esistenza che dà il via al tempo libero sia condivisa da molti attivisti di sinistra. Solo che noi, di sinistra, pensiamo anche che se guadagnare denaro non è più lo scopo dell’esistenza, sono necessari altri mezzi per soddisfare i nostri bisogni essenziali, come il cibo e l’alloggio. In un mondo libero dai mestieri alienanti, l’accesso all’alloggio deve quindi essere gratuito, così come l’accesso alle cure, e ad ogni individuo devono essere garantiti diritti economici inalienabili. E improvvisamente, il dibattito non ruota più intorno all’IA, ma al socialismo. Ora non viviamo nel mondo razionale e umanistico che Sam Altman sembra vedere nelle sue allucinazioni. Viviamo in un sistema capitalista in cui le persone non sono libere di diventare filosofi o artisti, ma in cui contemplano l’abisso e gli artisti sono i primi a immergersi in esso.

Mentre i giganti della tecnologia vorrebbero farci credere che è già troppo tardi per tornare indietro e rinunciare alle macchine che soppiantano gli umani, è bene ricordare che esistono precedenti legali che dimostrano il contrario. Negli Stati Uniti, la Federal Trade Commission (FTC) l’autorità della concorrenza americana ha costretto Cambridge Analytica, così come Everalbum, proprietario di un’applicazione fotografica, a distruggere la totalità di diversi algoritmi addestrati con dati e foto acquisiti in modo illegittimo.

Un mondo di deepfake e di disuguaglianze crescenti non è una fatalità. È il risultato di scelte politiche. Abbiamo i mezzi per regolamentare i chatbot che oggi vampirizzano le nostre esistenze e per iniziare a costruire un mondo in cui le promesse più fantastiche delle IA non saranno solo allucinazioni della Silicon Valley.

Foto: Amanda Dalbjorn

Qui trovi altre notizie dal FUTUROPROSSIMO