Kate Crawford

Il Mulino, 2021

Il libro nel complesso è una interessante denuncia di aspetti decisamente poco noti della infrastruttura e del modo di funzionamento della Rete e della sua espressione più avanzata, la cosiddetta intelligenza artificiale.

La tesi fondamentale è che anche la AI, come la stessa internet, è in ultima analisi l’espressione di rapporti di potere capitalistici. Questo significa che un ristrettissimo gruppo di aziende e di persone riesce a estrarre valore non solo dei dati personali di noi tutti, ma anche e soprattutto dai corpi di una classe di sottoproletari mal pagati.

Sfortunatamente il tono complessivo è quello del pamphlet: non viene realmente concesso diritto di difesa alle tesi attaccate e le fonti delle citazioni sono in gran parte giornalistiche. Come capita spesso in questo genere di testi, il libro risulta così decisamente ridondante e le numerose vicende individuali che vengono raccontate, spesso con un alto grado di dettagli, rischiano costantemente di distrarre il lettore. In ultima analisi, è sufficiente leggere il capitolo finale che, in perfetto stile anglosassone, riassume in modo chiaro e conciso (molto più chiaro e conciso che nel resto del testo) le tesi della Crawford ovvero, per essere più onesti: nella conclusione l’autrice va dritta al punto, mantenendo quella capacità di sintesi che nel testo si trova solo qua e là.

I capitoli affrontano in successione

1) lo sfruttamento della terra necessario a creare la cosiddetta intelligenza artificiale,

2) lo sfruttamento del lavoro («dei corpi», dice spesso la Crawford),

3) la estrazione dei dati,

4) il processo di classificazione dei dati,

5) la pretesa di riconoscere e classificare le emozioni,

6) le intersezioni con il potere.

La tesi è che la cosiddetta intelligenza artificiale, ossia il prodotto finale di un processo iniziato tempo fa e che ha avuto un passaggio fondamentale con l’invenzione della Rete, ha bisogno di una struttura materiale molto pesante, che viene però accuratamente mascherata per far credere che la AI sia un «cloud» immateriale, paragonabile perciò alla intelligenza umana. Banalmente, sono necessari tutti i minerali rari che servono per la creazione fisica dei device con cui ci interfacciamo con la rete. Un altro aspetto della questione è il grande consumo di energia per far funzionare e raffreddare i server che rappresentano la spina dorsale di internet.

I software per i riconoscimento di oggetti e gli LLM devono essere addestrati. Questa è la sorpresa più dolorosa. Le macchine effettivamente non sono capaci di «imparare da sole», o meglio: è molto più veloce ed economico sottopagare schiere di umani che insegnano alle macchine «che cosa» è una certa immagine.

Per i softwarer predittivi e generativi di testo è necessario raccogliere una sterminata quantità di dati, che vengono presi dalla rete senza nessun rispetto dei diritti di chi ha caricato originariamente tali dati: Crawford stabilisce esplicitamente una correlazione tra estrazione di dati ed estrazione di materie prime.

Anche il processo di classificazione dei dati (soprattutto delle immagini) rappresenta un momento in cui il sistema proietta una serie di categorie estremamente semplificatorie sulla materia, senza alcun riguardo per le differenze e le individualità. Il caso tipico è la divisione binaria dei sessi. Questa impostazione è preoccupante in quanto pre-vede una forma di dominio basata sulla omologazione.

Lo stesso discorso vale per le emozioni, dove il discorso diventa ancora più preoccupato davanti all’ipotesi che questi strumenti servano per identificare in modo automatico persone da sanzionare sul piano amministrativo, giuridico e penale.

---

Antologia di testi

Nella vicenda della cosiddetta Intelligenza artificiale «possiamo vedere l’operato di due distinte mitologie. Il primo mito è credere che i sistemi non umani (siano essi computer o cavalli) siano qualcosa di analogo alla mente umana. Questa prospettiva presuppone che con una formazione sufficiente, o con risorse adeguate, possa essere creata da zero un’intelligenza simile a quella umana, senza dover approcciare i modi fondamentali in cui gli umani si caratterizzano come esseri incarnati, relazionali e parte di ecologie più ampie. Il secondo mito è che l’intelligenza sia qualcosa di indipendente, una sorta di elemento naturale, distinto dalle forze sociali, culturali, storiche e politiche. In realtà, il concetto di intelligenza ha causato danni smisurati nel corso dei secoli ed è stato utilizzato per giustificare svariati rapporti di dominio, dalla schiavitù all’eugenetica.

Questi miti sono particolarmente potenti nel campo dell’intelligenza artificiale, dove la convinzione che l’intelligenza umana possa essere formalizzata e riprodotta dalle macchine è stata assiomatica sin dalla metà del XX secolo. … i sistemi di intelligenza artificiale sono stati ripetutamente descritti come forme di intelligenza semplici ma simili a quella umana. ¹

Al contrario, in questo libro sostengo che l’IA non è artificiale né intelligente. Piuttosto, l’intelligenza artificiale è sia incarnata che materiale, composta da risorse naturali, combustibili, lavoro umano, infrastrutture, logistica, storie e classificazioni. l sistemi di IA non sono autonomi o razionali, né in grado di discernere alcunché senza una fase di formazione estensiva ma computazionalmente intensiva con grandi set di dati o regole e ricompense predefinite. In effetti, l’intelligenza artificiale come la conosciamo dipende interamente da un insieme molto più ampio di strutture politiche e sociali. E a causa del capitale necessario per costruire l’IA su larga scala e dei modi per vederla ottimizzata, i sistemi di IA sono in definitiva progettati per servire gli interessi dominanti. In questo senso, l’intelligenza artificiale è un registro del potere. ²

Il campo dell’IA è il tentativo esplicito di catturare il pianeta in una forma leggibile dal punto di vista computazionale. Questa non è tanto una metafora quanto l’ambizione diretta del settore. L’industria dell’IA realizza e normalizza le sue mappe proprietarie, l’occhio divino con visione centralizzata del movimento, della comunicazione e del ]avoro umani. ³

Le visioni di base del settore dell’IA non nascono in modo autonomo, ma sono state invece costruite a partire da un particolare insieme di credenze e prospettive. l principali disegnatori dell’atlante contemporaneo dell’IA sono un gruppo piccolo e omogeneo di persone, ubicate in una manciata di città, che lavorano in un’industria che è attualmente la più ricca del mondo. Come le mappae mundi dell’Europa medievale, che assieme alle coordinate illustravano concetti religiosi e classici, le mappe realizzate dall’industria dell’IA sono interventi politici, tutto l’opposto di riflessi neutrali del mondo.⁴

[Bisogna passare a una ]visione più ampia dell’intelligenza artificiale vista come industria estrattiva. La creazione dei sistemi di IA attuali è strettamente legata allo sfruttamento di risorse energetiche e minerarie del pianeta, di manodopera a basso costo e di dati su amplissima scala. ⁵

In poche parole, l’intelligenza artificiale è oggi un attore nella formazione della conoscenza, nella comunicazione e nel potere. Queste riconfìgurazioni si stanno verificando a livello di epistemologia, principi di giustizia, organizzazione sociale, espressione politica, cultura, concezione del corpo umano, soggettività e identità: cosa siamo e cosa possiamo essere. Ma è possibile andare oltre. L’intelligenza artificiale, nel processo di rimappatura e intervento nel mondo, è politica condotta con altri mezzi, sebbene sia raramente riconosciuta come tale. Queste politiche sono guidate dalle grandi società dell’IA, vale a dire la mezza dozzina di aziende che dominano il calcolo planetario su larga scala.⁶

Il calcolo e il commercio globali si basano sulle batterie. Il termine «intelligenza artificiale» può evocare idee di algoritmi, dati e architettwe cloud, ma niente di tutto ciò può funzionare senza i minerali e le risorse che compongono i componenti principali del computer. Le batterie ricaricabili agli ioni di litio sono essenziali per dispositivi mobili e laptop, per gli assistenti digitali domestici e per l’alimentazione di backup dei data center. Esse supportano Internet e tutte le piattaforme commerciali che funzionano su di essa, dal settore bancario al commercio al dettaglio fino al mercato azionario. Molti aspetti della vita moderna sono stati spostati nel Cloud con scarsa considerazione per questi costi materiali. Il nostro lavoro e le nostre vite personali, le nostre storie cliniche, il nostro tempo libero, il nostro intrattenimento, i nostri interessi politici: tutto questo avviene nel mondo delle architetture informatiche in rete a cui attingiamo grazie ai dispositivi che teniamo in una mano, al cui centro c’è il litio. ⁷

L’estrattivismo su cui è stata costruita San Francisco trova un’eco nelle pratiche del settore tecnologico che vi ha oggi la sua sede. L’enorme ecosistema dell’IA si basa su molti tipi di estrazione: dalla raccolta dei dati ricavati dalle nostre attività ed espressioni quotidiane, all’esaurimento delle risorse naturali e allo sfruttamento del lavoro in tutto il mondo per costruire e tenere in funzione questa vasta rete planetaria. E l’IA estrae molto di più da noi e dal pianeta di

quanto sia generalmente noto. La Bay Area è un nodo centrale nel mito dell’intelligenza artificiale, ma avremo bisogno di andare ben oltre gli Stati Uniti per vedere le eredità stratificate di danni umani e ambientali che hanno alimentato l’industria tecnologica.

Così come il lavoro sporco nel settore minerario era molto distante dalle aziende e dagli abitanti delle città che più ne benefìciavano, così la maggior parte dei data center è molto lontana dai principali centri abitati, sia nel deserto che nelle periferie semindustriali. Ciò contribuisce alla nostra sensazione che «la nuvola» sia invisibile e astratta, mentre in realtà è qualcosa di materiale,

che influenza l’ambiente e il clima in modi che sono ben lungi dall’essere pienamente riconosciuti e spiegati. La nuvola appartiene alla terra e per mantenerla in crescita è necessario espandere le risorse e gli strati della logistica e del trasporto in costante movimento. ⁸

Anche qui i costi più ingenti della logistica globale sono sopportati dall’atmosfera terrestre, dall’ecosistema oceanico e dai lavoratori sottopagati. L’immaginario delle aziende impegnate nell’IA non riesce a descrivere i costi duraturi e le lunghe storie dei materiali necessari per costruire infrastrutture computazionali o dell’energia necessaria per alimentarle. La rapida crescita del calcolo

basato sul cloud, reputato rispettoso dell’ambiente, ha paradossalmente provocato un’ulteriore espansione delle frontiere dello sfruttamento delle risorse. È solo prendendo in considerazione questi costi nascosti, questi gruppi più ampi di attori e di sistemi, che riusciamo a capire cosa comporterà l’automazione crescente. Per fare ciò dobbiamo andare controcorrente rispetto al modo in cui di solito funziona l’immaginario tecnologico, che è completamente svincolato dalle questioni terrene. Se pensiamo ad esempio a una ricerca di immagini sulla «IA», che ci restituisce decine di figure di cervelli luminosi e di codice binario colorato di blu fluttuante nello spazio, ci accorgiamo che c’è una forte resistenza ad affrontare gli aspetti materiali di queste tecnologie. In questo libro

invece iniziamo dalla terra, dallo sfruttamento e dalle storie del potere industriale per poi valutare come questi modelli si replicano nei sistemi di gestione del lavoro e dei dati.⁹

L’intelligenza artificiale è un altro tipo di megamacchina, un insieme di approcci tecnologici che dipendono da infrastrutture industriali, catene di approvvigionamento e lavoro umano, diffuse in tutto il mondo, ma la cui visione ci è resa oscura. Abbiamo visto come l’IA non si possa ridurre a database e algoritmi, modelli di apprendimento automatico e algebra lineare. L’IA è metamorfìca: dipende dalla produzione, dai trasporti e dal lavoro fisico; da data center e cavi sottomarini che tracciano i percorsi tra i continenti; da dispositivi personali e dai loro componenti grezzi; da segnali di trasmissione che passano attraverso l’aria; da set di dati recuperati da Internet; e da continui cicli di calcolo. Tutti questi elementi hanno un costo.¹⁰

L’intelligenza artificiale non è una tecnica computazionale oggettiva, universale o neutrale che prende decisioni in assenza di istruzioni umane. l suoi sistemi sono incorporati nel mondo sociale, politico, culturale ed economico, plasmati da esseri umani, da istituzioni e da imperativi che determinano ciò che gli uomini fanno e come lo fanno. Sono progettati per discriminare, amplificare le gerarchie e codificare classificazioni rigorose. Se applicati a contesti sociali come la polizia, il sistema giudiziario, l’assistenza sanitaria e l’istruzione, possono riprodurre, ottimizzare e amplificare le disuguaglianze strutturalmente esistenti. Ciò non avviene per caso: i sistemi di IA sono costruiti per interpretare il mondo e intervenire in esso in modi che sono principalmente vantaggiosi per gli stati, le istituzioni e le società di cui sono al servizio. In questo senso, i sistemi di IA sono espressioni di potere che discendono da forze economiche e politiche più ampie, creati per aumentare i profitti e centralizzare il controllo nelle mani di coloro che li detengono. Ma non è così che di solito viene raccontata la storia dell’intelligenza artificiale.

l resoconti tradizionali sull’IA spesso si concentrano su una sorta di eccezionalismo algoritmico: l’idea che, in quanto capaci di eseguire prodigi di calcolo, i sistemi di IA devono essere più intelligenti e più obiettivi dei loro imperfetti creatori umani. Si consideri il diagramma di AlphaGo Zero nella figura 18, un programma di intelligenza artificiale progettato da DeepMind di Google per i giochi di strategia. L’immagine mostra come il programma «impari» a giocare a Go, il gioco di strategia cinese, valutando oltre mille opzioni per mossa. Nel documento che illustra questo sviluppo, gli autori scrivono: «Partendo da una tabula rasa, il nostro nuovo programma AlphaGo Zero ha conseguito prestazioni sovrumane». Il cofondatore di DeepMind Demis Hassabis ha descritto questi motori di gioco come qualcosa che si avvicina a un’intelligenza aliena. «Non gioca come un essere umano, ma nemmeno come un sistema informatico. Gioca in modo diverso, quasi alieno, come scacchi provenienti da un’altra dimensione». Quando la successiva versione riuscì a padroneggiare Go in tre giorni, per Hassabis era come «riscoprire tremila anni di conoscenza umana in 72 ore»¹¹

1Kate Crawford, Né intelligente né artificiale, Bologna, Il Mulino, 2021, pp. 11–12.

2Ibidem, p. 15.

3Ibidem, p. 19.

4Ibidem, p. 22.

5Ibidem, p. 27.

6Ibidem, p. 29.

7Ibidem, p. 45.

8Ibidem, p. 64.

9Ibidem, p. 65.

10Ibidem, p. 67.

11Ibidem, p. 310.