shelidonDecember 10, 20231 Comment on Imperi Calcolatori

All’Osservatorio della Fondazione Prada in Galleria Vittorio Emanuele a Milano è stata inaugurata da poco una mostra chiamata Calculating Empires (Imperi Calcolatori, o Imperi del Calcolo), a cura di Kate Crawford e Vladan Joler.
Kate Crawford è l’autrice di libri come Né intelligente né artificiale: Il lato oscuro dell’IA, edito in italiano dal Mulino, ed è stata ospite del Wired Next Fest a Milano l’anno scorso.
Vladan Joler è autore dello straordinario Black Box Cartography – A critical cartography of the Internet and beyond, parzialmente in esposizione alla mostra.

Fatta eccezione per la breve introduzione iniziale, la mostra è interamente in inglese e la parte del leone, almeno dal punto di vista contenutistico, è ricoperta da pannelli esposti alle vetrate del primo piano nell’Osservatorio. Mentre tutti si precipiteranno a farsi un selfie dentro alla black box del secondo piano, io vi consiglio di assorbire ogni parola nell’esteso saggio sviluppato sulle 21 carte da lucido e nell’evocativo video proiettato sulla parete di fondo.

“Ma io non so l’inglese!” diranno i miei piccoli amici.

E perché pensate che io stia interrompendo la mia serie di articoli per tornare alla mia madrelingua? Mamma Chiara è qui per voi: questo articolo è un vademecum in italiano per tutti coloro che faticherebbero a seguire la mostra o che non faranno in tempo a visitarla (chiude il 29 di gennaio).

L’articolo si compone di tre parti, oltre all’introduzione:

1. una prima parte decostruisce il saggio Anatomia di un sistema Al: Amazon Echo come mappa anatomica del lavoro umano, dei dati e delle risorse planetarie scritto dai curatori nel 2018;
2. una seconda parte si occupa del concetto di Nuovo Estrattivismo, espresso nella mostra tramite un video;
3. la terza e ultima parte si concentrerà sulla vera e propria mappa Calculating Empires, cuore della mostra.

Questa terza parte non è ancora pronta, ma nel frattempo pubblico anche sul blog le prime due. Sono uscite su LinkedIn rispettivamente qui e qui.

Introduzione alla mostra

Il progetto espositivo intreccia il presente tecnologico con i suoi precedenti storici, con il dichiarato obiettivo di illustrare come potere e tecnologia si siano intrecciati fin dal XVI secolo. L’esposizione fa pesante uso dell’infografica come strumento comunicativo, proponendo visuallizzazioni del tempo, della politica e della tecnologia e di come storicamente il funzionamento del nostro mondo sia oscurato da culture di segretezza aziendale e architetture tecniche, dalle complessità del colonialismo, dalle catene di approvvigionamento a livello globale, da contratti di lavoro non trasparenti, dalla mancanza di regolamentazione e dal modo stesso in cui registriamo, comunichiamo e insegnamo la storia.

L’Anatomia di un sistema Al, il primo grande pezzo esposto, è un diagramma esploso che disseziona il caso di studio di Amazon Echo, l’intelligenza artificiale a comando vocale. L’infografica, che i curatori chiamano “mappa”, visualizza i tre processi estrattivi necessari per far funzionare qualsiasi sistema su larga scala: quello delle risorse materiali, quello del lavoro umano e quello dei dati. Le risorse materiali minerali coinvolte nel processo estrattivo sono esposte nello stesso spazio. All’infografica si accompagna il saggio del 2018. Cinque anni sono eoni, in questo ambito, quindi i più informati e attenti riscontreranno alcune obsolescenze. Ritengo comunque che i concetti centrali possano essere ancora interessanti.

Di fronte, oltre all’esposizione del saggio Anatomia di un sistema AI, una grande edizione della Cartografia Critica di Internet è affiancata ad alcune delle mappe sotto forma di diapositive. Questi contenuti sono riproposti, in un diverso formato, all’interno della Black Box of Cartography, cui accennavo in apertura.

Il fulcro della mostra è la sala delle mappe, una vera e propria scatola nera che propone un raggruppamento tematico delle varie forze in gioco e che mostra come gli imperi degli ultimi 500 anni, sia politici che economico-culturali, riecheggino nelle multinazionali tecnologiche di oggi. Questa dettagliata narrazione visiva si estende per 24 metri e illustra le forme di comunicazione, classificazione, distribuzione e controllo con migliaia di disegni e testi che attraversano secoli di conflitti, conquiste e colonizzazioni.
Parte dell’infografica rivela la molteplicità dei nostri dispositivi di comunicazione, delle interfacce, delle infrastrutture, delle pratiche relative ai dati, delle architetture computazionali e degli hardware. Un’altra parte esplora il modo in cui queste tecnologie si intrecciano con le pratiche sociali di classificazione e controllo: dalle prigioni alla polizia, dal tempo all’istruzione, dal colonialismo alla produzione economica, fino alla moltitudine di sistemi militari. L’architettura è inserita all’interno degli strumenti di controllo insieme all’educazione formale.

Rispetto all’Anatomia, che adottava un approccio spaziale, l’infografica adotta l’approccio temporale di una timeline illustrata.

La mostra si conclude con dei cabinet of curiosities, una collezione eclettica di libri, dispositivi ed oggetti che vanno dal 1500 al 2023, e in una riproduzione su lucidi delle mappe esposte nella scatola nera, su cui i visitatori sono invitati a disegnare e scrivere a matita in un’ammissione, almeno apparente, della soggettività di quanto esposto.

Anatomia di un sistema Al: Amazon Echo come mappa anatomica del lavoro umano, dei dati e delle risorse planetarie
Di Kate Crawford e Vladan Joler
(2018)

A cylinder sits in a room. It is impassive, smooth, simple and small. It stands 14.8cm high, with a single blue-green circular light that traces around its upper rim. It is silently attending. A woman walks into the room, carrying a sleeping child in her arms, and she addresses the cylinder.
“Alexa, turn on the hall lights.”

Il saggio si apre con la narrazione descrittiva di uno spot pubblicitario in cui un’utente, una donna con un bambino addormentato, ordina al dispositivo Amazon Echo di accendere le luci.

La narrazione si concenra principalmente su due aspetti: la retorica dell’utente, che proietta un’immagine familiare includendo il dispositivo all’interno dello spazio intimo e protetto, e la purezza estetica del dispositivo stesso, un cilindro impenetrabile la cui purezza in realtà comunica la totale impenetrabilità del sistema.

L’interazione tuttavia è al centro della trattazione. Un breve comando e una risposta sono la forma più comune di interazione con l’Intelligenza Artificiale a comando vocale ma sottointendono quella che l’esposizione definisce “una vasta matrice di capacità“: estrazione di risorse, lavoro umano ed elaborazione algoritmica che avviene attraverso ulteriori reti di estrazione, impianti logistici di distribuzione, previsione e ottimizzazione. La scala del sistema è enorme. Obiettivo del saggio in 21 parti è farci comprendere tale scala.

II. L’estetica dell’AI

La narrazione del primo spot è tratta da un video promozionale del 2017 che pubblicizzava Amazon Echo, in cui si spiegava che il rispositivo si sarebbe connesso ad Alexa per “riprodurre musica, chiamare amici e parenti, controllare dispositivi domestici intelligenti e altro ancora”. La sua estetica sembra appositamente progettata per mimetizzarsi nell’ambiente o distinguersi in modo amichevole: sia il tono delle luci che le sue forme tondeggianti, oltre ai materiali di finitura, evitano accuratamente estetiche aggressive e/o umanoidi normalmente associate a robotica e intelligenza artificiale.

Ma come funziona in realtà?
Il dispositivo contiene sette microfoni direzionali, in modo che l’utente possa essere ascoltato anche durante la riproduzione di musica, ma la maggiore complessità è racchiusa nei livelli di elaborazione delle informazioni che il sistema mette in atto per funzionare come richiesto. Questi livelli sono alimentati da un costante flusso di informazioni nella forma di voci (umane) che pongono domande, la traduzione testuale di queste domande, l’uso di questi testi per interrogare database di potenziali risposte, e il corrispondente flusso di risposte di Alexa. Per ogni risposta fornita da Alexa, la sua efficacia viene infine dedotta da ciò che accade successivamente: l’utente ripropone la stessa domanda? Questo potrebbe indicare che la risposta di Alexa è stata sbagliata o che l’utente ha percepito di non essere stato ascoltato. L’utente riformula la domanda? In tal caso, l’utente ha probabilmente percepito di non essere stato compreso. Infine, Alexa ha effettuato un’azione a seguito della domanda? Quest’ultima parte verifica che l’interazione abbia portato a una risposta: una luce accesa, un prodotto acquistato, la riproduzione di un brano.

Ogni interazione addestra Alexa a sentire meglio, a interpretare in modo più preciso, a innescare azioni che corrispondono ai comandi dell’utente in modo più accurato e a costruire un modello più completo delle sue preferenze, abitudini e desideri. Questo richiede una vasta rete a livello globale, alimentata dall’estrazione di materiali, manodopera, dati ed energie non rinnovabili. L’entità delle risorse impiegate a compiere una semplice azione come accendere le luci è innegabilmente di gran lunga superiore all’energia e alla manodopera che sarebbero necessarie all’essere umano per alzare il culo e andare a premere il fottuto interruttore.

“Un rendiconto completo di questi costi è quasi impossibile, ma è sempre più importante coglierne l’entità e la portata se vogliamo comprendere e governare le infrastrutture tecniche che attraversano le nostre vite.”

III. Risorse materiali: il litio

Il Salar de Uyuni, conosciuto anche come salar de Tunupa, è il più grande altopiano salato del mondo e si trova nel sud-ovest della Bolivia a un’altitudine di 3.656 metri sul livello del mare. La crosta salina che ricopre l’altopiano è eccezionalmente ricca di litio e contiene dal 50% al 70% delle riserve mondiali di questa risorsa, insieme alla vicina regionie desertica dell’Atacama in Cile.

Secondo le leggende degli Aymara, la popolazione indigena della zona, le formazioni monuose vulcaniche dell’altopiano andino sono frutto di una tragedia consumatasi nella notte dei tempi. Molto tempo fa, infatti, i vulcani erano vivi e vagavano liberamente per le pianure. Tunupa – l’unico vulcano di sesso femminile – diede alla luce un bambino ma i vulcani maschi ne erano gelosi, perché Tunupa aveva creato qualcosa dimostrando un potere a loro sconosciuto e inaccessibile: rapirono il bambino, quindi, e lo bandirono in un luogo lontano dalla madre. Gli dei a loro volta punirono i vulcani, immobilizzandoli tutti sulla Terra.
Addolorata per il bambino che non poteva più raggiungere e per nulla confortata dalla vendetta perpetrata dagli dei, Tunupa pianse amaramente: le sue lacrime e il suo latte materno si mescolarono così per creare un gigantesco lago salato: il Salar.

“Il vostro smartphone è alimentato dalle lacrime e dal latte materno di un vulcano.”
— Liam Young e Kate Davies

Il litio è un metallo morbido e di colore argenteo, e viene attualmente utilizzato per le batterie agli ioni che alimentano i dispositivi mobili connessi. È talmente prezioso per la società contemporanea occidentale che viene anche chiamato “oro grigio“: le batterie degli smartphone contengono circa otto grammi di questo materiale, mentre un’automobile elettrica della linea Tesla ha bisogno di circa sette chilogrammi di litio per il suo pacco batterie. Tutte queste batterie hanno una durata limitata e una volta consumate non sono considerate riciclabili. Anche Amazon Echo dispone di una batteria mobile, e la sua durata è parte di quell’obsolescenza programmata che costituisce parte ecologica del problema.

IV. Cicli di estrazione

Il diagramma esploso ed esposto a parete combina e visualizza tre processi estrattivi necessari per far funzionare un sistema di intelligenza artificiale su larga scala come Amazon Echo: risorse materiali, lavoro umano e dati. Questi tre elementi vengono considerati nel tempo, e rappresentati come una descrizione visiva della nascita, della vita e della morte di una singola unità Amazon Echo.

Vincent Mosco, nella sua produzione saggistica tra cui To the Cloud: Big Data in a Turbulent World del 2014, evidenzia la contraddizione tra il “cloud”, con le sue eteree metafore di smaterializzazione, e la realtà fisica dell’estrazione di minerali e dell’esproprio di risorse e dignità cui vengono sottoposte le popolazioni alla base di questa catena produttiva.

Il cloud computing e i big data sono probabilmente le forze più significative dell’informatica di oggi. Sulla scia delle rivelazioni sulle attività della National Security Agency (NSA), molte delle quali avvengono “nel cloud”, questo libro offre una visione illuminante e critica. Vincent Mosco esplora le origini del cloud, il suo significato e la sua importanza per le aziende, le amministrazioni e i cittadini. Descrive l’intensa competizione tra aziende cloud come Amazon e Google, la diffusione del cloud presso agenzie governative come la controversa NSA e la sorprendente crescita di intere città cloud in Cina. Il cloud è la tanto promessa utility informatica che risolverà molti dei problemi economici e sociali del mondo? O si tratta solo di pubblicità? To the Cloud fornisce la prima analisi approfondita del potenziale e dei problemi di una tecnologia che potrebbe davvero sconvolgere il mondo.

Sandro Mezzadra e Brett Nielson, nel loro Confini e frontiere: la moltiplicazione del lavoro nel mondo globale, usano il termine “estrattivismo” per denominare la relazione tra le diverse forme di operazioni estrattive che avvengono nel capitalismo contemporaneo. Queste operazioni sono messe a sistema e ripetute nell’industria alla base della produzione, del sostentamento e dello smaltimento di un sistema d’Intelligenza Artificiale.

Secondo i curatori, esistono profonde interconnessioni tra il letterale esaurimento di materiali della terra e l’estinzione delle risorse nella biosfera, e la cattura dei dati, la monetizzazione delle pratiche umane di comunicazione e socialità da parte delle Intellligenze Artificiali. Lo sfruttamento del lavoro è al centro di questa relazione estrattiva che, sempre secondo i curatori, si è ripetuta nel corso della storia dallo sfruttamento degli schiavi alle squadre di lavoro forzato nelle piantagioni di caucciù in Malesia, alle popolazioni indigene della Bolivia spinte a estrarre l’argento utilizzato nella prima moneta globale. Concentrarsi sull’estrazione richiede di mantenere l’attenzione su tutti e tre gli elementi: il lavoro, le risorse coinvolte e il ruolo dei dati nel sistema.

V. Lettura dell’infografica

Letta da sinistra a destra, l’infografica sul ciclo di vita dell’Intelligenza Artificiale inizia e finisce con la Terra e i suoi processi geologici. Leggendola invece dall’alto verso il basso, la storia inizia e finisce con un essere umano: in alto infatti troviamo l’agente-consumatore che interroga Echo, ed egli stesso è lavoratore che fornisce ad Amazon dati preziosi per l’addestramento e il perfezionamento del sistema. Nella parte inferiore dell’infografica si trova un altro tipo di risorsa, sotto forma di storia della conoscenza e della capacità umana. Anche questo patrimonio, ormai digitalizzato, viene utilizzato per addestrare e ottimizzare i sistemi di intelligenza artificiale. Questa è una differenza fondamentale tra i sistemi di intelligenza artificiale e altre forme di tecnologia di consumo: essi si basano sull’ingestione, l’analisi e l’ottimizzazione di grandi quantità di immagini, testi e video generati dall’uomo.

VI. Da consumatore a lavoratore

Quando un essere umano interagisce con Echo o con un’altra Intelligenza Artificiale a comando vocale, è molto di più di un semplice consumatore finale di un prodotto. O molto meno, a seconda dei punti di vista. A causa del funzionamento stesso di questi sistemi, l’utente di Echo è contemporaneamente un consumatore, una risorsa, un lavoratore e un prodotto. I curatori della mostra lo paragonano alla mitica chimera.
Questa identità multipla dell’utente umano ricorre in molti sistemi tecnologici. Nel caso specifico di Amazon Echo, l’utente ha acquistato un dispositivo di consumo per il quale riceve una serie di comodi vantaggi. Ma è anche una risorsa, poiché i suoi comandi vocali vengono raccolti, analizzati e conservati per costruire un corpus sempre più ampio di comandi e istruzioni umane. E fornisce lavoro, in quanto svolge continuamente il prezioso servizio di contribuire a meccanismi di feedback per quanto riguarda l’accuratezza, l’utilità e la qualità complessiva delle risposte di Alexa. La cosa importante da evidenziare è che, in questi nuovi sistemi, il consumatore non contribuisce ad addestrare il proprio dispositivo domestico, ma il suo feedback è assorbito all’interno delle reti neurali dell’infrastruttura di Amazon.

VII. Il tema del controllo

Tutto ciò che va oltre le limitate interfacce fisiche e digitali del dispositivo è fuori dal controllo dell’utente. Ciò che apparentemente è una scelta estetica, la superficie pura e impenetrabile di una forma geometrica, nasconde la precisa volontà di impedire ogni esplorazione da parte dell’utente: il dispositivo non può essere aperto, riparato o modificato. Anche laddove fosse possibile aprirlo, la sua reale complessità risiede altrove, lontano dagli occhi. Echo non è che un orecchio, un agente di ascolto che non dichiara le proprie connessioni con i sistemi remoti che ne garantiscono il funzionamento.

Questo funzionamento suggerisce ai curatori l’accostamento con un altro dispositivo di ascolto, la “statua parlante” inventata nel 1673 dall’inventore gesuita Athanasius Kircher.

Durante la sua vita, Kircher pubblicò oltre quaranta opere nei campi della medicina, della geologia, della religione comparata e della musica. Inventò il primo orologio magnetico, molti automi e il megafono. La sua statua parlante non era esattamente un automa, tuttavia, ma uno dei primi sistemi di ascolto (perfettamente nel personaggio per un gesuita): essenzialmente poteva riprodurre le conversazioni captate da una piazza pubblica, trasmesse attraverso un grande tubo a spirale, e ripetute attraverso la bocca di una statua conservata nelle stanze private di un aristocratico.

Kircher stesso scriveva:

“Questa statua deve essere collocata in un determinato luogo, in modo che la sezione terminale del tubo a spirale corrisponda esattamente all’apertura della bocca; in questo modo sarà perfettamente capace di emettere chiaramente qualsiasi tipo di suono: infatti la statua sarà in grado di parlare, pronunciando una voce umana o animale: riderà o sogghignerà; sembrerà piangere o gemere davvero; a volte con grande stupore soffierà con forza. Se l’apertura del tubo a spirale si trova in corrispondenza di uno spazio pubblico aperto, tutte le parole umane pronunciate, concentrate nel condotto, verrebbero riprodotte attraverso la bocca della statua.”

Il sistema poteva origliare le conversazioni quotidiane in piazza e trasmetterle agli oligarchi italiani del XVII secolo. La statua parlante di Kircher era quindi una prima forma di estrazione di informazioni per l’élite e un’avanzatissima forma di quello spionaggio di cui gesuiti come Kircher erano maestri. Chi parlava per strada non aveva alcuna indicazione del fatto che le sue conversazioni fossero incanalate verso gente che avrebbe sfruttato quella conoscenza per il proprio potere, intrattenimento e ricchezza. Le persone all’interno delle case degli aristocratici, di rovescio, non avrebbero avuto idea di come una statua magica potesse parlare e trasmettere ogni sorta di informazione, diventando una specie di oracolo moderno.
Lo scopo dell’intera invenzione era quello di oscurare il funzionamento del sistema: una statua elegante era tutto ciò che i visitatori avrebbero potuto vedere.
I sistemi di ascolto in questa fase iniziale avevano a che fare con il potere, la classe sociale e la segretezza.
Ma l’infrastruttura del sistema di Kircher era proibitiva dal punto di vista dei costi, principalmente connessi all’infrastruttura fisica necessaria, ed era realizzabile solo in poche circostanze. La domanda tuttavia permane: quali sono le implicazioni in termini di risorse per la costruzione di tali sistemi?

VIII. La prospettiva geologica

Marshall McLuhan, teorico canadese della comunicazione, nel suo Understanding Media: The Extensions of Man (1964) teorizzava che essi fossero essenzialmente delle estensioni dei sensi umani: il suo intento era quello di spostare l’attenzione dal messaggio al medium in se stesso, e di evidenziare come l’influenza di un medium sulla società è collegata molto più alle sue caratteristiche che ai contenuti veicolati.

Nel suo libro A Geology of Media, Jussi Parikka contesta parzialmente questo approccio e suggerisce di pensare ai media non tanto come un’estensione dell’umano ma come un’estensione della Terra, spostando l’attenzione quindi alla comprensione delle tecnologie nel contesto del processo geologico di formazione, dei processi di trasformazione delle risorse, fino al movimento degli elementi naturali che alimentano il funzionamento materiale dei mezzi di comunicazione. Riflettere sui media e sulla tecnologia come processi geologici ci permette di considerare il profondo esaurimento delle risorse non rinnovabili necessarie per alimentare le tecnologie del momento. Ogni oggetto della rete estesa di un sistema di intelligenza artificiale come Echo, dai router alle batterie ai microfoni, è costruito utilizzando elementi che hanno richiesto miliardi di anni per essere prodotti, e che vengono consumati a una velocità difficilmente sostenibile.

Guardando dalla prospettiva del tempo, le risorse che stiamo estraendo e che hanno richiesto millenni serviranno una frazione di secondo di tempo tecnologico. Da un lento processo di sviluppo degli elementi, questi elementi e materiali passano attraverso un periodo straordinariamente rapido di scavo, fusione, miscelazione e trasporto logistico, attraversando migliaia di chilometri nella loro trasformazione, ma i dispositivi sono progettati per diventare obsoleti nell’arco di qualche anno. Questo ciclo di obsolescenza programmata alimenta l’acquisto di altri dispositivi, fa aumentare i profitti e incentiva l’uso di pratiche di estrazione non sostenibili, ma chiude il cerchio restituendo al pianeta sconfinate discariche in cui i rifiuti elettronici non vengono riutilizzati in alcun modo.

IX. L’analisi del lavoro

Tracciare le connessioni tra risorse, lavoro ed estrazione di dati porta i curatori verso quadri tradizionali di sfruttamento e, in particolare, il triangolo con cui Marx illustra la dialettica tra soggetto e oggetto, tra i mezzi di produzione e la forza lavoro. Per Marx, soggetto e oggetto sono due sostanze filosoficamente distinte, composte di materie differenti, e l’azione trasforma queste due sostanze: il soggetto, ossia l’uomo, con la sua fruizione quotidiana degli oggetti soggettivizza l’oggetto, e questa è la buona notizia, ma la chiusura del triangolo richiede necessariamente di considerare che la produzione di questi oggetti, effettuata tramite il lavoro, oggettivizza il soggetto. L’uomo rende personali gli oggetti che utilizza ma, per produrli, si riduce esso stesso a oggetto.

Ogni volta che lo riassumo in questo modo,
un filosofo da qualche parte muore.

Come viene generato il valore quindi attraverso i sistemi descritti in connessione all’intelligenza artificiale? Oltre a Marx, i curatori ricorrono a Christian Fuchs quando esamina e definisce il lavoro digitale.
La nozione di lavoro digitale, inizialmente collegata a diverse forme di lavoro non materiale, precede la vita di dispositivi e sistemi complessi come l’intelligenza artificiale. In questo caso tuttavia stiamo integrando il discorso — il triangolo, se volete — con lavori tutt’altro che immateriali, ovvero i lavori di costruzione e manutenzione dello stack di sistemi digitali richiesti per far funzionare l’intelligenza artificiale. La portata dell’analisi diventa quindi enorme: si tratta di mettere a sistema attività che vanno dal lavoro in miniera per l’estrazione dei minerali che costituiscono la base fisica delle tecnologie dell’informazione, ai processi di produzione e assemblaggio di hardware, effettuati in condizioni strettamente controllate e non meno pericolose del lavoro in miniera, ai lavori di carattere cognitivo che vengono dati in outsourcing nei Paesi in via di sviluppo e che etichettano gli insiemi di dati per l’addestramento delle Intelligenze Artificiali, fino ai lavoratori che operano nelle discariche di rifiuti tossici al termine del ciclo di vita di un dispositivo.
Questi processi creano nuovi accumuli di ricchezza e potere, che si concentrano in uno strato sociale molto sottile.

X. Una nuova dialettica tra soggetto e oggetto

Il triangolo di Marx viene trasformato in un triangolo di estrazione e produzione di valore, dalla nascita in un processo geologico alla vita come prodotto di consumo fino alla morte del dispotivo in una discarica. I curatori sfruttano l’ulteriore lavoro di Fuchs e collegano i triangoli, facendone un sistema frattale: ogni triangolo è collegato a un altro nel processo di produzione e insieme formano un flusso ciclico in cui il prodotto del lavoro si trasforma in una risorsa, che si trasforma in un prodotto, che si trasforma in una risorsa. Ogni triangolo rappresenta una fase del processo produttivo. La struttura frattale non è un’invenzione di questa mostra, ed è anche nota come triangolo di Sierpinski dal nome del matematico polacco che lo descrisse nel 1915.

Il triangolo è presentato a completamento dell’infografica, in cui la nascita, vita e morte del dispositivo sono presentate come un percorso lineare di trasformazione. Questa visualizzazione lineare tuttavia non permette di mostrare che ogni fase successiva della produzione e dello sfruttamento contiene le fasi precedenti. Guardando al sistema di produzione e sfruttamento attraverso una struttura visiva frattale, invece, il triangolo più piccolo rappresenterebbe le risorse naturali e i lavoratori, cioè il minatore e il minerale. Il triangolo successivo, che contiene ciascuno dei precedenti, comprende la lavorazione del metalli, mentre quello successivo rappresenta il processo di produzione dei componenti. Il triangolo finale, la produzione dell’unità Echo, comprende tutti questi livelli di sfruttamento, dal basso fino al vertice di Amazon.

Come un faraone dell’antico Egitto, [Jeff Bezos] si trova in cima alla più grande piramide di estrazione del valore dell’Intelligenza Artificiale.

XI. 700.000 anni di lavoro

Per tornare all’elemento di base della visualizzazione frattale, che di fatto è una variazione del triangolo di produzione di Marx, ogni triangolo crea un surplus di valore per generare profitti. Se si osserva la scala del reddito medio per ogni attività nel processo di produzione di un dispositivo, che è mostrata sul lato sinistro dell’infografica, diventa evidente la drammatica differenza di reddito.
Secondo una ricerca di Amnesty International, durante l’estrazione di quel cobalto che viene utilizzato per le batterie al litio, i lavoratori sono pagati l’equivalente di un dollaro al giorno per lavorare in condizioni estreme e vengono sottoposti a violenze, estorsioni e intimidazioni. Amnesty ha documentato che nelle miniere lavorano bambini di soli 7 anni.
Secondo il Bloomberg Bilionaires Index, l’amministratore delegato di Amazon Jeff Bezos ha guadagnato in media 275 milioni di dollari al giorno nei primi cinque mesi del 2018. L’indice può essere osservato in tempo reale qui.

Un bambino che lavora in una miniera del Congo avrebbe bisogno di più di 700.000 anni di lavoro ininterrotto per guadagnare la stessa cifra di un solo giorno di reddito di Bezos.

Molti dei triangoli nascosti nell’infoografica evidenziano diverse storie di sfruttamento e sottintendono condizioni di lavoro disumane, ma il prezzo ecologico della trasformazione degli elementi e le disparità di reddito sono solo alcuni dei possibili modi di rappresentare una profonda disuguaglianza sistemica. Un altro approccio è quello della scatola nera, questa volta non intesa come imperscrutabilità dei processi algoritmici ma dedita a sottolineare un’altra forma di mancata trasparenza: i processi stessi di creazione, assemblaggio e smaltimento di un dispositivo come Amazon Echo sono essi stessi una sorta di scatola nera, molto difficile da esaminare e tracciare in toto dati i molteplici strati di appalti, distributori e partner logistici distribuiti per il mondo. Come scrive Mark Graham:

“il capitalismo contemporaneo nasconde le storie e le geografie della maggior parte delle merci ai consumatori, che di solito sono in grado di vedere le merci solo nel qui e ora del tempo e dello spazio, e raramente hanno la possibilità di guardare all’indietro attraverso le catene di produzione per acquisire conoscenze sui luoghi di produzione, trasformazione e distribuzione”.

Un esempio della difficoltà di indagare e tracciare il processo della catena di produzione è Intel, che produce chip semiconduttori e fornisce processori più o meno a chiunque, Apple inclusa: nel loro sforzo per creare una catena di approvviggionamento che non fosse coinvolta nello sfruttamento, documentato all’interno del paper Quest for a Responsible Mineral Supply Chain, l’azienda ha impiegato più di quattro anni per portare avanti un’analisi completa della propria catena di approvvigionamento e comprenderla a sufficienza per assicurarsi che nessun tantalio proveniente dal Congo fosse presente nei propri microprocessori.
La catena di approvvigionamento di Intel si sviluppava infatti su più livelli, com’è normale per una produzione su quella scala, ed era composta da oltre 19.000 fornitori in più di 100 Paesi. Questi forniscono sia materiali direttamente destinati ai processi di produzione che materiali indirettamente utilizzati per strumenti e macchine, coinvolte sia nelle fabbriche che nei servizi di logistica e imballaggio. Il fatto che un’azienda leader nel settore tecnologico abbia impiegato più di quattro anni solo per comprendere la propria catena di approvvigionamento, rivela quanto questo processo possa essere difficile da comprendere dall’interno, per non parlare di ricercatori esterni, giornalisti e accademici.

Sull’esempio di Intel, anche Philips ha dichiarato di essere al lavoro per rendere la propria catena di approvvigionamento priva di conflitti. In questo caso si tratta di un’analisi che coinvolge decine di migliaia di fornitori diversi, ognuno dei quali fornisce differenti componenti ai processi produttivi. Questi fornitori sono a loro volta collegati a decine di migliaia di produttori di componenti che acquistano i materiali da centinaia di raffinerie che acquistano gli ingredienti da diverse fonderie, che si riforniscono da un numero imprecisato di commercianti che trattano direttamente sia le operazioni di estrazione legale che quelle illegali, che si riforniscono da un numero imprecisato di commercianti che hanno a che fare direttamente con le operazioni minerarie, sia legali che illegali, che al mercato mio padre comprò.

Nel suo The Elements of Power: Gadgets, Guns, and the Struggle for a Sustainable Future in the Rare Metal Age, David S. Abraham descrive le reti invisibili dei commercianti di metalli rari nelle catene di fornitura dell’elettronica globale.

“La rete per portare i metalli rari dalla miniera al vostro computer portatile passa attraverso una rete oscura di commercianti, trasformatori e produttori di componenti. I commercianti sono gli intermediari che non si limitano a comprare e vendere metalli rari, ma contribuiscono a regolare le informazioni e sono l’anello nascosto che aiuta a navigare nella rete tra le fabbriche di metalli e i componenti dei nostri computer portatili.”

Secondo un report prodotto nel 2018 da Dell, le complessità della catena di approvvigionamento dei metalli pongono sfide quasi insormontabili. L’estrazione di questi minerali avviene molto prima dell’assemblaggio del prodotto finale, rendendo estremamente difficile rintracciare l’origine dei minerali. Inoltre, molti minerali vengono fusi insieme a metalli riciclati, e a quel punto diventa praticamente impossibile risalire alla loro origine. Il tentativo di analizzare l’intera catena di fornitura si traduce quindi nel titanico compito di spiegare la complessità della produzione globale di prodotti tecnologici del XXI secolo.

Ma possiamo davvero non farlo?

XII. Il costo del trasporto

Le catene di fornitura sono spesso stratificate l’una sull’altra, e intrecciate a comporre una rete a dir poco tentacolare. Il programma di fornitori di Apple rivela che ci sono decine di migliaia di singoli componenti incorporati nei dispositivi, a loro volta forniti da centinaia di aziende diverse. Affinché ciascuno di questi componenti arrivi alla catena di montaggio finale, dove sarà assemblato dagli operai degli stabilimenti del gruppo tecnologico Taiwanese Foxconn, i diversi componenti devono essere trasferiti fisicamente da oltre 750 sedi di fornitori in 30 Paesi diversi. Si tratta di una complessa struttura di catene di fornitura all’interno di altre catene di fornitura, un frattale di decine di migliaia di fornitori, milioni di chilometri di materiali spediti e centinaia di migliaia di lavoratori coinvolti ancora prima che il prodotto venga assemblato in catena di montaggio.

Visualizzando questo processo come un’unica rete pancontinentale attraverso la quale scorrono i materiali, i componenti e i prodotti, i curatori trovano un’analogia con la rete globale dell’informazione. Dove c’è un singolo pacchetto dati che viaggia su internet verso un dispositivo Amazon Echo, immaginano un singolo container e partono per la tangente.

Lo spettacolo vertiginoso della logistica e della produzione globale non sarebbe stato possibile senza l’invenzione di questo semplice oggetto metallico standardizzato.

L’invenzione di questo oggetto standardizzato, o almeno parte dell’intuizione collegata ad esso, si fa normalmente risalire al 1956 e in particolare allo statunitense Malcolm McLean che un giorno, seduto sul suo camion ad aspettare che il carico venisse trasferito sulla nave, pensò che sarebbe stato di gran lunga più semplice caricare l’intero corpo del camion, tutto insieme, e tanti saluti.

Le misure di quello che attualmente chiamiamo container ISO sono state stabilite nel 1967: larghezza 244 cm, altezza 259 cm, lunghezza 610 cm o 1220 cm.

Secondo i curatori, l’uso dei container standardizzati ha permesso l’esplosione dell’industria navale moderna, che a sua volta ha reso possibile plasmare il pianeta come un’unica, enorme fabbrica.

Nel 2017, la capacità delle navi portacontainer nel commercio marittimo ha raggiunto quasi 250.000.000 di tonnellate di portata lorda, e l’industria dei trasporti in ambito navale è dominata da gigantesche compagnie di navigazione come la danese Maersk, la svizzera Mediterranean Shipping Company e la francese CMA CGM Group, ciascuna delle quali possiede centinaia di navi portacontainer. Per loro, il trasporto merci è un modo relativamente economico per attraversare il sistema vascolare della fabbrica globale, ma nasconde costi molto più alti.
Per ridurre al minimo i costi interni, la maggior parte delle aziende utilizza carburante di qualità molto bassa in quantità enormi, il che comporta un aumento delle quantità di zolfo nell’aria, oltre ad altre sostanze tossiche. È stato stimato che una sola nave portacontainer può emettere una quantità di inquinamento pari a quella di 50 milioni di automobili e che ogni anno 60.000 morti in tutto il mondo sono attribuite indirettamente a problemi di inquinamento legati all’industria delle navi da cargo.
Negli ultimi anni, le navi da cargo hanno prodotto il 3,1% delle emissioni annue globali di CO2, più dell’intera Germania.

Anche fonti amiche dell’industria, come il World Shipping Council, ammettono che ogni anno migliaia di container vanno persi sul fondo dell’oceano o alla deriva. Posso testimoniare personalmente questo fenomeno: in fondo al mar mediterraneo, ci sono almeno due delle mie camere d’albergo completamente arredate, sganciate per motivi di sicurezza durante una tempesta.
Alcuni di questi container trasportano sostanze tossiche o che diventano tossiche quando disperse negli oceani.

A questo si aggiunge la condizione dei lavoratori, che in genere trascorrono dai 9 ai 10 mesi per mare, spesso con turni di lavoro lunghissimi e senza accesso a comunicazioni esterne.
I lavoratori delle Filippine rappresentano più di un terzo della forza lavoro del trasporto marittimo globale.

XIII. Una nuova trasformazione alchemica

La crescente complessità e miniaturizzazione della nostra tecnologia dipende da un processo che, secondo i curatori, riecheggia stranamente le speranze e le ambizioni dell’alchimia medievale. Mentre gli alchimisti miravano a trasformare i metalli di base in metalli nobili, oggi i ricercatori utilizzano le terre rare per migliorare le prestazioni di altri minerali.

Esistono 17 elementi delle terre rare, che sono incorporati nei computer portatili e negli smartphone rendendoli più piccoli e leggeri. Sono presenti nei display a colori, negli altoparlanti, negli obiettivi delle fotocamere, nei sistemi GPS, nelle batterie ricaricabili, nei dischi rigidi e in molti altri componenti. Sono elementi chiave nei sistemi di comunicazione, dai cavi in fibra ottica all’amplificazione del segnale nelle torri di comunicazione mobile, fino ai satelliti e alla tecnologia GPS. Le caratteristiche conduttive, ottiche e magnetiche degli elementi delle terre rare sono uniche e non possono essere eguagliate da nessun altro metallo o sostituto sintetico scoperto fino ad ora. Sebbene siano chiamati “rari”, alcuni sono relativamente abbondanti nella crosta terrestre ma la loro estrazione è costosa e altamente inquinante.
Inoltre, la configurazione e l’uso precisi di questi minerali all’interno dei dispositivi elettronici risulta difficile da accertare.
Così come gli alchimisti medievali nascondevano le loro ricerche dietro cifrari e simbolismi criptici, i processi contemporanei di utilizzo dei minerali nei dispositivi sono protetti da NDA e segreti commerciali.

Nel suo già citato The Elements of Power, David Abraham descrive l’estrazione a Jianxi, in Cina, di disprosio e terbio utilizzati in una serie di dispositivi ad alto livello tecnologico

“Solo lo 0,2% dell’argilla estratta contiene i preziosi elementi delle terre rare. Ciò significa che il 99,8% della terra rimossa nelle miniere di terre rare viene scartata sotto forma di rifiuti chiamati “sterili” che vengono riversati nelle colline e nei corsi d’acqua, creando nuovi inquinanti come l’ammonio”.

Per raffinare una tonnellata di elementi di terre rare, la Chinese Society of Rare Earths stima che il processo produca 75.000 litri di acqua acida e una tonnellata di residuo radioattivo. Inoltre, le attività di estrazione e raffinazione consumano grandi quantità di acqua e generano grandi quantità di emissioni di CO2.
Nel 2009, la Cina ha prodotto il 95% della fornitura globale di questi elementi e si stima che il singolo distretto minerario noto come Bayan Obo contenga il 70% delle riserve mondiali. Coprendo un’area di 247.89 kmq, nel 2005 ha prodotto da solo il 45% della fornitura globale.

XIV. Disastri ambientali: Bangka

Un’immagine satellitare di Bangka, isola indonesiana di appena 11,693.54 kmq, racconta la storia del tributo umano e ambientale nella produzione di semiconduttori. L’isola è uno dei più grandi centri produttivi di stagno del mondo, che viene estratto da minatori senza contratto: l’estrazione viene effettuata dal fondale marino e avviene mentre i lavoratori si bilanciano su pontoni e zattere spesso improvvisate, usando pali di bambù per raschiare il fondale e immergendosi poi per aspirare lo stagno dalla superficie dell’acqua attraverso grandi tubi.

Secondo un’inchiesta del Guardian, che ha soprannominato lo stagno “il metallo della morte”:

“l’estrazione dello stagno è un commercio lucrativo ma distruttivo che ha sfregiato il paesaggio dell’isola, abbattuto le sue fattorie e le sue foreste, ucciso la fauna marina e le barriere coralline e intaccato il turismo nelle sue graziose spiagge ornate di palme.”

I danni si vedono meglio dall’alto, dove sacche di foresta lussureggiante si stringono in mezzo a enormi distese brulle di terra dal colore innaturale.

Insieme a un’altra piccola isola limitrofa, Belitung, Bangka produce il 90% dello stagno indonesiano e l’Indonesia è il secondo esportatore mondiale di questo metallo. L’azienda nazionale dello stagno, PT Timah, rifornisce direttamente aziende come Samsung e i produttori di saldature Chernan e Shenmao, che a loro volta riforniscono Sony, LG e Foxconn. Il mercato frutta all’Indonesia circa 42 milioni di sterline all’anno, mentre un minatore guadagna circa 5 sterline al giorno.

“Dove non è dominata dalle miniere, l’isola è costellata di tombe.”

XVI. Parallelismi storici: la guttaperca

Alla fine del XIX secolo, un particolare albero del Sud-Est asiatico chiamato palaquium gutta divenne il centro di un’esplosione tecnologica. Questi alberi, che si trovano principalmente in Malesia, producono un lattice naturale bianco chiamato guttaperca, portato per la prima volta all’attenzione dell’Europa da William Montgomerie, un chirurgo scozzese della Compagnia delle Indie Orientali di stanza a Singapore, che inviò dei campioni alla Society of Arts di Londra nel 1843 con l’idea che il materiale potesse essere utilizzato per apparecchiature mediche. Sarà invece Michael Faraday, nel 1848, a identificare quello stesso materiale come estremamente adatto per essere utilizzato come isolante elettrico.

L’ingegneria riuscì dove la medicina aveva fallito, com’è facilmente immaginabile, e la guttaperca venne vista come la soluzione definitiva all’annoso problema dell’isolamento dei cavi del telegrafo, non tanto per evitare che la gente ci rimanesse attaccata, ma per consentir loro di resistere alle condizioni dei fondali oceanici.
La Gutta Percha Company, che era stata fondata nel 1845 con l’obiettivo di sfruttare il materiale per tappi di bottiglia, contava tra i suoi soci fondatori un certo Henry Bewley, che di formazione produceva tubi in piombo: sua fu l’idea di estrudere tubi di guttaperca, anziché applicare strisce del materiale al filo di rame. Il cavo divenne quindi completamente impermeabile.
Il primo ordine di cavo elettrico rivestito in guttaperca arrivò nel 1848, da parte della South Eastern Railway, che voleva un cavo lungo 2 miglia (3,2 km) a scopo sperimentale e in collaborazione con la Submarine Telegraph Company. Il cavo fu testato con successo al largo di Folkestone dalla nave Princess Clementine, che inviò messaggi a Londra. Il successo di questo esperimento portò al successivo ordine, nel 1849, di 25 miglia nautiche (46 km) di cavo direttamente da parte della Submarine Telegraph Company, che intendeva posarlo da Dover a Calais.
La posa tuttavia, effettuata nel 1850, fu un fallimento che generalmente si fa ricondurre ad un errore da parte della Telegraph Company.
La società fece quindi un nuovo ordine nel 1850, ma questa volta il cavo doveva essere inviato a un produttore di funi metalliche per essere armato prima della posa. L’ordine era in sezione quattro volte più grande di quello del 1849. Il cavo fu un successo e divenne il primo cavo sottomarino oceanico funzionante.

Con la crescita dell’attività sottomarina, crebbe anche la domanda di tronchi di palaquium gutta.
Nel suo A Short History of Cambodia: from empire to survival, lo storico John Tully descrive come i lavoratori locali malesi, cinesi e dayak venissero pagati una miseria per il pericoloso lavoro di abbattimento degli alberi e la lenta raccolta del lattice. Il lattice veniva poi lavorato e venduto attraverso le piazze di Singapore.

Una pianta matura può produrre circa 300 grammi di lattice. Peccato che il primo cavo transatlantico, posato nel 1857, era lungo circa 3000 km e pesava 2000 tonnellate, e richiedeva circa 250 tonnellate di guttaperca. Per produrre una sola tonnellata di questo materiale erano necessari circa 900.000 tronchi d’albero. Le giungle della Malesia e di Singapore vennero quindi spogliate completamente e, all’inizio degli anni Ottanta del Novecento, la guttaperca era scomparsa. In un ultimo tentativo di salvare la propria catena di approvvigionamento, gli inglesi emisero un editto per fermare la raccolta del lattice nel 1883, ma l’albero era già estinto.
Una storia che meriterebbe un capitolo nel libro di Tom Phillips Humans: A Brief History of How We F*cked It All Up.

Nel disastro ambientale vittoriano della guttaperca, alle origini della società dell’informazione globale, i curatori vedono un esempio di come le relazioni tra la tecnologia e la sua materialità, tra gli ambienti e le diverse forme di sfruttamento siano ineluttabilmente alla base dei sistemi moderni.
Come i vittoriani provocarono un disastro ecologico a causa dei loro cavi, così l’estrazione di terre rare e le catene di approvvigionamento globali mettono ulteriormente a rischio il delicato equilibrio ecologico della nostra epoca. Dai materiali utilizzati per costruire la tecnologia che connette in rete la società contemporanea, all’energia necessaria per trasmettere, analizzare e immagazzinare i dati che scorrono attraverso l’enorme infrastruttura, alla materialità dell’infrastruttura stessa: i costi di tutto ciò sono più significativi e hanno una storia molto più lunga di quanto  solitamente viene rappresentato nell’immaginario connesso all’Intelligenza Artificiale.

XV. Robot, braccialetti e gabbie: lo sfruttamento a valle della filiera

Nei centri di distribuzione di Amazon, vaste collezioni di prodotti sono disposte in ordine su milioni di scaffali. La posizione di ogni articolo è determinata con precisione da complesse funzioni matematiche che elaborano le informazioni sugli ordini e creano relazioni tra i prodotti. L’obiettivo è ottimizzare i movimenti dei robot e degli esseri umani che lavorano insieme in questi magazzini. Con l’aiuto di un braccialetto elettronico, purtroppo potenzialmente legale anche in Italia grazie agli sforzi del nostro governo, l’umano viene guidato attraverso i giganteschi magazzini, pieni di oggetti disposti secondo un algoritmo il cui funzionamento è protetto dalla più stretta riservatezza.

Nascosto tra le migliaia di altri brevetti pubblicamente disponibili di proprietà di Amazon, il brevetto statunitense numero 9.280.157 rappresenta una straordinaria illustrazione dell’alienazione del lavoratore, un momento cruciale del rapporto tra macchine e umani. Raffigura una gabbia metallica destinata all’operaio, dotata di diverse aggiunte cibernetiche, che può essere spostata in un magazzino dallo stesso sistema motorizzato che sposta gli scaffali pieni di merce. In questo caso, il lavoratore diventa parte di un balletto meccanico, tenuto in piedi in una gabbia che ne detta e vincola il movimento.

Ricordate il Generator di Cedric Price? Alcuni tra i miei studenti, forse sì.
Si tratta di un progetto mai costruito e commissionato nel 1976 dal filantropo Howard Gilman, alla ricerca di un edificio riconfigurabile che potesse fungere da ritiro spirituale per i pensatori dell’epoca. Come Glass Onions, ma senza le teste di cazzo. Come A Murder at the End of the World ma senza gli omicidi. Forse.
L’edificio avrebbe dovuto vedere la luce nella White Oak Plantation in Florida, e avrebbe dovuto avere caratteristiche apparentemente inconciliabili: doveva infatti essere una celebrazione dell’isolamento ma contemporaneamente essere accessibile a visitatori esterni, doveva favorire l’isolamento e la speculazione filosofica ma consentire anche eventi di divulgazione dei principi sviluppati nel centro, doveva rispettare la tradizione storica e culturale del luogo ma essere innovativo. La risposta progettuale di Price venne battezzata Generator ed era un edificio composto da un set riconfigurabile di 150 cubi da circa 3.5 m di lato.

Si trattava di un’utopia meccanizzata semovente, completamente orientata all’integrazione delle attività intellettuali. Il sistema era infatti basato su una serie di funzioni ed una matrice che ne considerava l’interazione come compatibile, neutrale o non compatibile: leggere ad esempio era considerata un’attività non compatibile con il giardinaggio, che viceversa era considerato compatibile con ascoltare la musica o imparare una nuova lingua. L’utente avrebbe quindi potuto riconfigurare il sistema sulla base di queste possibili relazioni, che si concretizzavano in una sorta di menu dal quale era possibile scegliere a quali attività il proprio cubo avrebbe potuto o non avrebbe potuto essere accostato.

Nell’intento di perfezionare il progetto, Price coinvolge John e Julia Frazer come consulenti per la scrittura del software che avrebbe potuto rispondere agli input degli utenti. I Frazer tuttavia introducono nel progetto una ulteriore riflessione, mutuata da un altro progettista dell’epoca, Gordon Pask, che aveva lavorato con Price al progetto del Fun Palace.
La preoccupazione era infatti quella che l’utente, una volta trovata una configurazione confortevole, rinunciasse a riconfigurare il sistema e ad esplorare nuove situazioni: viene quindi sviluppato il Perpetual Architect, un programma il cui scopo primario è quello di contrastare questa tendenza.
La funzione del programma avrebbe dovuto essere quella di analizzare la configurazione attuale e, durante la notte, riconfigurare il sistema in nuovi modi atti a stimolare e intrattenere gli occupanti. Il sistema prevedeva anche la registrazione delle configurazioni scelte dagli utenti e, in generale, l’immagazzinamento di dati per una futura analisi. Il funzionamento del sistema è illustrato dai Frazer nel loro A Natural Model for Architecture del 1995, nel quale viene spiegato come l’edificio viene tradotto in termini comprensibili da un computer.

Se vi sembra tutto molto bello, preparatevi a vedere come questo stesso concetto, applicato in ambito industriale, diventa immediatamente una distopia.

Le pagine del brevetto vengono anche utilizzate per tre diverse sculture in cui viene evocato il funzionamento dell’oggetto all’interno del proprio sistema.

XVII. Energia e nuovo estrattivismo

I sistemi di Intelligenza Artificiale consumano enormi quantità di energia anche per essere manutenuti. Eppure i dettagli materiali di questi costi rimangono vaghi nell’immaginario sociale, ed è estremamente difficile ottenere dettagli precisi sulla quantità di energia consumata dai servizi di cloud computing.
Il rapporto di Greenpeace chiamato Clicking Clean Virginia: the Dirty Energy Powering Data Center Alley, rileva che:

“Uno dei maggiori ostacoli alla trasparenza del settore è rappresentato da Amazon Web Services (AWS). La più grande azienda di cloud computing al mondo rimane quasi del tutto non trasparente sul carbon footprint delle sue enormi operazioni. Solo AWS si rifiuta di rendere pubblici i dettagli di base sulle prestazioni energetiche e sull’impatto ambientale associato alle sue operazioni.”

Alla mancanza di dettagli e di trasparenza riguardo alla catena produttiva, si aggiunge quindi il tema del mantenimento e del consumo: con dispositivi come Echo, che si affidano a un’infrastruttura Al centralizzata e lontana dalla vista, ancora più dettaglio è destinato a rimanere nell’ombra.
Di contro, l’utente umano è visibile durante tutte le sue interazioni con le piattaforme tecnologiche: è tracciato, analizzato e mercificato.

Esiste un altro tema, però, che non è legato al mantenimento puramente energetico dei sistemi di cloud computing ma è legato al mantenimento intellettuale e cognitivo di questi sistemi.

Mentre i consumatori si abituano al funzionamento di un piccolo dispositivo che apparentemente apprende in modo autonomo, il vero lavoro viene svolto all’interno di sistemi di apprendimento automatico che sono generalmente distanti dall’utente e del tutto invisibili a quest’ultimo. E rendere trasparenti queste dinamiche non aiuterebbe a destabilizzare i centri di potere che li governano e, anzi, i sistemi di cloud computing vengono spesso interpretati come democratizzazione della tecnologia.

A un osservatore esterno potrebbe sembrare infatti che non sia mai stato così facile costruire sistemi basati sull’intelligenza artificiale o sull’apprendimento automatico. La disponibilità di strumenti open-source per farlo, in combinazione con la potenza di calcolo affittabile attraverso le superpotenze del cloud come Amazon (AWS), Microsoft Azure o Google Cloud si affianca a strumenti di apprendimento automatico “off the shelf” come TensorFlow.
In realtà, le logiche sottostanti ai sistemi di apprendimento automatico e soprattutto i dataset necessari per il loro addestramento sono accessibili e controllati da pochissime entità: gli utenti alimentano e addestrano le reti neurali con dati comportamentali, voce, immagini e video taggati o dati medici, e costituiscono una faccia della forza lavoro digitale: per la loro elaborazione è necessaria un’altra faccia.

In un’epoca di estrattivismo, il valore reale di questi dati è controllato e sfruttato da pochi al vertice della piramide.

XVIII. Il Turco Meccanico

Nel 1770, l’inventore ungherese Wolfgang von Kempelen costruì un giocatore di scacchi semovente noto come Turco meccanico con l’obiettivo di impressionare l’imperatrice Maria Teresa d’Austria. Il meccanismo, che apparentemente era in grado di battere a scacchi qualunque avversario umano, era tuttavia un’elaborata truffa: un sistema di specchi consentiva a un maestro di scacchi umano di nascondersi all’interno della macchina, di vedere la partita giocata sul tavolo dell’automa e di rispondere con azioni non dettate da qualche algoritmo bensì dalla sua esperienza.

Quando grandi quantità di dati vengono utilizzati per addestrare i sistemi di Intelligenza Artificiale, le singole immagini e i video vengono etichettati e contrassegnati da umani. E nonostante il celebre servizio Amazon Mechanical Turk sia una piattaforma di crowdsourcing, basata su micropagamenti, per un ampio spettro di attività digitali che possono essere svolt da un lavoratore autonomo, è significativamente collegata ad un altro servizio, Amazon SageMaker Ground Truth, che consente proprio di portare avanti questo servizio di data labelling.

Secondo Ayhan Aytes, morto nel 2019 prima che il suo libro potesse vedere la luce, la motivazione iniziale di Amazon per costruire il suo Mechanical Turk sarebbe emersa dopo il fallimento dei suoi programmi di intelligenza artificiale nel compito di individuare pagine di prodotti duplicate sulla piattaforma principale di vendita. Dopo una serie di tentativi inutili e costosi, gli ingegneri del progetto si sarebbero rivolti agli esseri umani per un enorme lavoro di scandaglio, passata al setaggio e labelling. Il sistema automatico sarebbe potuto nascere solo dall’osservazione di queste attività umane, a seguito di ore e ore di lavoro sottopagato.

Gli attuali Mechanical Turk e SageMaker non funzionano in modo molto diverso: emulano e precedono i sistemi di intelligenza artificiale controllando, valutando e correggendo i processi di apprendimento automatico facendo uso di forza lavoro remota, dispersa e mal pagata che aiuta i clienti a raggiungere i loro obiettivi aziendali. Come osserva Aytes:

“in entrambi i casi [sia per il Turco Meccanico del 1770 che la versione contemporanea di Amazon] le prestazioni dei lavoratori che animano l’artificio sono oscurate dallo spettacolo della macchina”.

Questo lavoro invisibile e nascosto, in outsourcing o in crowdsourcing, è celato dietro le interfacce e mimetizzato all’interno dei processi algoritmici ma è ormai un fenomeno consueto, in particolare nel processo di etichettatura degli archivi digitali che alimentano le reti neurali.
A volte questo lavoro è interamente non retribuito, come nel caso del reCAPTCHA di Google.

In un paradosso che molti di noi hanno sperimentato, per dimostrare di non essere un agente artificiale si è costretti ad addestrare gratuitamente il sistema di riconoscimento delle immagini di Google, selezionando più caselle che contengono numeri civici, automobili, semafori.

A ogni livello la tecnologia contemporanea tecnologia contemporanea è profondamente radicata nello sfruttamento dei corpi umani.

C’è inoltre molto da dire sul modo in cui questo processo di etichettatura cristallizza significati complessi in strutture dominate dal bias, spesso seguendo istruzioni precise delle aziende che impiegano questi lavoratori: insiemi di dati come AVA, un progetto che fornisce annotazioni audiovisive di video per migliorare la comprensione dell’attività umana, mostrano ad esempio le donne principalmente impegnate a giocare con bambini, mentre gli uomini sono raffigurati in atteggiamenti aggressivi e prevaricatori.
Pretendendo di comprendere il comportamento umano a un bassissimo livello di granularità, ma facendo uso di lavoro meccanico non specializzato e sottopagato, l’addestramento dell’Intelligenza Artificiale ripete modelli sociali stereotipati, riscrivendo il passato umano in forma riduttiva e proiettando questa visione nel nostro futuro.

XIX. La “nuova mappa”

Nel suo racconto breve “Sull’esattezza nella scienza”, Jorge Luis Borges ci presenta un impero immaginario in cui la scienza cartografica è diventata così sviluppata e precisa da necessitare di una mappa della stessa scala dell’impero stesso. Per saperne di più, consiglio questo eccellente articolo.

“In quell’impero, l’arte della cartografia raggiunse una tale perfezione che la mappa di una singola provincia occupava la totalità di una città, e la mappa dell’impero la totalità di una provincia. Col tempo, quelle mappe inconcepibili non soddisfacevano più, e le Gilde dei Cartografi realizzarono una mappa dell’Impero le cui dimensioni erano quelle dell’Impero e che coincidevano punto per punto con esso. Le generazioni successive, che non amavano lo studio della cartografia come i loro antenati, videro che quella vasta mappa era inutile, e non senza una certa spietatezza la consegnarono alle inclemenze del sole e degli inverni. Nei deserti dell’Occidente, ancora oggi, ci sono brandelli di quella mappa, abitati da animali e mendicanti, e in tutta la terra non c’è nessun’altra reliquia delle discipline della geografia.”

Il racconto è contenuto nel frammento Del rigore della scienza, l’ultimo di Storia universale dell’infamia pubblicato per la prima volta nel 1935 e poi riveduto e corretto nel 1954, e Borges atttrbiuisce la storia a un libro inesistente: Viajes de varones prudentes di Suárez Miranda, libro IV, cap. XIV, Lérida, 1658.

Umberto Eco ha dedicato al racconto un capitolo del suo Secondo diario minimo, intitolato “Dell’impossibilità di costruire la carta dell’impero 1 a 1”, nel quale finge di prendere Borgees sul serio (una cosa che non andrebbe davvero mai fatta) ed esamina la possibilità teorica di tale mappa tal punto di vista tecnico, partendo dai materiali (opaca, sospesa, trasparente, permeabile, stesa e orientabile), passando per i modi in cui sarebbe stato possibile o impossibile ripiegarla. Eco conclude la sua dimostrazione con tre corollari:

1. Ogni mappa 1:1 riproduce il territorio sempre infedelmente.
2. Nel momento in cui realizza la mappa, l’impero diventa irrappresentabile. Si potrebbe osservare che con il corollario secondo l’impero corona i propri sogni più segreti, rendendosi impercepibile agli imperi nemici, ma in forza del corollario primo esso diverrebbe impercepibile anche a se stesso. Occorrerebbe postulare un impero che acquista coscienza di sé in una sorta di appercezione trascendentale del proprio apparato categoriale in azione: ma ciò impone l’esistenza di una mappa dotata di autocoscienza la quale (se mai fosse concepibile) diverrebbe a quel punto l’impero stesso, così che l’impero cederebbe il proprio potere alla mappa.
3. Corollario terzo: ogni mappa 1:1 dell’impero sancisce la fine dell’impero in quanto tale e quindi è mappa di un territorio che non è un impero.

Anche il matematico Piergiorgio Odifreddi si è dedicato al paradosso di Borges, raggiungendo conclusioni diverse da quelle di Eco passando per paradossi matematico-filosofici quali quello dell’infinita divisibilità dello spazio di Zenone, che ossessionava l’autore argentino. Scrive il matematico:

“il regresso infinito che deriva dall’ipotesi di una mappa perfetta di un territorio disegnata su una sua parte produce non una contraddizione, ma l’esistenza di un punto del territorio che coincide con la sua immagine sulla mappa (per il teorema del punto fisso di Banach).”

Per noi diventa fondamentale capire chi dei due abbia ragione, se Oddifredi oppure Eco, perché gli attuali approcci all’apprendimento automatico inseguono l’aspirazione di mappare il mondo, di creare una quantificazione completa dei regimi visivi, uditivi e di riconoscimento della realtà. Dal modello cosmologico dell’universo al mondo delle emozioni umane interpretate attraverso i più piccoli movimenti muscolari del volto umano, tutto diventa oggetto di quantificazione.

Il filosofo e sociologo francese Jean-François Lyotard ha introdotto l’espressione “affinità con l’infinito” (affinity to infinity) teorizzando che tale affinità accomunasse tra loro il capitalismo, le scienze tecnologiche e le avanguardie pittoriche del XX secolo. Tutte e tre, secondo il francese, condividono la stessa aspirazione a spingere i confini verso un orizzonte potenzialmente infinito.

Il nuovo orizzonte infinito è l’estrazione dei dati, l’apprendimento automatico e la riorganizzazione delle informazioni attraverso sistemi di intelligenza artificiale che combinano l’elaborazione umana e meccanica.

Il suo raggiungimento è tutt’altro che democratico: la costruzione di infrastrutture che ha caratterizzato la seconda metà del XIX secolo ha facilitato una transizione disomogenea verso la società industrializzata, generando un’enorme ricchezza per un piccolo numero di magnati che hanno monopolizzato lo sfruttamento delle risorse naturali e i processi produttivi. I territori sono oggi dominati da poche aziende globali, che stanno creando nuove infrastrutture e meccanismi per l’accumulo di capitale e lo sfruttamento delle risorse umane e planetarie. La smaterializzazione è un’illusione, il cloud nasce e genera una sete sfrenata di nuove risorse.

Tra queste, i curatori della mostra parlano di “campi di sfruttamento cognitivo” ed evidenziano come le aziende siano alla ricerca di strati sempre più profondi di dati che possano essere utilizzati per quantificare la psiche umana, conscia e non conscia, privata e pubblica, idiosincratica e generale. Sempre più spesso il processo di quantificazione si estende al mondo affettivo, cognitivo e fisico dell’uomo: ssistono set di addestramento per rendere l’Intelligenza Artificiale capace di rilevare le emozioni, la somiglianza familiare, l’invecchiamento di un individuo, e per decodificare azioni umane fisicamente complesse come sedersi, o socialmente complesse come salutare. Ogni forma di dati anagrafici, compresi quelli forensi, biometrici, sociometrici e psicometrici, può essere acquisita o acquistata per entrare a far parte di database per l’addestramento dell’Intelligenza Artificiale.
Emergono quindi molteplici economie cognitive: l’economia dell’attenzione, l’economia della sorveglianza, l’economia della reputazione e l’economia delle emozioni.

L’economia dell’attenzione

L’economia dell’attenzione è un approccio alla gestione delle informazioni che considera l’attenzione umana come un bene di cui vige scarsità e applica di conseguenza diverse teorie economiche per risolvere vari problemi di gestione delle informazioni. Secondo Matthew Crawford, autore di The World Beyond Your Head: On Becoming an Individual in an Age of Distraction, “l’attenzione è una risorsa e ogni persona ne ha solo una quantità limitata”.

Le prime teorie risalgono tuttavia al 1971, ad opera dello psicologo ed economista Herbert A. Simon nella sua dissertazione Designing Organizations for an Information-rich World. Simon scriveva:

In un mondo ricco di informazioni, la ricchezza di tali informazioni implica la scarsità di qualcos’altro: la scarsità di ciò che l’informazione consuma. Cosa consuma l’informazione è piuttosto ovvio: consuma l’attenzione dei suoi destinatari. Quindi la ricchezza di informazioni crea una povertà di attenzione e la necessità di allocare tale attenzione in modo efficiente tra la sovrabbondanza di fonti di informazione che potrebbero consumarla.

Si tratta di un approccio diverso e più profondo al vecchio concetto che “troppe informazioni” significano “nessuna informazione”, un problema con cui ci confrontiamo tutti i giorni.

L’economia della sorveglianza

Nota anche come il capitalismo della sorveglianza, è un concetto di economia politica che indica la raccolta diffusa e la mercificazione dei dati personali da parte delle aziende. L’espressione viene utilizzata per la prima volta da Vincent Mosco nel 2014, nel suo To the Cloud: Big Data in a Turbulent World, e poi ripreso dal già citato Christian Fuchs. Il termine tuttavia è diventato popolare grazie al lavoro di Shoshana Zuboff, sempre nel 2014, a partire dal suo saggio A Digital Declaration: Big Data as Surveillance Capitalism.

La spiacevole verità è che molti dei “big data” vengono estratti dalle nostre vite senza che ne siamo a conoscenza o senza il nostro consenso informato. È il frutto di una ricca serie di pratiche di sorveglianza progettate per essere invisibili e inosservabili mentre ci muoviamo nel mondo virtuale e in quello reale. […] Queste pratiche di sorveglianza creano danni profondi, materiali, psicologici e politici, che stiamo solo iniziando a capire e codificare, soprattutto a causa della natura segreta di queste operazioni.

L’articolo completo è disponibile qui.

XX. Appropriazione del bene comune

Secondo i curatori della mostra, la distruzione della biodiversità e la banalizzazione della conoscenza sono solo gli ultimi passi di una serie di azioni che hanno inizio con il colonialismo.
La terra e le foreste sono state le prime risorse a essere convertite da beni comuni a merci, subito seguite dalle risorse idriche. Ora, secondo Vandana Shiva, gli schemi di privatizzazione si rivolgono alla conoscenza.

“La distruzione dei beni comuni è stata essenziale per la rivoluzione industriale, per fornire un approvvigionamento di risorse naturali come materia prima all’industria. Ma un sistema necessario per il supporto della vita può solo essere condiviso, non può essere posseduto come proprietà privata o sfruttato per profitto privato. I beni comuni, quindi, dovevano essere privatizzati e la base di sostentamento delle persone in questi beni comuni doveva essere appropriata, per alimentare il motore del progresso industriale e dell’accumulazione di capitale.”
(Biopiracy: The Plunder of Nature and Knowledge)

Mentre Shiva si riferisce alla privatizzazione della natura attraverso processi di privatizzazione, lo stesso processo secondo i curatori si sta verificando con l’apprendimento automatico, che definiscono “intensificazione della natura quantificata“. La nuova corsa all’oro nel contesto dell’intelligenza artificiale consiste nel circoscrivere e privatizzare diversi campi del sapere, del sentire e dell’agire umano.
Viene portato l’esempio di quando, nel novembre 2015, DeepMind di Google ha ottenuto l’accesso alle cartelle cliniche di 1,6 milioni di pazienti dell’ospedale Royal Free, perfettamente identificabili nella loro identità sia fisica che digitale: il set di dati è rimasto di proprietà pubblica, ma il meta-valore dei dati – il modello creato da essi – è diventato di proprietà privata. Non è un processo molto diverso da quello che avviene con la privatizzazione dell’acqua: un bene per sua natura inafferrabile viene sfruttato nella sua manifestazione di valore, quello potabile. In questo caso, oggetto della privatizzazione è l’estrazione del valore della conoscenza.

XXI. Conclusioni

La teoria dei curatori è quindi che questa congiuntura storica, nel primo quarto del XXI secolo, stia assistendo a una nuova forma di estrattivismo che è ben avviata: una forma di estrattivismo che raggiunge gli angoli più remoti della biosfera e gli strati più profondi dell’essere cognitivo e affettivo umano. Molte delle ipotesi sulla vita umana formulate dai sistemi di apprendimento automatico sono ristrette, costrette e cariche di bias. Tuttavia, esse stanno iscrivendo e costruendo tali presupposti in un nuovo mondo e svolgeranno sempre più un ruolo nel modo in cui vengono distribuite le opportunità, la ricchezza e la conoscenza.

“Offriamo questa mappa e un saggio per iniziare a vedere in una gamma più ampia di esecuzioni del sistema. La scala richiesta per costruire sistemi di intelligenza artificiale è troppo complessa, troppo oscurata dalle leggi sulla proprietà intellettuale e troppo impantanata nella complessità logistica per essere compresa appieno nel momento in cui la si utilizza, ma vi si attinge ogni volta che si impartisce un semplice comando vocale a un piccolo cilindro nel salotto di casa: “Alexa che ore sono?”.
E così il ciclo continua.”

Il Nuovo Estrattivismo

Il concetto di “nuovo estrattivismo” nasce, come abbiamo visto, nella diciassettesima parte del saggio Anatomia di un sistema Al, ma viene sviluppato da Vladan Joler sotto forma di video e infografiche. Tutto è consultabile a questa pagina. Questo stesso video è proiettato sulla parete di fondo nella prima sala della mostra.

Dato che come abbiamo visto i curatori non amano l’espressione “infografica” (chissà che cosa gli ha mai fatto), l’opera viene definita assemblage, e nello specifico un assemblaggio di concetti e allegorie che pescano dalla teoria della relatività di Einstein come dalla caverna delle ombre di Platone.

La parola “assemblaggio” è solitamente intesa come una raccolta o un raduno di cose o persone, una macchina o un oggetto fatto di pezzi montati insieme, o un’opera d’arte realizzata raggruppando oggetti trovati o non correlati. Questa mappa e le note a piè di pagina che la accompagnano sono proprio questo: un grande assemblaggio disordinato di concetti e idee diverse, riunite in un’immagine semi-coerente o, diciamo, in una mappa, in una visione del mondo.

I concetti presentati sono per lo più rappresentati visivamente sotto forma di allegorie. I dizionari definiscono l’allegoria come una storia, una poesia o un’immagine che può essere interpretata per rivelare un significato nascosto, tipicamente morale o politico. L’insieme di queste allegorie e di questi concetti, uniti in forma di assemblaggio, creano insieme il progetto di una sovrastruttura simile a una macchina, o una super allegoria. In questo senso, ciò che abbiamo qui è una struttura allegorica quasi frattale: un’allegoria dentro un’allegoria dentro un’allegoria.

La porzione di mostra è concettualmente suddivisa in trentatré sezioni (nel saggio di accompagnamento) e ventidue simili sezioni (nel video) che si collegano in una catena. Vediamole quindi una per una. Dato che il saggio è già disponibile on-line in forma scritta e vettoriale, ho preferito seguire il filo logico proposto dal video.

1. La Gravità

L’immagine parte del modello matematico che Einstein introduce per illustrare lo spazio-tempo nell’ambito della sua teoria della relatività: il modello parte dall’idea di Hermann Minkowski, fondendo le tre dimensioni dello spazio con la dimensione del tempo in un continuum mono-dimensionale che può essere curvato da oggetti che abbiano sufficiente massa e/o energia.

Nel 2016, l’immagine viene presa in prestito dall’artista francese Louise Drulhe, autrice di Critical Atlas of the Internet, e scrive:

Immaginate la superficie di Internet come una rappresentazione della sua attività potenziale. Agli albori di Internet, la sua architettura era distribuita, gli utenti pubblicavano le proprie home page personali e occupavano lo spazio in modo decentralizzato. Oggi, la maggior parte dell’attività è concentrata nelle mani di pochi attori. Google, ad esempio, offre numerosi servizi che vanno oltre il motore di ricerca (e-mail, social network, browser, ecc.).
Questi pesi massimi hanno scavato nella superficie del Web, trascinando con sé attività che avrebbero potuto rimanere indipendenti e decentralizzate. Invece di creare una nuova pagina web, gli utenti professionali e privati di Internet tendono a scegliere una pagina Facebook, e quindi ad aprire contenuti ospitati sulle pendici di una curva dominante. La domanda che ci si pone ora è se tutte le attività del Web finiranno per essere ospitate esclusivamente sulle “pendici” di questi pochi protagonisti.

La nozione di gravità viene quindi ridefinita sulla base del numero di utenti e della quantità di contenuto ospitata sulle piattaforme dei grandi player come Amazon, Google, Facebook. Questi diventano quindi paragonabili a dei buchi neri che, con la loro gravità, creano un campo così intenso da attrarre e inghiottire sia i contenuti e gli utenti.

02. Forze

La quantità di utenti e di contenuti non sarebbero sufficienti, da soli, per esercitare una trazione forte come quella cui assistiamo. La paura dell’isolamento sociale è certamente un motore potentissimo, sfruttato dai social network che promettono connessioni e visibilità, mentre il timore che il proprio contenuto vada perso nella vastità di internet spinge ad appoggiarsi sempre di più a questi colossi, posizionando il proprio contenuto sulle pendici della depressioni o, addirittura, direttamente nella bocca del buco nero. Oltre a questi fattori, i curatori individuano altre componenti che ci spingono ad assecondare l’attrazione di queste superpotenze dell’informazione:
– l’insicurezza economica e professionale, che ad esempio può spingerci verso piattaforme come LinkedIn oppure a promuovere i propri contenuti professionali su Instagram;
– le aspettative irrealistiche di efficienza e produttività in un ambiente in cui si promuovono capacità estreme di adattamento di fronte alla prospettiva della propria morte professionale;
– le dipendenze, la depressione e le ansie costruite su misura dai sistemi di informazione;
– i sistemi economici basati sulla reputazione, che ci spingono a dover proiettare e manutenere in continuazione un’immagine digitale.

L’opting out, ovvero la decisione cosciente di non partecipare a queste dinamiche, è diventato un privilegio che richiede di partire da una posizione di privilegio economico, perché astenersi dalle attività digitali ha spesso un costo sulla nostra professione, e una serenità mentale non indifferenti. Il risultato è una sorta di auto-colonizzazione, un fenomeno in virtù del quale l’utente si consegna volontariamente in pasto alla bestia.

“Il costo sociale dell’opting out è diventato così alto che l’opting out è essenzialmente una fantasia”.
– Finn Brunton e Helen Nissenbaum, Obfuscation: A User’s Guide for Privacy and Protest (2015)

3. Buchi Neri

“Lo sgretolamento della soggettività sotto la tecnologia si accompagna all’emergere di una nuova figura esistenziale: l’entità generale astratta (AGE).”
Federico Campagna, Technic and Magic: The Reconstruction of Reality (2018)

Riprendendo la terminologia di Campana, ci viene presentata questa entità generale astratta che nuota contro la forza gravitazionale di una di queste piattaforme. La corrente è sempre più veloce e, proprio come accade in un buco nero, esiste una linea immaginaria paragonata all’orizzonte degli eventi, oltrepassata la quale non sarebbe più possibile fare altro se non scivolare verso la bocca della singolarità. Gli utenti e i contenuti superano una linea dopo la quale il prezzo sociale ed economico dell’abbandono di queste piattaforme diventa troppo alto.

Da questo momento in poi, il nostro utente è completamente fottuto e scivola: è stato risucchiato da Instagram, da Facebook, da Amazon. Per lui ormai queste piattaforme sono sinonimo di “internet” e non sarà più in grado di distinguere i due concetti.

Senza nemmeno accorgersene, l’attore di questa storia sta cadendo verso il buco in una nuova allegoria: la caverna.

4. L’allegoria della Caverna

Ciò che avviene in fondo a questo metaforico buco nero viene descritto attraverso un uso estensivo dell’allegoria della caverna di Platone. Si tratta di un’immagine che il filosofo greco attribuisce a Socrate, come sempre, ed è una delle sue allegorie più conosciute. Si trova all’inizio del settimo libro della Repubblica.

Il filosofo immagina l’uomo come un prigioniero, nato incatenato all’interno di una caverna e costretto a fissare una parete vuota. Alle spalle dei prigionieri, Platone immagina che sia stato acceso un enorme fuoco, e che tra il fuoco e i prigionieri corra un sistema complesso simile a un teatro, fatto da una strada e da un muretto, lungo la quale alcuni uomini portano modellini e manichini con le forme di vari oggetti che appartengono alla realtà al di fuori della caverna.
I prigionieri osservano le ombre proiettate dal fuoco sulla parete e, dato che non conoscono altro, interpretano quelle forme come oggetti reali, mentre si tratta di proiezioni di modellini, e il fuoco viene scambiato per il sole.
Secondo Platone, questi prigionieri sono gli esseri umani, che ritengono di conoscere la realtà ma ne percepiscono solo ombre e proiezioni.
La maggior parte degli uomini inoltre non è pronta a essere liberata: il vero sole ferirebbe loro gli occhi e, essendo abituati a conoscere solo ombre, i veri uomini che si muovono oltre al muro sarebbero interpretati come oggetti assai meno reali rispetto alle proiezioni cui l’uomo liberato è stato abituato.

Nella storia della nostra entità generale astratta, la caverna è costituita dalla propria esperienza digitale, un’esperienza ormai ristretta dalla caduta all’interno di uno dei buchi neri dell’informazione, e la rappresentazione di ombre cui l’utente assiste è affidata a macchine umano-algoritmiche che regolano, filtrano, censurano e moderano i contenuti proiettati sulle pareti della caverna.
Gli elementi e i contenuti esistenti al di fuori di questa caverna creano il flusso di informazioni, ma esse vengono filtrate e tradotte in modi sui quali l’utente non ha alcun livello di controllo.

Guy Debord, nel suo The Society of the Spectacle (1967), l’aveva descritto come:

“un immenso accumulo di spettacoli composto da immagini, suoni, testi, emozioni e significati.”

Aggiungendo, con aria affranta: “Tutto ciò che un tempo era vissuto direttamente è diventato una mera rappresentazione”.

L’architettura complessiva non è tuttavia costituita da una singola caverna, ma da un insieme di caverne che trattiene miliardi di utenti/lavoratori/prodotti che ricoprono questi tre ruoli nello stesso momento: utenti perché fruiscono dei servizi della piattaforma, lavoratori perché producono gratuitamente contenuti destinati ad altri utenti, e infine prodotti perché la loro profilazione viene sfruttata da altre parti dello stesso sistema oppure venduta a terzi.

Ogni utente, rinchiuso nella propria caverna, è esposto a una rappresentazione adattata al suo profilo secondo le logiche che guidano il sistema di algoritmi della piattaforma e selezionati, almeno parzialmente, rispetto alle sue reazioni affettive e cognitive. L’utente si trova in uno specifico circuito chiuso, spesso chiamato “bolla mediatica”, comunica con se stesso o con il riflesso di altri utenti che non vede mai veramente, ed è sottoposto a quella che di fatto è una forma di autostimolazione. Si tratta di un luogo di piacere da cui il prigioniero non ha volontà di uscire.

L’insieme di queste “caverne” è organizzato in quello che i curatori chiamano “Platopticon”, un gioco di parole tra il nome di Platone e il concetto di Panopticon, una prigione distopica (ma utopica nelle intenzioni) ideata dal filosofo e teorico sociale britannico Jeremy Bentham all’inizio del XVIII secolo. Il concetto era quello di permettere a tutti i detenuti nella prigione di essere osservati da un’unica guardia, o quantomeno di avere la percezione di essere osservati senza averne la certezza.

Siccome si può sempre contare sull’architettura, quando si tratta di dare una mano, il concetto viene sviluppato da progettisti come Willey Reveley, nel 1791.

“L’edificio è circolare – una gabbia di ferro, vetrata – una lanterna di vetro grande quanto Ranelagh – i prigionieri nelle loro celle, che occupano la circonferenza – gli ufficiali, al centro. Con tende e altri espedienti, gli ispettori si nascondevano all’osservazione dei prigionieri: da qui la sensazione di una sorta di onnipresenza invisibile. – L’intero circuito può essere rivisto con pochi o, se necessario, senza alcun cambiamento di posto.”
— Jeremy Bentham, Panopticon, or The Inspection House (1791)

Numerosi progettisti si sono cimentati nell’immaginare la struttura, dopo Reveley, perché è proprio un bel concetto cui applicare il proprio mestiere: tutte le versioni vedono uno sviluppo radiale attorno al fulcro della torre destinata al controllo.

Anche il Platopticon ha una torre centrale, che ha metaforicamente due funzioni: quella di proiettare i contenuti sulle pareti delle grotte dopo essere stati selezionati e filtrati, e quella di sorvegliare e catturare le ombre digitali dei prigionieri riflesse sulla parete opposta.
Evidente ed esplicito è il paragone con il Ministero della Verità nella distopia di Orwell e, in particolare, il Dipartimento delle Registrazioni in cui viene conservato, dopo essere stato opportunamente alterato, tutto il sapere. Impossibile parlare di Orwell senza ricordare anche il suo Buco della Memoria, il grande inceneritore di idee contenuto all’interno del Ministero.

«Nelle pareti del cubicolo si aprivano tre orifizi: a destra del parlascrivi, un piccolo tubo pneumatico per i messaggi scritti, a sinistra un tubo più grande per i giornali, e al centro, ad agevole portata del braccio di Winston, un’ampia feritoia oblunga protetta da una grata metallica. Quest’ultima serviva a eliminare la carta straccia. Nell’intero edificio vi erano migliaia, anzi decine di migliaia di feritoie simili, ubicate non solo nelle singole stanze, ma anche nei corridoi, non troppo distanti l’una dall’altra. Per chissà quale motivo le avevano soprannominate “buchi della memoria”. Quando qualcuno sapeva che un certo documento doveva essere distrutto, oppure vedeva per terra un pezzo di carta in tutta evidenza gettato via, automaticamente sollevava il coperchio del buco della memoria più vicino e ve lo lasciava cadere dentro, dove un vortice di aria calda l’avrebbe trasportato fin nelle enormi fornaci nascoste da qualche parte nei recessi del fabbricato.»
– George Orwell, 1984 (1949)

Un concetto simile è presente anche in Brazil di Terry Gilliam, con il nome di Information Retrieval.
Il Platopticon tuttavia aggiunge una componente: la banca dati non è solo un archivio, ma la sala motori dell’intero sistema. È ciò che fornisce potere e alimenta la struttura.

5. Le pareti

Se è vero che l’utente risucchiato dai colossi dell’informazione si trova prigioniero all’interno di una caverna, di che cosa sono fatte le sue pareti? I suoi mattoni sono costituiti da scatole nere composte da codice chiuso e hardware impenetrabili come quello di Amazon Echo, da pezzettini di un algoritmo il cui funzionamento può essere intuito ma che non è mai trasparente, e che le piattaforme hanno diritto di cambiare in qualunque momento, senza preavviso e senza avviso.

Il contenuto delle pareti è coperto da strati e strati di segreti aziendali, brevetti e copyright ma, come abbiamo visto in precedenza parlando del Turco Meccanico, non è assolutamente detto che nascondano solo software: contengono anche lavoratori fantasma, la cui presenza spesso non è nemmeno intuita dall’utente ma che stanno creando, nelle parole di Mary L. Gray e Siddharth Suri, un nuovo sottoproletariato.

6. L’interfaccia

Il lavoratore digitale nella caverna non osserva direttamente le ombre degli altri, proprio come nella caverna di Platone i prigionieri non osservavano le ombre di altri uomini ma l’ombra di fantocci costruiti a somiglianza dei concetti che evocavano. Nel nostro caso, il filtro principale è l’interfaccia, che incornicia e struttura lo spettacolo proiettato dalle scelte degli algoritmi.Pur essendo una manifestazione diretta di norme, regolamenti e tassonomie, la loro composizione non è trasparente nel definire, direttamente o indirettamente, ciò che l’utente può o non può fare all’interno della sua caverna, ciò che può o non può vedere, i contenuti che può o non può escludere.

Sono sia strumenti che cornici discorsive. Sono istituiti come ordine del discorso e incarnazione del potere disciplinare della piattaforma.

La caverna tuttavia non è (solo) una prigione: porta avanti le funzioni di fabbrica e centroo estrattivo di risorse. L’utente, come abbiamo visto, è anche lavoratore e contemporaneamente prodotto.
Il lavoro è principalmente immateriale e molto raramente retribuito: il gradimento, la condivisione, il commento o la creazione di contenuti forniscono linfa vitale a piattaforme i cui meccanismi di inception e intrattenimento (nel senso etimologico del termine) si basano anche sulla massa di materiale che gravita intorno al loro server.
Allo stesso tempo, l’utente è una miniera da cui estrarre risorse: ogni suo movimento, ogni sua reazione emotiva e ogni sua fluttuazione nell’attenzione viene registrata, andado a formare una banca dati sempre più preziosa e adatta a diverse forme di sfruttamento, di cui il profiling commerciale è solo uno degli aspetti. Questi aspetti erano già oggetto di preoccupazione nel 1988, quando Edward S. Herman e Noam Chomsky pubblicano il loro Manufacturing Consent: The Political Economy of the Mass Media.

“I mass media sono un sistema di comunicazione di messaggi e simboli destinato alla popolazione generale. La loro funzione è quella di divertire, intrattenere e informare, e di inculcare agli individui i valori, le credenze e i codici di comportamento che li integreranno nelle strutture istituzionali della società. In un mondo di ricchezza concentrata e di grandi conflitti di interessi a livello di classe, per svolgere questo ruolo è necessaria una propaganda sistematica”.

Infine, consumando i contenuti che vengono proiettati sulle pareti della sua grotta, questo utente è un prodotto che può essere venduto agli inserzionisti e ad altri colossi commerciali che costituiscono il vero partner della piattaforma.

7. Ombre e Agenti di cattura

A sua volta, il sistema proietta un’ombra digitale del nostro utente all’interno della caverna, distorcendola a piacimento rispetto alle logiche che guidano la piattaforma e preparandola perché possa essere proiettata sulla parete di altri utenti chiusi nelle proprie scatole. Questa è forse l’immagine più potente del Platopticon: l’idea che le ombre non siano attivamente costruite da utenti dedicati al nostro controllo, come accadeva invece nella caverna di Platone, ma che provengano da una distorsione più o meno amplificata di noi stessi. Il ruolo attivo e volontario dell’utente in questa distorsione non è considerato, e credo sia una delle principali debolezze della teoria, ma questo è un discorso per un altro momento.

Gli agenti deputati a questa cattura possono assumere diverse forme e dimensioni: piccoli agenti software che “strisciano” tra le maglie di internet e dei social network, i sensori che indossiamo e le telecamere di sicurezza che non possiamo evitare, fino alla scala dei satelliti che raccolgono informazioni relative al traffico e allo spostamento delle popolazioni. È importante sottolineare come spesso questi oggetti siano parte della caverna di un altro, totalmente inconsapevole del fatto che i suoi strumenti vengano utilizzati per la raccolta di informazioni a una scala globale.
Ogni attività, in quest’ottica, può essere interpretata e sfruttata come lavoro digitale non retribuito.

I diversi aspetti che rendono l’utente una miniera da cui estrarre risorse vengono elencati dai curatori lungo lo sviluppo di una grande vite, che potete vedere sempre a questo indirizzo. Tra loro, troviamo:

• lavoro appartenente al dominio della mente e relativo ai nostri processi mentali tra cui:
  • il comportamento e le emozioni, che generano lavoro immateriale relativo all’attenzione e ai processi cognitivi;
  • i processi cognitivi, a loro volta, che generano lavoro in relazione alla formazione di altri individui (ogni volta che scriviamo un contenuto tecnico su una piattaforma come LinkedIn, in quest’ottica, stiamo facendo formazione gratis a beneficio della piattaforma);
  • linguaggio, memoria, percezione, riconoscimento di modelli e schemi (pattern recognition), risoluzione dei problemi (problem solving), creatività, pensiero laterale sono sfruttati dalle piattaforme per ottenere reazioni emotive da altri utenti, per generare esperienze e in generale per intrattenere;
• l’esistenza stessa del nostro corpo è una risorsa, in particolare in relazione a:
  • raccolta del DNA, di tessuti e cellule a scopo sia medico (privato) che farmaceutico;
  • dati biometrici e caratteristiche psicologiche, utilizzati nella profilazione dell’utente come prodotto;
• infine la nostra presenza nei due contesti primari che ci caratterizzano, la società e la natura, viene sfruttata come risorsa da cui estrarre dati utili per dedurre:
  • il funzionamento delle interazioni sociali e finanziarie;
  • come sfruttare la comunicazione tra gli individui e renderla parte del lavoro digitale che crea massa critica sulle piattaforme;
  • come incanalare l’energia collettiva in un lavoro di gruppo a livello globale.

Se è vero che alcune di queste informazioni vengono estratte in modo principalmente passivo, la maggior parte di esse richiede un lavoro continuo di mantenimento dell’identità digitale, che Vladan Joler paragona a quello dei professionisti del sesso nelle vetrine rosse di Amsterdam. Il sistema è autoregolato ed è in grado di riconoscere le anomalie e quantificarle senza bisogno di altro se non qualche aggiustamento di rotta impartito dagli algoritmi: un utente che tenta di uscire dal sistema, verrà intercettato e riportato all’interno dagli stessi utenti di quel sistema.

8. Il Platopticon

Come si è visto, il funzionamento di questo sistema nel suo complesso viene chiamato “Platopticon”. In questo senso, non è mai stato più rilevante di così ricordare a tutti la differenza etimologica tra divertimento e intrattenimento: il primo deriva dal latino divertere che significa “allontanarsi”, ed è stato interpretato come allontanamento dalle preoccupazioni ma anche dal dibattito pubblico in virtù di spettacoli costruiti per distrarre la folla; il secondo ha un significato totalmente opposto e presuppone lo sforzo di mantenere l’utente all’interno della struttura.
I casinò in questo senso sono strutture d’intrattenimento per eccellenza: appositamente prive di finestre e di orologi, per non consentire al visitatore di percepire lo scorrere del tempo, fanno uso di suoni, luci e decorazioni per alterare lo stato mentale di chi si trova all’interno e costringerlo in una sorta di animazione sospesa. Fidatevi. Ne ho progettati.

9. Raccolta delle Informazioni

Il processo di raccolta delle informazioni da ogni caverna e la sua sistematizzazione nella “torre centrale” del Platopticon trasforma la struttura in una gigantesca banca dati.

I processi che si svolgono all’interno della torre centrale sono quindi principalmente tre:

• i dati personali estratti, archiviati e analizzati danno forma al ritratto multidimensionale dell’individuo;
• tutti i prodotti del lavoro dell’utente vengono immagazzinati, analizzati e classificati, per formare lo spettacolo di immagini, significati e reputazioni destinato ad altre pareti;
• la struttura si pone al vertice di una catena di sfruttamento di menti e corpi.

Questi aspetti vengono analizzati uno per uno nel dettaglio all’interno dei punti successivi.

10. Creazione dei corpi digitali

I comportamenti digitali, raccolti dai sistemi di sensori fisici e metaforici installati nelle nostre caverne personali, vengono esttratti e analizzati da funzioni matematiche che producono dei segnali. I segnali a loro volta, vengono proiettati attraverso delle lenti che generano un ritratto multidimensionale fatto di dati, chiamato con un’espressione che posso solo rendere come “dividuo” (tramite l’elisione del prefisso in- alla parola individuo).

L’idea di un “dividuo” è mutuata dal pensiero di Gilles Deleuze, e in particolare dal suo Postscript on the Societies of Control (1992). Nel saggio, il filosofo francese immagina e prevede una forma di potere che non si basa più sulla produzione di individui plasmati secondo i desideri di chi lo detiene, come accadeva nei regimi totalitari di inizio secolo, ma sulla modulazione di individui. Si tratta di individui il cui comportamento viene catturato, elaborato e decostruito in vettori statistici, aggregazioni, modelli e anomalie: in questo modo gli individui vengono decostruiti in impronte numeriche, o dividui, a loro volta amministrati attraverso banche dati.
Questo sistema non ci vede attraverso narrazioni lineari che emergono dal nostro comportamento di navigazione, dai metadati o dai nostri movimenti nello spazio fisico, ma ci rielabora in proiezioni statistiche n-dimensionali che spaziano dal nostro passato al nostro futuro, ambendo a prevedere i nostri gusti, le nostre scelte, i futuri statistici dei nostri corpi. Ogni comportamento dell’individuo nel mondo digitale acuisce la risoluzione e la complessità di questo ritratto statistico astratto e in continua evoluzione: un corpo fatto di dati.

11. Dividui

Questi dividui, queste proiezioni statistiche dell’individuo, sono infinitamente divisibili grazie alla moderna potenza di calcolo, e possono spaziare – come si diceva – dal livello delle nostre scelte sociali e politiche fino al livello subcellulare della nostra salute psico-fisica.

“Un soggetto umano fisicamente incarnato che è infinitamente divisibile e riducibile a rappresentazioni di dati attraverso le moderne tecnologie di controllo”.
– Gilles Deleuze

Si tratta però anche di proiezioni che vengono manipolate per tramettere, ad altri individui e a noi stessi, una trasfigurazione della realtà che risponde alle logiche impresse da quelle lenti tramite le quali il nostro essere viene trasformato in un’ombra da proiettare sulle pareti delle altre caverne nel Platopticon. Ciascuno di noi, da controllato, diventa quindi ulteriore strumento inconsapevole di controllo e di propaganda, in un’amplificazione centralizzata di concetti che non prova nemmeno a svincolarsi dall’amplificazione di bias cognitivi.

Il Critical Art Ensemble (CAE), nel suo Flesh Machine: Cyborgs, Designer Babies, Eugenic Consciousness (1998) descriveva questo corpo di dati come “il fratello fascista del corpo virtuale, una forma virtuale molto più sviluppata, che esiste al completo servizio dello Stato aziendale e di polizia”.

“Il codice, le direttive e gli algoritmi si infiltrano e compromettono sempre più i confini della carne e gli orizzonti della coscienza, lasciando a questi intrusi il tempo di riconfigurare e automatizzare le decisioni un tempo intenzionali e di colonizzare l’immaginazione per guidare le sue visioni del futuro. In concomitanza, una profonda erosione della certezza porta a minacce esistenziali percepite e reali che riorganizzano radicalmente i territori reali e virtuali, spesso fino a creare regimi reazionari.”
– Critical Art Ensemble, What is To Be Done? (2018)

12. Condividui

I dividui, le proiezioni digitali in cui è scomposto l’individuo, vengono combinati e raggruppati con altri dividui che condividono le stesse caratteristiche, creando degli agglomerati che possono essere chiamati “supersoggetti” o, secondo la definizione che Marco Deseriis ne dà nel suo The Politics of Condividuality, “condividui“.

“…il singolo è sempre aperto all’interazione, sempre pronto a staccarsi e ad attaccarsi ad altri singoli. Così, rispetto all’individuo – che si vanta delle sue proprietà uniche – il dividuo ha il vantaggio di essere combinabile con altri esseri divisibili che condividono con lui alcune proprietà”.

Siamo ben lontani dal mito del condividuo proposto da Luther Blissett come “una forma di essere-in-comune alleggerita dai concetti di comunità e collettività”.

“I dividui non descrivono semplicemente un soggetto atomizzato, ma rendono possibile il consolidamento postumano degli agenti collettivi come condividenti, o come superoggetti”.
– Matteo Pasquinelli, in Posthuman Glossary di Rosi Braidotti e Maria Hlavajova (2018) alla voce “Metadata Society.”

13. Assemblaggio di Sorveglianza

L’insieme dei nostri dividui non è centralizzato, ma è bensì disperso tra centinaia di attori che compongono una struttura definita “rizomatica”, ovvero sviluppata senza gerarchia. Al contrario delle distopie letterarie, non esiste un super-governo che raccoglie e controlla tutti i nostri dati, ma si tratta piuttosto di una pluralità di attori che collaborano o competono per le informazioni estratte dai nostri comportamenti digitali.

L’assemblaggio di agenti su scala planetaria, come viene definito da Kevin D. Haggerty e Richard V. Ericson nel loro The surveillant assemblage (2008), è una delle infrastrutture critiche alla base delle nuove pratiche di estrattivismo. Migliaia di attori aziendali e governativi sono indipendenti l’uno dall’altro e raccolgono informazioni su di noi. Attraverso la rete invisibile dei rivenditori di dati, delle partnership pubbliche e non, questi pezzi di informazione sono in un flusso costante e formano un’unica entità funzionale.

L’assemblaggio di sorveglianza come struttura rizomatica, non gerarchica e tentacolare, è stata immaginata per la prima volta da Gilles Deleuze e Felix Guattari nel loro A Thousand Plateaus: Capitalism and Schizophrenia (1980).

Gli scambi all’interno del sistema avvengono tramite transazioni spesso non autorizzate, illegali o comunque non trasparenti, che consentono ai diversi attori di scambiarsi dati sugli utenti al di fuori del contesto in cui sono stati raccolti. Il divieto di vendita dei dati personali è uno dei punti cruciali intorno ai quali si è organizzato il GDPR europeo, ed è significativo come queste regolamentazioni stiano allontanando dalla piazza europea colossi come Facebook (si veda ad esempio la speciosa vicenda di Threads, proposto dall’azienda di Zuckenberg e mai legale sul nostro territorio).

14. Estrazione di contenuti

Tutti i prodotti del lavoro digitale (commenti, testi, libri, immagini, video) vengono raccolti dalle piattaforme di contenuti e da una moltitudine di agenti di acquisizione diversi, ma l’estrazione di dati non si limita a ciò che avviene all’interno del sistema: ogni pagina web o altro contenuto catturato fuori dal sistema viene elaborato e analizzato per individuare strategie adatte a catturare l’eventuale utente che sia ancora fuori dal sistema, mentre il contenuto viene estratto in centinaia di segnali diversi elaborati attraverso le lenti che in seguito determineranno la posizione e il ruolo di questa pagina nel loro Ordine delle Cose e nella loro Proiezione del Mondo all’interno del sistema.

L’inclusione di contenuti esterni, potenzialmente divergenti, consente di creare un’illusione di trasparenza, ladove in realtà si tratta semplicemente di un’altra forma di controllo governata da strumenti di percezione.

15. Strumenti di Misura e di Percezione

I contenuti raccolti e i dati estratti diventano una risorsa aziendale permanente per creare topologie multidimensionali, dinamiche e complesse, in cui ogni dato diventa un oggetto contestualmente collegato ad altri oggetti. All’interno di questa mappa, di questo nuovo meta-territorio, centinaia di diverse funzioni matematiche, algoritmi e reti neurali si organizzano intorno a quello che Matteo Pasquinelli e lo stesso Vladan Joler hanno chiamato Nooscopio, nel 2020, nel loro “The Nooscope Manifested: Artificial Intelligence as Instrument of Knowledge Extractivism”. Sono strumenti di misura e di percezione ma, soprattutto, strumenti di controllo. Il diagramma e il saggio sono scaricabili qui, se vendete il vostro figlio primogenito ad Academia. Un approccio curioso, per un contenuto che critica le piattaforme.

16. Proiezioni del Mondo

La definizione di cosa proiettare e come avviene attraverso tre meccanismi principali:

• la creazione di graduatorie, all’interno delle quali il contenuto è valutato sulla base della sua conformità alle richieste dettate dall’algoritmo;
• la creazione di gerarchie, in cui paradossalmente può essere posizionato più in alto un contenuto derivativo o meno affidabile rispetto a fonti primarie o verificate;
• la valutazione delle relazioni tra gli individui da cui è stato prodotto il contenuto, o che hanno interagito con esso o, per meglio direi, la valutazione delle relazioni tra i dividui considerati rilevanti per il contenuto in questione.

Il regime diventa quindi un regime di verità e ordine, tramite il quale le informazioni sono raccolte e filtrate fornendo una visione falsata e tendenziosa del mondo.

Oltre agli strumenti incarnati nei loro algoritmi e governati dalle reti neurali, le piattaforme spesso implicano norme e regolamenti diretti. Hanno quindi un potere di regolazione diretta di ciò che può essere visualizzato o espresso, del tipo di contenuto che può o non può esistere nel loro universo. Realizzati in base agli interessi finanziari e agli obiettivi e valori politici delle piattaforme, questi controlli costituiscono un sistema di filtri e di lenti tramite i quali i contenuti vengono distorti, soppressi o amplificati. Si tratta di una forma di censura molto più sottile, perché non cancella l’informazione divergente ma si affida alla quantità enorme di informazioni presenti, il cui numero è in costante aumento grazie alla pressione che queste piattaforme esercitano sugli utenti, e confida che l’utente non disponga di abbastanza attenzione per andare oltre al contenuto proposto. Nell’era dell’informazione, come si diceva nella sezione precedente, l’attenzione è una risorsa preziosa.

“Gli strumenti di misura e di percezione presentano sempre delle aberrazioni intrinseche. Così come le lenti dei microscopi e dei telescopi non sono mai perfettamente curvilinee e lisce, queste lenti logiche incorporano difetti e distorsioni. Capire l’apprendimento automatico e gli algoritmi e registrare il loro impatto sulla società significa studiare il grado di diffrazione e distorsione dei dati sociali da parte di queste lenti”.
– Nooscope

Ciascuno dei prigionieri nella propria caverna è, come accennavo poco fa, al centro di una bolla in cui la sua opinione e il suo atteggiamento sono quelli predominanti, quelli che contano, quelli che atteggiamenti differenti stanno potenzialmente minacciando.

Similmente a quanto accadeva nel romanzo di fantascienza La Macchina del Tempo pubblicato da H.G.Wells nel 1895, l’umanità si sta suddividendo in due specie separate: gli Eloi, che vivono la loro vita sulla superficie terrestre, e i Morlock, che vivono nel mondo sotterraneo, servendo i macchinari e allevando cibo, producendo vestiti e altri prodotti per gli Eloi. In un rovesciamento totale delle ossessioni e delle paranoie sociali di Wells, i curatori ci propongono l’immagine di un mondo apparentemente elitario che tuttavia funziona principalmente nello spazio della caverna.

17. Motori di estrazione

Se tutto è potenziale frontiera di espansione ed estrazione, dal nostro DNA alle emozioni umane, dal comportamento alle relazioni sociali fino alla natura nel suo complesso, il territorio su cui ambisce a espandersi il nuovo estrattivismo è potenzialmente infinito e siamo di fronte ad un nuovo colonialismo: quello tramite cui le migliaia di attori aziendali e governativi fanno a gara per piantare bandiere nei territori inesplorati dei nostri paesaggi comportamentali, emotivi e cognitivi, invadendo sempre più in profondità i nostri corpi e le nostre menti.
Come accadeva per il colonialismo materiale, il processo di rinchiusione e sfruttamento è il naturale secondo passo, una volta che il territorio è stato invaso con successo.

18. Reclusione e affinità all’infinito

Il contenimento della conoscenza, la sua reclusione all’interno di un recinto, è quindi il passo finale di una serie di recinti iniziati con l’ascesa del colonialismo, come ben evidenziato da Vandana Shiva nel suo The Enclosure and Recovery of The Commons: Biodiversity, Indigenous Knowledge, and Intellectual Property Rights, trasformato parzialmente nel libro Reclaiming the Commons.

Tuttavia, nuove forme di estrattivismo si stanno espandendo nei territori lontani dal recinto della biodiversità e della conoscenza. Per questo non si parla più solo di economia della conoscenza, ma di economia dell’attenzione, di economia delle emozioni e di molte altre “nuove economie” nate dall’invasione di nuovi territori di estrazione. Alcune di queste sono state analizzate nella sezione dedicata all’Anatomia dell’AI.

Allo stesso modo era già stato presentato il concetto di “affinità all’infinito”, partendo da Jean-François Lyotard nel suo saggio Presentare l’impresentabile: Il sublime e mostrando come, nel passaggio all’era dell’informazione, il capitalismo ha avuto la possibilità di soddisfare la sua affinità con l’infinito inventando e conquistando numero infinito di nuovi territori, creando nuovi meccanismi per l’accumulazione del capitale all’interno di questi nuovi spazi e formulando nuove forme di sfruttamento.

Riprendendo nuovamente Borges, Joler ci vede un’incarnazione contemporanea della mappa dell’impero: che si parli di indicizzazione dell’intero mondo online, di digitalizzazione di tutti i libri stampati finora, di mappatura dell’intero globo o di mappatura delle persone attraverso i loro profili, si parla della tendenza di queste aziende, nella loro affinità con l’infinito, a creare mappe che coprano l’intero Impero.

19. Catene di fornitura frattali

Come si è visto nell’Anatomia dell’AI, le catene di approvvigionamento nascoste dietro ai motori dell’estrattivismo sono scatole nere tanto quanto le reti neurali o gli algoritmi nascosti dietro le interfacce. L’immagine è resa attraverso il triangolo frattale di Sierpinski, all’interno del quale si annidano fase annidate che appartengono ad ogni fase del processo produttivo.

20. Sangue, sudore e laghi tossici

Ogni azione che eseguiamo on-line, nell’illusione di una totale smaterializzazione, ha di fatto un impatto ambientale enorme. Le catene di approvvigionamento sono ottimizzate per massimizzare il profitto, mentre i costi reali della distruzione che ne consegue sono condivisi tra tutte le entità viventi del pianeta, nel presente e nel futuro. Citando Mckenzie Wark e il suo Molecular Red:Theory for the Anthropocene (2016):

“l’Antropocene è una serie di fratture metaboliche, in cui una molecola dopo l’altra viene estratta dal lavoro e dalla tecnica per produrre cose per gli esseri umani, ma i prodotti di scarto non ritornano in modo che il ciclo possa rinnovarsi. I suoli si impoveriscono, i mari si ritirano, il clima si altera, il gorgo si allarga: un mondo in fiamme”.

Il dettaglio dell’impatto ambientale, a partire dall’estrazione delle terre rare fino alla mancanza di trasparenza circa l’impatto energetico del cloud computing, è già stato esplorato nell’Anatomia dell’AI. Tra i pochi dati che possediamo, tuttavia, è possibile fornire almeno una misura di paragone: secondo il Carbon Literacy Project, nel 2019 il traffico di e-mail ha causato, da solo, 150 milioni di tonnellate di CO2. Una singola e-mail causa circa 0.3 grammi di CO2, cui si stima di dover aggiungere circa 17 grammi per una mail scritta in dieci minuti e letta in tre, cifra che sale a 50 grammi se contiene un’immagine o un allegato. Avete presente quei graziosi alberelli che la gente mette in calce alle loro inutili comunicazioni, ricordando di “pensare all’ambiente” e di “non stampare la mail”? Ecco, sarebbe stato il caso di pensare all’ambiente, quella mail, non mandarla proprio.

21. Commercio triangolare

Lo schema triangolare di sfruttamento più noto è stato il commercio transatlantico degli schiavi, attivo dalla fine del XVI all’inizio del XIX secolo, che trasportava schiavi, coltivazioni e manufatti tra l’Africa occidentale, le colonie americane e le potenze coloniali europee. La schiavitù è stata al centro dello sviluppo della moderna economia globale su scala planetaria.

I curatori riconoscono lo stesso schema, lo stesso modello di flusso costante, nella fabbrica contemporanea dell’informazione, solo elaborata spazialmente in modo frattale ed estremamente più complessa data la quantità di lavoro e risorse coinvolte.
Nel farlo però, vengono accomunate all’interno dello stesso fenomeno espressioni di sfruttamento differenti: alla base del “triangolo” transatlantico si trovava infatti la deportazione di massa di milioni e milioni di persone, che venivano portate a produrre i materiali grezzi oggetto del secondo vettore. In questo caso, lo sfruttamento è per lo più locale, decentralizzato e delocalizzato, sia quando si tratta di lavoro digitale sottopagato (si veda il Mechanical Turk di Amazon), sia quando si tratta dell’estrazione delle terre rare. Pur non volendo assolutamente sminuire il tragico impatto di questi deplorevoli meccanismi industriali, trovo che paragonare questi due fenomeni sia scorretto e non tenga in dovuta considerazione gli impatti della diaspora a livello di cancellazione culturale e tentato genocidio.

22. Catene di Colonialismo Digitale

Per colonialismo digitale si intende il dispiegamento di un potere imperialista sotto forma di nuove regole, progetti, lingue, culture e sistemi di credenze che servono gli interessi della potenza tecnologica dominante. In passato, gli imperi espandevano il loro potere attraverso il controllo di risorse critiche, dalle rotte commerciali ai metalli preziosi. Oggi, gli imperi tecnologici controllano il mondo attraverso i dati e detenendo la proprietà di un potere computazionale solo apparentemente democraticizzato.

Il termine è ripreso da Renata Avila, esperta di diritti umani e tecnologia, e autrice di testi fondamentali alla discussione in atto come Everything Must Change, forse l’unica analisi davvero lucida del mondo dopo la pandemia.

Le pratiche coloniali moderne fanno ancora affidamento sul controllo delle risorse critiche, delle rotte commerciali e delle risorse naturali, e sullo sfruttamento del lavoro umano, specialmente a valle delle catene di approvvigionamento, nella logistica e nelle catene di montaggio. Le catene del colonialismo digitale si basano quindi, secondo i curatori, su una combinazione di sfruttamento tradizionale e di estrazione del surplus digitale.