Probabilmente sei un cyborg e non lo sai nemmeno tu.
Hai uno smartphone?
Sei un cyborg.
Usate un computer? O il web?
Cyborg!
Più in generale, se usi oggi la tecnologia digitale e in rete, sei un cyborg. Non c'è bisogno di impiantarsi con i microchip. Non devi assomigliare a Robocop. Sei un cyborg perché estendi le tue capacità biologiche usando la tecnologia.
Leggendo questa definizione, potresti prenderti una pausa: “Ma aspetta, gli esseri umani lo fanno da molto più a lungo di quanto non esista la tecnologia digitale”. E avresti ragione.
Eravamo cyborg molto prima che il primo bug strisciato nel primo tubo a vuoto del primo computer mainframe.
L'uomo delle caverne che brandizzava una lancia e accendeva un fuoco era il cyborg originale. Galileo che guardava il cielo con il suo telescopio era sia un uomo rinascimentale che un cyborg. Quando ci si presenta con le lenti a contatto al mattino, si è un cyborg.
Nel corso della nostra storia come specie, la tecnologia ha migliorato i nostri sensi. Ci ha permesso una maggiore padronanza e controllo della nostra vita e del mondo che ci circonda. Allo stesso modo, la tecnologia è stata usata per opprimere e sfruttare noi – come chiunque abbia mai fissato la canna del fucile del loro oppressore lo dimostrerà facilmente.
La tecnologia”, secondo la prima legge tecnologica di Melvin Kranzberg, “non è né buona né cattiva, né neutrale”.
Quindi, cosa decide se la tecnologia contribuisce al nostro benessere, ai diritti umani e alla democrazia o li erode? Cosa separa la buona tecnologia dalla cattiva tecnologia? E, mentre ci siamo, cosa separa il telescopio di Galileo e le vostre lenti a contatto da Google e Facebook? E perché importa se ci vediamo come cyborg o meno?
Dobbiamo tutti cercare di capire le risposte a queste domande. Il prezzo da pagare per non farlo potrebbe essere davvero molto alto. Queste non sono solo domande sulla tecnologia. Sono domande che toccano il cuore di ciò che significa essere umani nell'era digitale e in rete. Il modo in cui scegliamo di rispondere a queste domande ha conseguenze fondamentali per il nostro benessere, sia a livello personale che sociale. Le risposte che scegliamo determineranno il carattere delle nostre società e, a lungo termine, potrebbero anche avere un impatto sulla sopravvivenza della nostra specie.
Proprietà e controllo di sé nell'era digitale e in rete
Immaginate un mondo in cui vi viene assegnato alla nascita un dispositivo che vi guarda, ascolta e vi segue da quel momento in poi. Può anche leggervi la mente.
Nel corso degli anni, questo dispositivo registra ogni tuo pensiero, ogni parola, ogni movimento e ogni interazione. Invia tutte queste informazioni su di te ad un potente computer mainframe di proprietà di una multinazionale. Lì, questi aspetti del vostro sé sono raccolti utilizzando algoritmi per creare una simulazione di voi. La società utilizza la vostra simulazione come un proxy digitale per manipolare il vostro comportamento.
Il vostro proxy digitale è inestimabile. È tutto ciò che ti rende quello che sei (a parte il tuo corpo fisico). La società capisce che non deve possedere il vostro corpo fisico per possedervi. I detrattori chiamano il sistema Slavery 2.0.
Per tutto il giorno, la società sottopone la tua simulazione a test. Cosa ti piace? Cosa ti rende felice? Cosa ti rende triste? Di cosa hai paura? Chi ami? Cosa farai questo pomeriggio? Utilizza le intuizioni che deriva da questi test per farti fare quello che vuole. Forse per comprare un vestito nuovo o per votare per un certo politico.
La società è politica. Deve continuare a sopravvivere, crescere e prosperare. Non può essere ostacolata da regolamenti. Quindi deve influenzare il discorso politico. Fortunatamente, a tutti coloro che oggi sono politici è stato assegnato lo stesso dispositivo che avevate alla nascita. Così l'azienda possiede anche i loro proxy digitali. Questo rende molto più facile per la società di ottenere il suo modo.
Tutto questo detto, la società non è onnisciente. Può ancora commettere errori. Si potrebbe dedurre in modo errato – sulla base dei vostri pensieri, parole e azioni – che siete un terrorista quando non lo siete. Quando la società ha ragione, il vostro proxy digitale è uno strumento inestimabile per manipolare il vostro comportamento. Quando si sbaglia, potrebbe mandarti in prigione. In entrambi i casi, si perde.
Sembra una distopia fantascientifica cyberpunk, vero?
Sostituire “la società” con “Silicon Valley”. Sostituire il potente computer mainframe con “The Cloud”. Sostituire “il dispositivo” con “il tuo smart phone e il tuo assistente domestico intelligente e la tua smart city e la tua smart questo, quello e altro”.
Benvenuti sulla Terra, circa oggi.
Rivista su un tavolo di legno, aperto, che mostra due pagine di articoli diffusi.
La versione tedesca dell'articolo della rivista Kulturstiftung des Bundes.
Capitalismo di sorveglianza
Viviamo in un mondo in cui poche multinazionali hanno libero accesso in streaming ai dettagli più intimi della nostra vita. I loro dispositivi ci guardano e ci ascoltano e ci seguono sulle nostre persone, nelle nostre case, sul Web, e (sempre più) sui nostri marciapiedi e sulle nostre strade. Questi non sono strumenti che possediamo e controlliamo. Sono gli occhi e le orecchie del sistema socio-tecno-economico che Shoshana Zuboff chiama “capitalismo di sorveglianza”.
Proprio come nella nostra fittizia distopia cyberpunk, i baroni rapinatori della Silicon Valley non si accontentano di guardare e ascoltare. Ad esempio, Facebook ha annunciato alla loro conferenza degli sviluppatori nel 2017 che 60 ingegneri hanno lavorato su come leggere letteralmente la tua mente1.
In precedenza, ho chiesto che cosa separa il telescopio di Galileo e le lenti a contatto di Galileo dagli articoli di Facebook, Google e di altri capitalisti della sorveglianza. Capire la risposta a questa domanda è fondamentale per capire fino a che punto il concetto stesso di personalità sotto la minaccia del capitalismo di sorveglianza.
Quando Galileo usava il suo telescopio, solo lui vedeva ciò che vedeva e solo lui sapeva ciò che stava guardando. Lo stesso vale per quando si indossano le lenti. Se Galileo avesse acquistato il suo telescopio da Facebook, Facebook, Facebook, Inc. avrebbe registrato tutto ciò che vedeva. Allo stesso modo, se si ottengono i contatti da Google, verranno con fotocamere integrate e Alphabet, Inc. (Google non produce ancora quegli obiettivi, ma hanno un brevetto2. Nel frattempo, se non potete aspettare, Snapchat fa gli occhiali con le macchine fotografiche.)
Quando usi una matita per scrivere nel tuo diario, né la matita né il tuo diario sanno quello che hai scritto. Quando scrivi i tuoi pensieri in un documento di Google, Google conosce ogni parola.
Quando si invia una lettera ad un amico per posta ordinaria, l'ufficio postale non sa quello che hai scritto. Aprire la busta è un crimine per chiunque altro. Quando invii a un amico un messaggio istantaneo su Facebook Messenger, Facebook legge ogni parola.
Quando accedi a Google Play Services su un telefono Android, ogni tua mossa e interazione viene meticolosamente registrata, inviata a Google, memorizzata per sempre, analizzata e utilizzata contro di te nella corte del capitalismo di sorveglianza.
Una volta leggevamo i giornali. Oggi i giornali ci leggono. Come si guarda YouTube, anche YouTube ti guarda.
Si capisce l'idea.
A meno che noi (come individui) non possediamo e controlliamo la nostra tecnologia, “intelligente” è un eufemismo per la “sorveglianza”. Uno smart phone è un dispositivo di tracciamento, una casa intelligente è una cella per gli interrogatori e una città intelligente è un panopticon.
Google, Facebook e altri capitalisti della sorveglianza sono fattorie di fabbrica per gli esseri umani. Fanno i loro miliardi coltivandoti per i tuoi dati e sfruttando quella visione intima della tua vita per manipolare il tuo comportamento.
Sono scanner per esseri umani. Esistono per digitalizzarti, per possedere quella copia digitale e per usarla come proxy per crescere ancora più grande e potente.
Dobbiamo capire che queste società non sono anomalie. Sono la norma. Sono la norma. Il mainstream della tecnologia oggi è una fuoriuscita tossica del capitalismo americano che minaccia di inghiottire l'intero pianeta. Qui in Europa siamo a malapena immuni ai suoi fumi.
I nostri politici sono rapidamente estasiati dai milioni che queste aziende spendono nelle lobby di Bruxelles. Sono sedotti dalla saggezza della Singularity University (non un'università). Nel frattempo, le nostre scuole hanno in stock i libri di cromo per i nostri figli. Le nostre tasse vengono abbassate, in modo che i capitalisti della sorveglianza non siano indebitamente gravati se vogliono ordinare un'altra Guinness. E i nostri politici istituzionalmente corrotti sono troppo occupati nell'organizzazione di conferenze sulla protezione dei dati, che Google e Facebook ci hanno comunicato per proteggere i nostri interessi. Lo so, perché l'anno scorso ho parlato a una conferenza. L'oratore di Facebook era appena uscito dal suo lavoro presso l'ufficio francese per la protezione dei dati, rinomato per la bellezza e l'efficienza delle sue porte girevoli.
Qualcosa deve cambiare.
E sono sempre più convinto che, se vogliamo che questo cambiamento avvenga, deve provenire dall'Europa.
La Silicon Valley non risolverà il problema che ha creato. Soprattutto perché aziende come Google e Facebook non vedono i miliardi di profitti come un problema. Il capitalismo di sorveglianza non è rotto dai suoi stessi criteri di successo. Funziona perfettamente per aziende come Google e Facebook. Stanno ridendo fino alla banca mentre ridono di fronte alle autorità di regolamentazione le cui comiche multe superano appena un paio di giorni di entrate. È stato detto che “punibile con una multa” significa “legale per i ricchi “3 . Questo è doppiamente vero quando si tratta di regolamentare società multinazionali da mille miliardi di dollari.
Allo stesso modo, il capitale di rischio non investirà in soluzioni che distruggerebbero il modello di business immensamente lucrativo che ha contribuito a finanziare.
Quindi, quando vedete iniziative come il cosiddetto Centro per la tecnologia umana con venture capitalist ed ex dipendenti di Google a bordo, ponete alcune domande. E forse risparmiate qualche altra domanda per le organizzazioni che pretendono di creare alternative etiche pur essendo finanziate dai capitalisti della sorveglianza. Mozilla, ad esempio, prende centinaia di milioni di dollari da Google ogni anno4. Ne ha sottratto più di un miliardo di dollari in totale. Siete felici di affidare loro la costruzione di alternative etiche?
Se vogliamo tracciare un percorso diverso in Europa, dobbiamo finanziare e costruire la tecnologia in modo diverso. Dobbiamo avere il coraggio di discostarci dai nostri amici dall'altra parte dello stagno. Dobbiamo avere la fiducia in noi stessi per dire alla Silicon Valley e ai loro lobbisti che non stiamo comprando quello che vendono.
E dobbiamo basare tutto questo su una solida base della legge sui diritti umani. Ho detto “diritti umani”? Intendevo i diritti dei cyborg.
I diritti dei cyborg sono diritti umani
Ci troviamo di fronte a una crisi del diritto dei diritti umani che risale a ciò che intendiamo per “umano”.
Tradizionalmente, tracciamo i confini del sé umano ai nostri confini biologici. Inoltre, abbiamo un sistema di leggi e giustizia che mira a proteggere l'integrità di questi confini e quindi la dignità dell'io. Noi chiamiamo questo sistema legge sui diritti umani.
Purtroppo, questa definizione di sé non è più adeguata per proteggerci pienamente nell'era digitale e in rete.
In questa nuova era, estendiamo le nostre capacità biologiche utilizzando tecnologie digitali e in rete. Estendiamo le nostre menti e noi stessi utilizzando la tecnologia moderna. Pertanto, dobbiamo estendere la nostra comprensione dei confini del sé per includere le tecnologie con cui estendiamo i nostri sé. Estendendo la definizione di sé, possiamo garantire che la legge sui diritti umani copra e quindi protegga l'intero sé nell'era digitale e in rete.
Come cyborg, siamo esseri scartate. Parti di noi vivono sui nostri telefoni, parti su un server da qualche parte, parti su un computer portatile. L'integrità di sé nell'era digitale e in rete è la somma totale dell'integrità di questi frammenti.
Così i diritti dei cyborg sono diritti umani come applicati al sé cyborg. Quello di cui non abbiamo bisogno è un insieme separato – probabilmente minore – di “diritti digitali”. Questo è il motivo per cui la Dichiarazione Universale dei Diritti Cyborg5 non è un documento autonomo, ma un addendum alla Dichiarazione Universale dei Diritti Umani.
Mentre la protezione costituzionale dei diritti dei cyborg è un obiettivo a lungo termine necessario, non dobbiamo aspettare un cambiamento costituzionale prima di agire. Possiamo e dobbiamo iniziare a proteggerci creando alternative etiche alla tecnologia tradizionale.
Tecnologia etica
Una tecnologia etica6 è uno strumento che si possiede e controlla. Si tratta di uno strumento progettato per rendere la vostra vita più gentile e facile. È uno strumento che migliora le tue capacità e migliora la tua vita. È uno strumento che agisce solo a favore – e mai contro – i vostri interessi.
Al contrario, una tecnologia non etica è uno strumento posseduto e controllato da aziende e governi. Essa promuove i loro interessi a spese dei vostri. Si tratta di una trappola lucida progettata per catturare la vostra attenzione, assuefazione, tracciare ogni vostra mossa e tracciare il vostro profilo. Si tratta di una fattoria di fabbrica travestito da parco giochi.
La tecnologia non etica è tossica per i nostri diritti umani, il benessere e la democrazia.
Piantare semi migliori
La tecnologia etica non cresce sugli alberi; bisogna finanziarla. Come finanziarla è importante.
La tecnologia non etica è finanziata dal capitale di rischio. Il capitale di rischio non investe in un'azienda, ma nella vendita dell'azienda. Investe anche in attività molto rischiose. Un venture capitalist nella Silicon Valley investirà, ad esempio, 5 milioni di dollari in 10 diverse startup, sapendo che 9 di esse falliranno. Così lui (di solito è un lui), ha bisogno che il 10° sia un “unicorno” da un miliardo di dollari in modo da poter riavere da cinque a dieci volte il suo denaro. L'unico modello di business che conosciamo nella tecnologia che offre questo tipo di crescita è l'agricoltura. La schiavitù ha pagato bene. Anche la schiavitù 2.0 paga bene.
Non c'è da stupirsi che un sistema che valorizza la crescita simile al cancro al di sopra di tutto abbia portato a tumori come Google e Facebook. Ciò che è stupefacente è che sembriamo celebrare i tumori invece di curare il paziente. E ancora più perplessi, sembriamo ostinatamente determinati a infettarci con la stessa malattia qui in Europa.
No.
Finanziamo alternative etiche.
Dai beni comuni.
Per il bene comune.
Sì, questo significa con le nostre tasse. E' una specie di quello per cui sono (costruire infrastrutture condivise per il bene comune che promuovono il benessere della nostra gente e delle nostre società). Se la parola “tassa” ti spaventa o sembra troppo antiquata, basta sostituirla con “crowdfunding obbligatorio” o “filantropia democratizzata”.
Finanziare la tecnologia etica dai comuni non significa che costruiamo, possediamo o controlliamo le nostre tecnologie. Né significa nazionalizzare aziende come Google e Facebook. Rompetele! Certo. Regolarle! Certo. Fate tutto ciò che limita il più possibile i loro abusi. Ma l'unica cosa peggiore di un panopticon aziendale è uno stato (non che queste due cose si escludono a vicenda).
Non sostituiamo un fratello maggiore con un altro.
Investiamo invece in molte piccole e indipendenti organizzazioni non profit e affidiamo loro il compito di costruire alternative etiche. Facciamo in modo che siano in concorrenza tra loro mentre lo fanno. Prendiamo ciò che sappiamo funziona dalla Silicon Valley (piccole organizzazioni che lavorano iterativamente, che competono e che falliscono velocemente) e rimuoviamo ciò che è tossico: capitale di rischio, crescita esponenziale e uscite.
Invece di startup, lasciamo che si costruiscano delle “stayups” in Europa.
Invece di imprese usa e getta che falliscono velocemente o diventano tumori maligni, finanziamo organizzazioni che falliscono velocemente o diventano fornitori sostenibili di beni sociali.
Quando ho menzionato questo piano diversi anni fa al Parlamento europeo, le mie parole sono cadute nel vuoto. Non è ancora troppo tardi per tentare. Ma ogni giorno che ritardiamo, il capitalismo di sorveglianza diventa sempre più radicato nel tessuto della nostra vita.
Dobbiamo superare questo fallimento dell'immaginazione e basare la nostra infrastruttura tecnologica su quei principi che sono i migliori dell'umanità: diritti umani, giustizia sociale e democrazia.
Oggi, l'UE agisce come un dipartimento di ricerca e sviluppo non retribuito per la Silicon Valley. Noi finanziamo start-up che, se avranno successo, saranno vendute ad aziende della Silicon Valley. Se falliscono, il contribuente europeo paga il conto. Questa è follia.
La Commissione europea deve smettere di finanziare le nuove imprese e investire invece in imprese che si fermano. Investire 5 milioni di euro in dieci soggiorni in ogni area in cui vogliamo alternative etiche. A differenza di una startup, quando i stayups hanno successo, non escono. Non possono essere acquistati da Google o Facebook. Rimangono sostenibili, senza scopo di lucro, lavorando per fornire tecnologia come bene sociale.
Inoltre, il finanziamento per un soggiorno deve essere accompagnato da una rigorosa specificazione del carattere della tecnologia che costruirà. I beni costruiti con fondi pubblici devono essere beni pubblici. La Free Software Foundation Europe sta attualmente sensibilizzando l'opinione pubblica su queste linee con la campagna “public money, public code”. Tuttavia dobbiamo andare oltre l'“open source” per stabilire che la tecnologia creata dai soggiorni deve essere non solo pubblica, ma anche impossibile da racchiudere. Per il software e l'hardware, questo significa utilizzare licenze con copyleft. Una licenza copyleft assicura che se si costruisce su tecnologia pubblica, si deve condividere allo stesso modo. Le licenze simili a quelle condivise sono essenziali affinché i nostri sforzi non diventino un eufemismo per la privatizzazione e per evitare una tragedia dei beni comuni. Le aziende che dispongono di ingenti risorse economiche non devono essere in grado di prendere ciò che creiamo con fondi pubblici, investire i propri milioni e non condividere il valore aggiunto.
Infine, dobbiamo stabilire che le tecnologie costruite dai stayups sono peer to peer. I vostri dati devono rimanere sui dispositivi che possedete e controllate. E quando comunichi, devi comunicare direttamente (senza un “uomo in mezzo” come Google o Facebook). Dove questo è tecnicamente impossibile, qualsiasi dato privato controllato da terzi (ad esempio un host web) deve essere criptato end-to-end e si deve tenere l'unica chiave.
Anche senza alcun investimento statisticamente rilevante nella tecnologia etica, ci sono già piccoli gruppi di lavoro sulle alternative. Mastodon7, un'alternativa etica federata a Twitter è stata creata da una persona all'età di vent'anni. Un paio di persone si sono riunite per creare un progetto chiamato Dat8 che potrebbe essere la base di un web decentrato. Per oltre dieci anni, i volontari hanno gestito un sistema alternativo di nomi di dominio non commerciali chiamato OpenNIC9 che potrebbe dare a tutti il proprio posto sul Web.....
Se anche senza alcun supporto questi semi stanno iniziando a germogliare, immaginate cosa potremmo ottenere se iniziassimo ad annaffiarli e a piantarne di nuovi. Investendo nelle “stayups”, possiamo iniziare un cambiamento fondamentale verso una tecnologia etica in Europa. Possiamo iniziare a costruire un ponte da dove siamo fino a dove vogliamo essere. Da un mondo in cui le imprese ci possiedono per procura a un mondo in cui siamo noi stessi. Da un mondo in cui diventiamo di nuovo proprietà a un mondo in cui rimaniamo come persone. Dal capitalismo di sorveglianza alla peerocrazia.
