Perché ci fidiamo ancora di Amazon? Come giganti di Big Tech non riescono a proteggere la società

Amazon avrebbe potuto aspettarsi molta attenzione da parte del pubblico quando ha annunciato dove avrebbe stabilito il suo nuovo quartier generale, ma come molte società tecnologiche recentemente, probabilmente non ha previsto quanto negativa sarebbe stata la risposta. Nei territori scelti da Amazon, New York e Virginia, i politici locali si sono opposti alle lusinghe finanziate dai contribuenti promesse alla compagnia. I giornalisti di tutto lo spettro politico hanno approfondito gli accordi ei social media si sono riempiti delle voci di newyorkesi e virginiani che si sono impegnati a resistere.

Allo stesso modo, le rivelazioni che Facebook ha sfruttato le teorie cospirative antisemite per indebolire la legittimità dei suoi critici indicano che invece di cambiare, Facebook preferirebbe passare all'offensiva. Anche se Amazon e Apple hanno visto i loro valori azionari per un breve periodo di $ 1 trilione, i dirigenti della tecnologia sono stati trascinati davanti al Congresso, hanno faticato a prendere coerentemente posizione sui discorsi di incitamento all'odio, sono stati scoperti a coprire le condotte sessuali e hanno visto i propri dipendenti protestare contro gli affari.

In alcuni ambienti questo è considerato una perdita di fiducia del pubblico nelle aziende tecnologiche che hanno promesso di rifare il mondo - socialmente, ambientalmente e politicamente - o almeno come una frustrazione per il modo in cui queste aziende hanno cambiato il mondo. Ma le aziende tecnologiche devono fare molto di più che riguadagnare la fiducia del pubblico; hanno bisogno di provare che lo meritavano in primo luogo - che, quando inseriti nel contesto della storia della critica tecnologica e dello scetticismo, non lo facevano.

Guardando lontano dai problemi

Le grandi società tecnologiche erano solite inquadrare i loro progetti in un linguaggio vagamente utopico e positivo che oscurava la politica e le politiche pubbliche, trascendendo la partigianeria e - convenientemente - evitando il controllo. Google ricordava ai suoi lavoratori: "Non essere cattivo". Facebook ha lavorato per "rendere il mondo più aperto e connesso". Chi potrebbe obiettare a questi ideali?

Gli studiosi hanno avvertito dei pericoli di piattaforme come queste, molto prima che molti dei loro fondatori fossero nati. Nel 1970, Lewis Mumford, critico sociale e storico della tecnologia, predisse che l'obiettivo di ciò che definiva "computerdom" sarebbe "fornire ed elaborare una quantità infinita di dati, al fine di espandere il ruolo e assicurare il dominio del sistema energetico. "Quello stesso anno un saggio seminale del pensatore femminista Jo Freeman mise in guardia sugli squilibri di potere intrinseci rimasti in sistemi che sembravano rendere tutti uguali.

Allo stesso modo, nel 1976, lo scienziato informatico Joseph Weizenbaum aveva previsto che nei decenni a venire le persone si troverebbero in uno stato di disagio in quanto diventavano sempre più dipendenti da sistemi tecnici opachi. Da allora sono stati emessi innumerevoli avvertimenti simili, tra cui importanti studi recenti come l'erudito di Safiya Noble sul modo in cui le ricerche di Google riproducono pregiudizi razziali e di genere e la dichiarazione di Siva Vaidhyanthan del giornalista dei media che "il problema con Facebook è Facebook".

Le società tecnologiche sono potenti e benestanti, ma i loro giorni di evitamento del controllo potrebbero finire. Il pubblico americano sembra aver iniziato a sospettare che i giganti della tecnologia fossero impreparati, e forse non voluti, ad assumersi la responsabilità per gli strumenti che hanno scatenato sul mondo.

Dopo le elezioni presidenziali americane del 2016, rimane alta la preoccupazione che i governi russi e di altri paesi stranieri stiano utilizzando qualsiasi piattaforma di social media disponibile per seminare discordie e malumori nelle società di tutto il mondo.

Facebook non ha ancora risolto i problemi relativi alla privacy e alla trasparenza dei dati che hanno causato lo scandalo di Cambridge Analytica. Twitter è il megafono preferito dal presidente Donald Trump e ospita quantità allarmanti di violenti discorsi di incitamento all'odio. Il futuro degli uffici aziendali di Amazon si preannuncia come una rissa multi-lato tra i funzionari eletti e le persone che presumibilmente rappresentano.

È ignoranza o ingenuità?

Guardando la situazione attuale con la storia delle critiche della tecnologia in mente, è difficile non concludere che le società tecnologiche meritano le crisi che stanno affrontando. Queste aziende chiedono alle persone di affidare loro le loro e-mail, i dati personali, le cronologie di ricerca online e le informazioni finanziarie, al punto che molte di queste aziende orgogliosamente dichiarano di conoscere gli individui meglio di quanto non conoscano loro stessi. Promuovono i loro ultimi sistemi, tra cui "smart speakers" e "smart camera", cercando di garantire che ogni momento della sveglia - e anche i momenti di sonno - degli utenti possano essere monitorati, alimentando più dati nei loro algoritmi di creazione di denaro.

Eppure apparentemente inevitabilmente queste aziende continuano a dimostrare quanto siano indegni di fiducia in realtà, perdendo dati, condividendo informazioni personali e non riuscendo a prevenire l'hacking, mentre lentamente riempiono il mondo con una techno-paranoia inquietante degna di un episodio di "Black Mirror" “.

Le risposte delle aziende tecnologiche a ogni nuova rivelazione si adattano a un modello standard: dopo che uno scandalo è emerso, la società coinvolta esprime allarme per il fatto che qualcosa è andato storto, promette di indagare e si impegna a fare meglio in futuro. Alcuni giorni - settimane, o anche mesi - dopo, la compagnia rivela che lo scandalo è stato il risultato diretto di come il sistema è stato progettato, e trotterella un dirigente sgomentato per esprimere indignazione per gli usi distruttivi che le persone cattive hanno trovato per il loro sistema, senza ammettere che il problema è il sistema stesso.

Lo stesso Zuckerberg disse al Senato degli Stati Uniti nell'aprile 2018 che lo scandalo di Cambridge Analytica gli aveva insegnato "abbiamo la responsabilità non solo di fornire strumenti alle persone, ma di assicurarsi che quegli strumenti siano utilizzati per sempre." Questa è una lezione fondamentale da non perdere fuori durante la creazione di una società multi-miliardi di dollari.

Ricostruire da ciò che è rimasto

L'utilizzo di qualsiasi tecnologia, da un coltello a un computer, comporta dei rischi, ma con l'aumentare dei sistemi tecnologici in termini di dimensioni e complessità, anche l'entità di tali rischi tende ad aumentare. Una tecnologia è utile solo se le persone possono usarla in sicurezza, in modi in cui i benefici superano i pericoli e se possono sentirsi sicuri di comprendere e accettare i potenziali rischi. Un paio di anni fa, Facebook, Twitter e Google potrebbero essere apparsi alla maggior parte delle persone come metodi di comunicazione benigni che hanno portato più alla società di quanto hanno portato via. Ma con ogni nuovo scandalo e una risposta pasticciata, sempre più persone vedono che queste società rappresentano un serio pericolo per la società.

Per quanto sia allettante il fatto di puntare al pulsante "off", non c'è una soluzione facile. I giganti della tecnologia si sono fatti parte del tessuto della vita quotidiana per centinaia di milioni di persone. Suggerire che le persone semplicemente smettano è semplice, ma non riesce a riconoscere quanto molte persone siano diventate affidabili su queste piattaforme e quanto intrappolate possano sentirsi in una situazione sempre più intollerabile.

Di conseguenza, la gente compra libri su quanto sia pessima Amazon - ordinandoli su Amazon. Conducono ricerche su Google per articoli su quante informazioni Google conosce su ogni singolo utente. Loro twittano su quanto odiano Twitter e pubblicano articoli su Facebook sull'ultimo scandalo di Facebook.

Le aziende tecnologiche potrebbero trovarsi a governare su una base di utenti sempre più aggravata, poiché le loro piattaforme diffondono il malcontento più lontano e più ampio del possibile in passato. Oppure potrebbero scegliere di cambiare radicalmente se stessi, rompere se stessi, trasformare alcuni controlli nelle decisioni democratiche dei loro utenti e assumersi la responsabilità per il danno che le loro piattaforme e prodotti hanno fatto al mondo. Finora, tuttavia, sembra che l'industria non sia andata oltre le scuse infondate, continuando a fare gli affari come al solito. Spero che cambierà. Ma se il passato è una guida, probabilmente non lo farà.

Questo articolo è stato originariamente pubblicato su The Conversation di Zachary Loeb. Leggi l'articolo originale qui.