Una sentenza storica incrina la favola della non responsabilità delle piattaforme social sui contenuti che pubblicano
Negli anni Ottanta, lungo le highway americane, c’erano motel che potremmo definire “particolari”. Non facevano troppe domande: né su chi fossi, né su cosa stessi facendo. Bastava pagare la stanza. Il gestore, spesso consumato dalla vita, prendeva i soldi e si voltava dall’altra parte. Quello che accadeva dentro quelle mura non era affar suo. E quando arrivava la polizia per episodi di illegalità, la risposta era sempre la stessa: spallucce. “Io affitto solo camere”. I social network, per molti anni, hanno raccontato esattamente la stessa storia. Siamo solo una struttura. Un contenitore. Un luogo che ospita contenuti prodotti da altri. Non siamo responsabili di ciò che accade al suo interno.
Questa narrazione è stata difesa come una linea Maginot. A qualunque costo. Ed è comprensibile: se fosse passato il principio della responsabilità, le conseguenze economiche, legali e reputazionali sarebbero state enormi.
Anche Google ha combattuto a lungo per non essere considerata responsabile di ciò che indicizza, mentre ci costruiva sopra un business gigantesco. Fino a quando, nel 2014, la Corte di giustizia dell’Unione europea ha imposto il principio del diritto all’oblio, stabilendo che sui dati personali una responsabilità esiste, eccome. Oggi quella linea difensiva ha subito un colpo ancora più diretto. Una recente sentenza negli Stati Uniti ha condannato Meta Platforms e YouTube (di Google) per aver contribuito a creare dipendenza e danni psicologici in una minore. Il caso riguarda una giovane donna che, durante l’adolescenza, è stata esposta per anni a contenuti legati a disturbi alimentari, autolesionismo e modelli comportamentali estremi. Non per caso. Ma perché gli algoritmi continuavano a riproporli, sistematicamente, amplificando ogni interazione.
È il meccanismo delle echo chamber: più guardi qualcosa, più quel qualcosa ti viene restituito, in forma sempre più estrema. A un terrapiattista, il sistema offrirà terre sempre più piatte. È una dinamica che tutti possiamo osservare ogni giorno. Basta soffermarsi su un contenuto: nel giro di pochi minuti, il feed si organizza. Non è neutrale. È reattivo. È progettato. Per anni abbiamo assistito, con un certo senso di incredulità, alla narrazione opposta: le piattaforme come spettatori passivi, che al massimo intervengono con moderazioni di facciata, la segnalazione dei contenuti, la rimozione a posteriori, scaricando ancora una volta la responsabilità sull’utente finale. Ma la causa intentata dalla ragazza ha ribaltato questo schema: l’esposizione non era casuale, bensì il risultato di precise scelte ingegneristiche.
Va detto per chiarezza che non c’è nessun intento di fare del male, semplicemente l’algoritmo massimizza il tempo in cui siamo nella piattaforma, quindi l’esposizione all’advertising e quindi i ricavi. Il tribunale ha riconosciuto questo nesso, disponendo un risarcimento di circa 3 milioni di dollari. È la prima volta che una responsabilità di questo tipo viene affermata in modo così esplicito.
Per capire la portata della decisione, bisogna guardare al passato. Negli ultimi 15 anni, quasi tutte le cause contro le piattaforme si sono concluse a favore delle aziende, grazie alla Section 230 del Communications Decency Act, che attribuisce la responsabilità dei contenuti agli utenti. Nel 2016, ad esempio, alcune famiglie di vittime di attentati in Israele accusarono Facebook di aver facilitato la diffusione di contenuti terroristici: i giudici stabilirono che i sistemi di raccomandazione rientravano nelle attività protette.
La differenza oggi è sostanziale. Prima gli algoritmi di selezione dei social erano considerati un’estensione tecnica della pubblicazione. Ora diventano oggetto di valutazione in sé. E lo sono sempre stati, non nascondiamoci dietro un dito.
Questa linea Maginot una volta superata ha implicazioni enormi: disinformazione sanitaria, fake news politiche, modelli estetici irrealistici, cyberbullismo, campagne d’odio organizzato, persino fenomeni come il trading speculativo alimentato da dinamiche virali. In tutti questi ambiti, il contenuto è solo una parte del problema. L’altra parte, quella davvero decisiva, è il sistema che lo rende visibile, rilevante, inevitabile. Perché a quel punto l’hotel non può più dire: “Io affitto solo stanze”. Deve rispondere del fatto che quelle stanze sono senza serrature, che i corridoi sono senza luce e che certe porte vengono aperte più spesso di altre. Non è una questione di moderazione. È una questione di architettura.
Si apre una fase nuova, in cui il funzionamento interno delle piattaforme diventa oggetto di scrutinio pubblico e legale. Per anni abbiamo accettato una sostanziale impunità in nome della libertà di espressione e della legittima ricerca del profitto. Ma quel confine, in realtà, era stato superato da tempo.
La mia rubrica pubblicata questo mese su Prima Comunicazione
