Jorge Caballero Jiménez / Flickr CC / BY-SA 2.0

In Germania è entrata in vigore una nuova legge per combattere l’hate speech online. Da ottobre ogni social network con più di due milioni di utenti nazionali deve rimuovere i “post offensivi” – definiti come “materiale abusivo evidentemente illegale” – entro 24 ore (o sette giorni se il contenuto è difficile da classificare). Da gennaio 2018 le aziende, incluse Facebook, YouTube, Instagram e Twitter, che non provvederanno a rimuovere tali contenuti potrebbero incorrere in sanzioni fino a 50 milioni di euro.

Il governo tedesco sostiene che la nuova legge, il Network Enforcement Act (NetzDG), sia essenziale per contrastare la crescita del 300% dei “crimini d’odio digitali” avvenuta negli ultimi anni. Il governo ha dichiarato di essersi concentrato sui social network perché “nessuno dovrebbe essere al di sopra della legge”. La legge definisce come “illegali” i contenuti che violano uno delle quasi due dozzine di sezioni del Codice Penale tedesco. Tali sezioni includono “incitamento pubblico al crimine”, “violazione della privacy attraverso fotografie”, diffamazione, “falsificazione”, formazione di organizzazioni terroristiche o criminali e “diffusione di scene di violenza”.

I social network hanno criticato il NetzDG, lamentando che le minacce di ritorsioni e le alte sanzioni potrebbero incoraggiare le piattaforme all’‘over-blocking” – la rimozione di qualsiasi contenuto discutibile anche se non chiaramente illegale – per evitare le multe e hanno anche sostenuto che la legge li caricherebbe della responsabilità di “decisioni legali complesse”. Facebook, ad esempio, ha dichiarato: “crediamo che la soluzione migliore verrà individuata quando il governo, la società civile e l’industria lavoreranno insieme, e questa legge, così com’è ora, non migliorerà gli sforzi per affrontare questo importante problema sociale”.

Facebook ha espresso preoccupazione per il livello di hate speech sulla sua piattaforma, ma con due miliardi di utenti in tutto il mondo sostiene che il compito di monitoriaggio e rimozione sia ingestibile. L’azienda ha assunto 3000 dipendenti extra in tutto il mondo – 600 dei quali di base a Berlino – che avranno il compito di monitorare internamente i contenuti, inclusi i post segnalati dai lettori come sospetti.

Gli esperti di diritto hanno invece manifestato dubbi sul fatto che la nuova legge possa essere compatibile con il principio della libertà di espressione e con la nuova direttiva Ue sulla privacy, che entrerà in vigore da maggio 2018. Si teme anche che, data la varietà dei contenuti sulle piattaforme social e la mancanza di una chiara definizione di “materiale abusivo evidentemente illegale”, i network saranno costretti a diventare iperzelanti – censurando contenuti senza una reale necessità.

“Le aziende tecnologiche potrebbero avere un ruolo nella lotta all’hate speech e ad altri contenuti illegali”, ha dichiarato Ed Johnson-Williams dell’Open Rights Group, “ma questa nuova legge in Germania sta portando degli squilibri e comporta grossi rischi per la libertà di espressione: non ci sono, ad esempio, incentivi per assicurare che le aziende analizzino correttamente il contesto del contenuto e lascino online i contenuti legali”.

L’Ue ha un diverso approccio nell’affrontare i contenuti illegali online e ha concordato un codice volontario di condotta con i social network finalizzato a rimuovere “i discorsi d’odio, violenza e terrorismo”. Tuttavia ha avvisato che se le linee guida non saranno seguite volontariamente, allora verranno rinforzate. Vera Jourová, Commissaria Ue per la Giustizia, i Consumatori e le Pari Opportunità, ha detto: “la legge va applicata tanto offline quanto online. Non possiamo accettare un Selvaggio West digitale e dobbiamo agire. Il codice di condotta che ho concordato con Facebook, Google e Microsoft mostra che un approccio auto-regolativo può essere un buon esempio e portare a dei risultati. Tuttavia, se le compagnie tecnologiche non lo mettono in atto, lo faremo noi per loro”.

Rimossi da Facebook per errore
Facebook ha ammesso un numero di errori in cui un contenuto è stato impropriamente classificato come ‘offensivo’. Questi comprendono le foto della statua della Sirenetta di Copenhagen e del Nettuno a Bologna, accusate di essere “troppo sensuali”. In seguito la piattaforma ha poi reso nuovamente disponibili entrambe le immagini, ammettendo che erano state rimosse erroneamente. Facebook ha anche rimosso e ripubblicato la più iconica immagine della guerra in Vietnam in cui si vede Phan Thi Kim Phuc a 9 anni, nuda e in lacrime in fuga dalle bombe al napalm.

Articolo pubblicato originariamente in inglese, traduzione a cura di Giulia Quarta