Elaborato per l'insegnamento di Strumenti e applicazioni del Web realizzato da Carnevali Simone, Marrocco Claudio, Mercuriali Francesca.

3. 1.0 Indice
1.0 La necessità della moderazione
Il dualismo della libertà di espressione
Considerazioni legali
Fenomenologia dei comportamenti devianti
2.0 Teoria e pratica della moderazione Web
Tipologie di moderazione
La Moderazione Supervisionata dei contenuti
Esempi di moderazione applicata
3.0 La moderazione come tutela dell’azienda
La relazione con il cliente e la tutela della reputazione
Social media security
I servizi esterni per la moderazione

10. .

19. https://darkpsychology.co/troll/

23. wanderingcritic.wordpress.com

24. Cause psicologiche del flaming.1.3
- Studi di sociologia e psicologia dei nuovi media.
Un esempio: lo studio sul tono delle mail.
- Studi di sociologia e psicologia dei gruppi.
Epley, Kruger, «Egocentrism Over E-Mail: Can We Communicate as Well as We Think?”

29. La necessità della moderazione.
Quali rischi comportano i fenomeni considerati?
1.3
Per l’utente: bullismo online, diffamazione, immagini e contenuti offensivi,
profanita’, linguaggio aggressivo, problemi mentali, rischi legati ai minori,
exposure di informazioni provate, comportamenti predatorii.
Per la reputazione: diffamazione, pubbliche relazioni, critiche ai servizi,
leaking di info, commenti inappropriati dei dipendenti, attacchi degli oppositori,
astroturfing.
Per la legge : diffamazione, discriminazione, harrassment, oltraggio alla
corte, copyright.

31. Strategie di moderazione.
• Identificare potenziali punti deboli- criticità
• Identificare valori che si intende tutelare
• Pubblicare un regolamento chiaro
• Essere consci di chi accede ai contenuti
pubblicati – richiedere registrazione per
consentire l’intervento
• Scelta della tipologia di moderazione più
consona, integrando eventualmente modelli
differenti.
2.0

32. Tipologie di moderazione.
• Pre-moderazione:
– Compito demandato a una ditta di Outsourcing o a un algoritmo
– Intervento non direttamente percepibile da parte dell’utenza
– Non facilita l’interazione
– Scelta abitualmente per la gestione dei contenuti di siti con un vasto bacino di
utenza,che trattano argomenti “delicati”.
– Richiede investimenti ingenti
– Scelta di filtri applicabili: Parole proibite e parole “suscettibili a intervento di
moderazione”
• Supervisionata (Diretta):
– Presenza di un team di moderatori
– Contatto con l’utenza
– Personaggi di riferimento, intervento percepibile
– Tipica di siti o piattaforme di dimensioni ridotte
2.0

33. • Distribuita:
– Compito demandato agli utenti stessi di un sito.
– Rischio di potenziale persistenza di contenuti inappropriati
– User regulated se basata su regole precise che ne stabiliscono gli effetti
Spontanea se lasciata completamente a discrezione dell’utenza, tendenza
all’ordine spontaneo.
• Trust Based
– Sistema basato su input reputazionali forniti dagli utenti. (Karma based)
– La moderazione avviene attraverso il confronto tra le metriche di reputazione
degli utenti che riportano un contenuto e l’autore del contenuto stesso.
– Se il confronto è negativo il contenuto viene nascosto o eliminato.
– Algoritmo brevettato da Ori Zaltzman e Quy Dinh Le ed implementato nel 2007 da
Yahoo! Per il servizio Answers
2.0 Tipologie di moderazione II

34. La Moderazione
Supervisionata
dei contenuti

35. Il ruolo del moderatore nella
tipologia diretta.
Chi è?
Dal latino: Moderatus,
da modes-rari
(di rari costumi)
Colto, che tiene nella
giusta misura, colui
che tempera, colui che
mette ordine.
2.1

36. Competenze del moderatore:
• Conoscenza dei mass media
• Conoscenza estesa del sito o della piattaforma su cui
opera
• Capacità comunicative
• Sensibilità alle dinamiche e alla logica della
comunicazione online
• Capacità di rappresentare un modello per gli altri
utenti
• Capacità di essere un valido punto di riferimento
2.1

37. Il codice di condotta per i
moderatori.
Lo scopo?
Proteggere la pagina o il sito da elementi di disturbo
Come?
• Comportamento neutrale e conciliante
• Consapevolezza dell’irreversibilità delle proprie
decisioni
• Rispetto per gli utenti
2.1

38. DO’S
•Evitare citazioni
•Preferire comunicazione diretta-verbale con gli interessati
•Menzionare motivazioni fondate
•Stabilire regole chiare
•Essere reperibili il più possibile
•Comunicare per tempo modifiche importanti
•Cancellare contenuti come estrema ratio
•Consentire critica e divergenza di opinione
•Demandare ad altri i propri compiti se non si è in grado
di garantire neutralità
2.1

39. DONT’S
•Non modificare contenuti senza autorizzazione del content
manager (su un sito) o dell’autore di tali contenuti (in un
forum o blog).
•Non cancellare mai nulla a meno che non ne esistano serie
ragioni
•Non tenere condotte differenti con utenti differenti.
•Non imporre la propria opinione
•Non agire su impulso emotivo
•Non pubblicare contenuti irrilevanti
•Non utilizzare linguaggio inappropriato
2.1

40. Tipologie di moderatore.
• Legislativo:
Controlla che la netiquette e il regolamento del forum/del
sito vengano rispettati e capiti dagli utenti.
Si dedica maggiormente alle questioni tecniche.
• Comunicatore
Si occupa della gestione di alterchi tra utenti, Incarna la
figura di guida, aiuto e supporto.
• Moderatore Propositivo
Si dedica alla promozione di iniziative per lo sviluppo e la
crescita del sito/del forum/della piattaforma per cui opera.
2.1

41. Moderazione severa VS liberale.
+ Qualità nei contenuti = - Utenti
Nei forum e blog privati la scelta del livello di
controllo è a totale discrezione di chi gestisce i
contenuti:
Moderazione meno severa = partecipazione
più democratica ma anche maggiori disordini
2.1

42. 4 passi della moderazione diretta.
• Comunicazione
• Ricerca di compromesso
• Misure sanzionatorie:
– Demotion
– Probatory period
• Misure punitive estreme:
– Strumento di Ban, temporaneo o permanente. Legato al
nome utente o all’IP
2.1

43. La moderazione dei
contenuti nei SOCIAL

44. Barriera all’accesso: registrazione necessaria
Esenzione di responsabilità: termini di utilizzo
Community Standards
Sistema integrato: Pre-moderazione/Moderazione distribuita
Controllo reciproco degli utenti sui contenuti
Politiche differenziate geograficamente
Tutela minori
Strumenti per denunciare abusi
Strumenti generali.2.2

45. 2.2
Protegge:
•Proprietà intellettuale
•Privacy
•Sicurezza personale
•Problema Fanpage/Spam: “spammatori” professionisti.
Obbligo di registrazione con dati reali
•Problema della Censura:
• Gestione da parte di un team di moderatori (ditta di
Outsourcing) delle segnalazioni fatte dagli utenti stessi.
• Prese di posizioni su questioni sensibili demandate a piani
più alti della gestione contenuti.
• Scelte condizionate dall’area geografica.
Facebook
Censura:
•Nudo - Violenza
•Incitamenti all’odio o all’autolesionismo
•Minacce
•Sostegno a organizzazioni terroristiche

46. Lo “spam” Belen Rodriguez3.3

47. 2.2
Principale sostenitore di una politica social atta a tutelare la libertà
di espressione, ma con alcune problematiche:
•Problema relativo all’anonimato e alla proliferazione di troll
Algoritmo che premia i contenuti di maggior interesse per
provare a combattere il fenomeno
•Problema relativo al proliferare di fenomeni di harassment
Strumento di segnalazione abusi/ Blocco utente: policy anti
minacce.
•Problema “censura politica”
Nascita del modello twitter dal dicembre 2014
Twitter

48. 2.2
Censura di video contenenti:
•Contenuti che contravvengono alle norme in difesa dei copyright.
•Contenuti che mostrano atti di eccessiva violenza.
•Contenuti di carattere sessualmente provocante.
•Contenuti che incitano a comportamenti autolesionisti o lesivi.
•Spam o frodi.
Modalità di protezione da contenuti “forti”
Filtro Minori e sistema di segnalazione abusi
Ogni utente è moderatore all’interno del proprio canale
https://www.youtube.com/watch?v=zv4f3Kgg6GI
Youtube

49. 2.2
•Strumento cancellazione commenti- denuncia abusi
•No spam
•No minacce o contenuti discriminatori.
•No contenuti di nudo, totale o parziale
•No contenuti crudi o che incitino alla violenza
•Moderazione Distribuita spontanea.
Instagram

50. 2.2
Lo scopo del sito è quello di scrivere domande sul profilo degli
altri membri.
Il servizio è basato principalmente sull'anonimato:
è possibile scrivere le domande in forma anonima sulla bacheca
degli altri utenti e seguire i propri amici senza che loro lo
sappiano. Per rispondere alle domande è necessario
registrarsi al sito.
Il sito, nelle «condizioni di utilizzo», stabilisce che gli utenti
di Ask.fm devono avere almeno 13 anni

51. Altri esempi di
moderazione dei
contenuti

52. Blog e aggregatore di notizie Statunitense. Tra i più
autorevoli e visitati.
•Adotta una politica severa di pre-moderazione
•Sistema di ranking dei contributi, selezione commentatori
affidabili.
•Garanzia dato dall’obbligo di registrazione con dati personali
reali.
2.3

53. Sito Internet di social news e intrattenimento
Sistema di upvoting/downvoting - Organizzazione del sito in aree
di interesse
Pochi vincoli alla pubblicazione di contenuti:
•No informazioni non relative a personaggi pubblici
(Caso Fappening)
•No spam (?)
•Vincoli anti pedopornografia introdotti solo dal 2012 (Fenomeno
Jailbait).
2.3

54. Sito Imageboard caratterizzato dalla presenza bacheche
tematiche, ognuna di esse dotata di una specifica
regolamentazione dei contenuti pubblicabili. Gli utenti postano
nel totale anonimato.
La bacheca /b/ detta Random è conosciuta per l’estrema scarsità
di restrizioni relative ai contenuti ivi pubblicabili. La quasi totalità
dei meme che circolano su internet è nata qui.
Fenomeni critici: Diffusione materiale pedopornografico-
Fappening – allarmismo.
2.3

55. 2.3
Sito web informativo su argomenti di carattere tecnologico
organizzato secondo come un weblog
Sistema di moderazione Trust Based:
• Valutazione di un contenuto influenzata dal rating di chi lo
pubblica. (Karma)
• Sistema di meta-moderazione
Critiche sulla faziosità dei contenuti.

57. Relazionarsi con gli utenti:
L’importanza per le aziende
“Spesso dimentichiamo che
l’utente che entra in contatto
con noi, con la pagina
Facebook, il profilo Twitter e
così via, è un essere umano,
non solo un follower o un fan,
e non bisogno trattarlo come
se fosse un numero da
mostrare con orgoglio, in una
versione social del ’vediamo
chi la fa più lontano’”.
Francesco Ambrosino, blogger di Ninja
Marketing (primo blog di marketing in
Italia, fonte Wikio)
3.0

58. 1) Umanizzare il brand
Un’azienda non può più proporsi ai potenziali
clienti come un mero fornitore di prodotti o
servizi, ma deve diventare un punto di
riferimento capace di risolvere quel problema
specifico che gli viene presentato;
3.0 Perchè è importante?

59. 2) Fidelizzare il cliente
Chi acquista un prodotto o paga un servizio vuole sentirsi
coccolato, seguito, assistito, non solo durante la
transazione commerciale, ma anche nella fase di fruizione
e utilizzo;
3.0 Perchè è importante?

60. 3) Veicolare un messaggio
L’interazione aumenta la diffusione del
messaggio, perché i clienti fanno da cassa di
risonanza, mostrandolo a persone che
l’azienda non aveva ancora raggiunto;
3.0 Perchè è importante?

61. 4) Far crescere il brand
I contenuti diffusi
attraverso i social devo
avere come obiettivo
principale non la vendita
del prodotto/servizio, ma
la crescita del brand, che
deve acquisire
autorevolezza in rete;
3.0 Perchè è importante?

62. Ma…
La creazione di una FanPage implica però
la gestione di un’appendice dell’azienda
che deve essere protetta in quanto sua
immagine estesa perchè si può incorrere a
messaggi di SPAM, pubblicità di altri
organi, linguaggio scorretto e ingiurioso,
che finiscono per ledere la reputazione
proprio nel “cuore” del social facendo
percepire il brand come poco attento alle
esigenze del cliente.
3.1

63. Cosa può succedere ai profili “non
moderati”.
3.1

65. Social Media Security
Applicare le tecniche di base della sicurezza anche alla gestione
dei contenuti generati dagli utenti ed alle properties
dell’azienda, controllando che nulla possa andare storto.
3.1

66. Social Media Security: come?
Di solito, i più importanti blog e siti
Internet hanno una sezione apposita
dove viene enunciata la “Policy”
dell’azienda riguardo la moderazione dei
commenti.
Policy = una policy è un repertorio di limiti che
sono stabiliti attraverso un processo decisionale
collettivo
3.1

67. Esempio: “Il Post.it”3.1

68. Moderazione: esempi negativi…3.1

69. …ed esempi positivi: il fenomeno
Morandi.
3.1

70. COME comportarsi sui social.3.1

71. Il fenomeno Morandi
I punti di forza del fenomeno Morandi possono essere
trasformati in consigli per rafforzare la presenza in rete di
un brand, attraverso il miglioramento del rapporto con il
pubblico:
1) Sii autentico
2) Sii positivo
3) Emoziona
4) Sii costante
3.1

72. I servizi esterni per la moderazione
dei contenuti.
Molte volte i responsabili della moderazione
dei suddetti siti hanno impiegato ore per a
“pulire” le pagine di Facebook dagli insulti,
dovendo talvolta chiuderle per tutta la
durata della gestione della problematica.
Operazione che, se non dotati di strumenti
adeguati, può risultare in un impegno e
problema quasi insormontabile.
Per questo nascono aziende dedicate come…
3.2

73. L’azienda italiana: “The Fool”
Leader nel settore con clienti importanti:
3.2

74. The Fool: i servizi3.2

75. The Fool: Conversation Flow
The Fool eroga un servizio di moderazione tramite la
piattaforma proprietaria «Conversation Flow».
3.2

76. The Fool: Moderazione 24h su 243.2

77. The Fool: gli strumenti per moderare3.2

78. The Fool: gli strumenti per moderare3.2

79. The Fool: gli strumenti per moderare3.2

80. L’azienda inglese: “Tempero”3.2

81. Tempero: gli obiettivi3.2

82. Diversi tipi di moderazione
In base al contenuto (immagini o video) e al rischio dell’azienda
(basso e alto), Tempero suggerisce uno specifico programma di
moderazione.
3.2

83. Pre-Moderation
I contenuti vengono
revisionati e approvati
prima di essere pubblicati
Vantaggi
Alta protezione,
soprattutto per bambini
e persone vulnerabili.
Consigliata per le nuove
communities
Svantaggi
Non sempre possibile,
maggiori costi ed
esperienza interattiva
molto ridotta
Post-Moderation
I contenuti vengono pubblicati
retroattivamente, cioè i
moderatori possono
modificare o rimuoverli se
non conformi alla “guidelines”
Vantaggi
Buon livello di
protezione, ottimo
livello di interazione
Svantaggi
Maggior tempo speso
per la moderazione che
non può essere gestita
solamente dal software
Reactive Moderation
Quando sono gli utenti
stessi a segnalare
commenti non idonei.
Vantaggi
Garantisce un
adeguato livello di
protezione, aiuta le
nuove communities
Svantaggi
Non rimuove tutti i
contenuti non idonei,
modifiche e risposte
non professionali
3.2 Tempero: tipi di moderazione.

84. Tempero: il processo inverso I
Nel caso in cui l’azienda non conosca il tipo di moderazione adeguato, può
scoprirlo attraverso un questionario a cui rispondere sul sito stesso.
3.2

85. 3.2 Tempero: il processo inverso II

86. 3.2 Tempero: il processo inverso III

87. Tempero: calciatori discriminati sui
social
3.2

88. Il moderatore: un lavoro “discusso”
“Moderating
discussion forums is
about more than being
an internet policeman.
There are dark times,
but plenty of laughs
too”
Dawn Kitchener,
moderatrice di
eModeration
3.3

89. Vita di un moderatore.
“Non sappiamo molto di come si sentono le persone che per
lavoro controllano e sorvegliano Internet. Diamo per scontato
che loro provino a difenderci dai peggiori contenuti, ma
raramente ci chiediamo come si sentano quando lo fanno e
come il farlo possa avere effetti sulla loro serenità e sulla loro
salute mentale.
Il loro ruolo nel controllare Internet è largamente
sottovalutato. I moderatori non sono che una piccola forza
nell’inerzia che guida il web, e le infrastrutture che abbiamo
costruito per rendere le comunità online più sicure sono, nella
migliore delle ipotesi, una promettente improvvisazione: nella
peggiore sono inefficaci in modo quasi imbarazzante.”
Alex Chrum, ex moderatrice di Debate.org
3.3

90. • http://www.wired.it/internet/web/2015/02/02/i-cms-aiutano-diffondere-
liberta-parola-nel-web/
• http://www.slideshare.net/stubbornella/dont-feed-the-trolls
• http://www.sitepoint.com/spam-roi-profit-on-1-in-125m-response-rate/
• http://www.theemailadmin.com/2010/09/6-different-types-of-spam-and-
how-to-avoid-them/
• http://www.trendmicro.com/us/security-intelligence/current-threat-
activity/global-spam-map/
• http://uk.businessinsider.com/statistics-on-twitter-abuse-rape-death-threats-
and-trolls-2015-4?r=US
• https://darkpsychology.co/troll/
• https://today.yougov.com/news/2014/10/20/over-quarter-americans-admit-
malicious-online-comm/
• http://nobullying.com/what-is-flaming/
• https://wanderingcritic.wordpress.com/2008/09/14/examples-of-flaming-
insults/
• https://www.giustizia.it/giustizia/it/mg_2_5_12.wp
• http://www.urbandictionary.com/
Bibliografia/Sitografia
Parte 1
-

91. • http://www.slideshare.net/anporto/xing-training-sullamoderazioneonline
• http://www.slideshare.net/twentyfirst/community-moderation-best-practice?related=1
• http://www.slideshare.net/AlisonMichalk/governance-engagement-in-online-communities?related=1
• http://www.slideshare.net/newmarketinglabs/webinar-11182010-moderation
• http://resources.mediatrust.org/moderating-social-media/
• https://www.facebook.com/communitystandards
• http://gawker.com/5885714/inside-facebooks-outsourced-anti-porn-and-gore-brigade-where-camel-
toes-are-more-offensive-than-crushed-heads
• https://blog.twitter.com/2014/building-a-safer-twitter
• https://blog.twitter.com/2015/policy-and-product-updates-aimed-at-combating-abuse
• http://www.zdnet.com/article/how-twitter-is-fighting-trolls-while-balancing-free-speech/)
• http://www.youtube.com/yt/policyandsafety/it/communityguidelines.html
• https://www.youtube.com/static?template=terms
• http://www.huffingtonpost.it/p/moderazione-dei-commenti.html
• http://it.wikipedia.org/wiki/4chan
• http://www.4chan.org/rules
• http://www.theverge.com/2015/5/14/8606923/reddit-anti-harassment-policy
• https://instagram.com/about/legal/terms/
• http://it.wikipedia.org/wiki/Ask.fm
Bibliografia/Sitografia
Parte 2-

92. Bibliografia/Sitografia
Parte 3
• http://www.socialmediacoso.it/2014/10/30/limportanza-delle-interazioni-
sui-social-network/
• http://thefool.it/social-media-security-limportanza-di-moderare-facebook-
e-la-propria-fanpage-per-lazienda/
• https://www.facebook.com/events/1382764255387514/
• http://www.csoonline.com/category/social-networking-security
• http://www.ilpost.it/moderazione-commenti/
• http://www.lastampa.it/2015/04/25/multimedia/tecnologia/a-lezione-da-
gianni-le-regole-social-di-morandi-YQGfrU5m81nNqNfe60Vy8L/pagina.html
• http://music.fanpage.it/gianni-morandi-fenomeno-facebook-da-un-milione-
di-fan/
• http://thefool.it/
• http://tempero.co.uk/homepage/italian
• http://www.theguardian.com/money/2012/feb/03/a-working-life-website-
moderator
• http://www.wired.com/2014/10/content-moderation/
-