Die psychologischen Folgen von Facebooks Content-Moderation

Nachdem The Verge bereits Anfang des Jahres über die katastrophalen Folgen der Content Moderation für Facebooks Mitarbeiter berichtete, hat nun der Guardian mit Moderatoren aus dem Berliner Team gesprochen. Die tägliche Konfrontation mit hunderten Gewaltdarstellungen, sexuellem Missbrauch und hasserfüllter Sprache macht die Mitarbeiter auch hier paranoid und hat Auswirkung auf ihre politische Haltung.

Ich frage mich derzeit immer häufiger, ob das Internet als solches verloren ist und ab welchem Punkt man das „größte soziale Experiment der Menschheit“ als gescheitert aufgrund einer Gefährdung der Öffentlichkeit abbrechen muss. Mich interessiert, wieviel der Bösartigkeit durch das Medium selbst ausgelöst wird. „People are bastards“, schon klar. Aber welche Rolle spielt der Wettbewerb um Aufmerksamkeit dabei? Wie sehr steigert Sichtbarkeit die ausgestellte Bösartigkeit? Und welche Arten der menschlichen Bösartigkeit genau?

FB muss massiv mehr Moderatoren einstellen, es handelt sich dabei um den derzeit wichtigsten Job der Welt und diese Arbeit wird völlig falsch bewertet, da das Prinzip der Arbeitsteilung nicht korrekt eingeschätzt wird. Es handelt sich nicht um „Content“-Moderatoren, sondern um „Violent Shit“-Moderatoren. Es sind Sicherheitskräfte, die nur im gemeldeten „Notfall“ eingreifen. Die überprüfen nicht „Inhalte“, sondern lediglich „gemeldete Inhalte“, der Anteil der Gewalt ist also ungleich höher. Ergo die psychologischen Folgen. Deshalb sind Content-Moderatoren viel eher das Äquivalent zu Gefängnis-Wärtern oder Wärtern in Psychiatrien. Diese Arbeit braucht entsprechende arbeitsrechtliche Regulation, entsprechende Ausbildungs-Vorraussetzungen sowie eine angemessene Bezahlung und die Arbeiter müssen durch massive Mehreinstellungen psychologisch entlastet werden. Pronto.

Guardian: Revealed: catastrophic effects of working as a Facebook moderator

A group of current and former contractors who worked for years at the social network’s Berlin-based moderation centres has reported witnessing colleagues become “addicted” to graphic content and hoarding ever more extreme examples for a personal collection. They also said others were pushed towards the far right by the amount of hate speech and fake news they read every day.

They describe being ground down by the volume of the work, numbed by the graphic violence, nudity and bullying they have to view for eight hours a day, working nights and weekends, for “practically minimum pay”. […]

The Verge report appeared to trigger reforms. Moderators in Berlin said after the article was published there had been immediate interest from Facebook’s head office in their workload. Previously, they had been required to moderate 1,000 pieces of content a day – more than one every 30 seconds over an eight-hour shift.

In February, an official from Facebook’s Dublin office visited, John said. “This person after this meeting decided to take off the limit of 1,000. We didn’t have any limit for a while, but now they have re-established another limit. The limit now is between 400 and 500 tickets.” The new cap – or number of tickets – was half that of the previous one but still required workers achieve about a ticket a minute. However, that volume of work was what their American colleagues had faced before the reforms. […]

While the moderators agreed such work was necessary they said the problems were fixable. “I think it’s important to open a debate about this job,” he said, adding that the solution was simple – “hire more people”.

Jetzt Nerdcore unterstützen!

Nerdcore veröffentlicht seit mehr als 12 Jahren Analysen und Dokumentationen zu Memetik, Netz-Soziologie und digitalen Subkulturen, garniert mit jeder Menge Kunst, Entertainment und Unfug. Nerdcore prägte die deutsche Netzkultur maßgeblich, initiierte die erste deutsche Meme, ging Frau Merkel mit Flashmobs auf die Nerven und manche Menschen behaupten, ich würde ab und zu gute Arbeit abliefern.

Die Website ist seit 2017 werbefrei und wird aus Spenden und Abonnements finanziert. Um den Betrieb der Seite und meine Vollzeitstelle zu sichern, könnt ihr gerne ein Abonnement auf Patreon oder Steady abschließen oder mir eine einmalige Spende oder einen Dauerauftrag per Paypal oder auf mein Konto (IBAN DE05100100100921631121) zukommen lassen.

Vielen Dank an alle Leser und Unterstützer dieses Blogs.

Neu auf Nerdcore:

Nerdcore auf Twitter

I’m seeing something that was always hidden. I’m in the middle of a mystery and it’s all secret.

Social Justice Kittens 2020

Experimente in automatisierter Schriftgestaltung

[Klimalinks 12.10.2019] Extra Horny Tarantulas; Shell hat „keine Wahl“ als Öl-Investitionen; Bank of England: Investmentfirmen finanzieren 4° Erderwärmung

Musikvideos_Kim Gordon Konradsen Julien Baker The Drums Slaves Moon Diagrams Pond Fran Strawberry Guy Andre Ethier OVE The Great Beyond Knife Knights Brigitte Bardon’t

2 Kommentare zu “Die psychologischen Folgen von Facebooks Content-Moderation”

Kommentare sind geschlossen.