Content Moderatoren und Community Manager sind die wichtigsten Berufe im Internet

Buzzfeed News mit einem langen Artikel über die immense Bedeutung von Menschen, die Inhalte der Plattformen beurteilen und filtern, Kommentare moderieren und Inhalte löschen: The Comment Moderator Is The Most Important Job In The World Right Now.

Sie sind es, die darüber entscheiden, ob ganze Länder in eine Panik verfallen wegen eines Momo-Fakes (ich musste gestern meine Nichte beruhigen, deren Kids in einen Kindergarten gehen, wo panische Eltern und eine ahnungslose Orga vor der praktisch nicht-existierenden Momo-Meme warnt). Und sie entscheiden mit darüber, ob Facebook oder Google Inhalte von „Impfgegnern“ anzeigt oder nicht, ob Frau Müller daraufhin ihren Karlheinz doch nicht impfen lässt und ob dann in Bremerhaven die Masern ausbrechen.

Es sind diese Leute, denen in all diesen Fällen eine absurde Verantwortung auferteilt wird, sie sitzen an den Scharnierstellen der Viralität, sie entscheiden über die Verbreitung von memetischen Informationskaskaden und ihnen obliegt gleichzeitig die de facto privatisierte Gerichtsbarkeit in der Entscheidung über die Meinungsfreiheit auf den Plattformen, die infrastrukturelle Kommunikation gewährleisten.

Und es sind diese Leute, deren Job gleichzeitig von angeblich funktionierenden Künstlichen Intelligenzen bedroht wird, während ihre Arbeit brutal unterbezahlt ist und ohne Skrupel ausgelagert wird. Dabei sind Content Moderatoren und Community Manager auf absehbare Zeit die wichtigsten Berufe im Internet und die Plattformen müssen massiv mehr dieser Arbeitsplätze schaffen, um den Empörungskaskaden und viralen Kampagnen auch nur ansatzweise etwas entgegensetzen zu können. Algorithmen werden die granulare, differenzierte und notfalls auch hemdsärmelige Arbeitsweise von Menschen noch für eine lange Zeit nicht ersetzen können.

Whether it’s fake news, child exploitation, Russian chaos agents, marketing scams, white nationalism, anti-vaxxers, yellow vests, coordinated harassment, catfishing, doxing, or the looming possibility of an information war escalating into a nuclear one between India and Pakistan, all of it comes down to one very simple issue. Sites like Facebook, YouTube, and Twitter have failed to support clear and repeatable moderation guidelines for years, while their platforms have absorbed more and more of our basic social functions.

Older online communities like Slashdot, MetaFilter, or even Fark proved that human moderation alongside a clear set of user guidelines can work. Sure, the scale was much different than the platforms we have now, but the method was relatively effective. Right now, we don’t have enough human beings looking at what is being put on the internet, and the few that are don’t have the resources or support to do it well. When something goes wrong, like a mass panic over a maybe-real, but almost assuredly not-real suicide game like the Momo Challenge, YouTube drags its feet about doing anything about it and then finally decides to try to erase the whole thing by demonetizing all Momo-related videos. But it only gets around to this long after Kim Kardashian West and law enforcement agencies have started freaking out about it.

Maybe one day AI will be able to instantly and effectively police the whole internet, but in the meantime, we’re all trapped in an endless comment thread from Reddit’s /r/The_Donald without a mod in sight. Community moderators, content moderators, audience development editors — they’re all shades of the same extremely important role that has existed since the birth of the internet. It’s the person looking at what’s being posted to a website and decides if a piece of content or a user should stay there or be taken down. It’s like combining a sheriff and a librarian.

Jetzt Nerdcore unterstützen!

Nerdcore veröffentlicht seit mehr als 12 Jahren Analysen und Dokumentationen zu Memetik, Netz-Soziologie und digitalen Subkulturen, garniert mit jeder Menge Kunst, Entertainment und Unfug. Nerdcore prägte die deutsche Netzkultur maßgeblich, initiierte die erste deutsche Meme, ging Frau Merkel mit Flashmobs auf die Nerven und manche Menschen behaupten, ich würde ab und zu gute Arbeit abliefern.

Die Website ist seit 2017 werbefrei und wird aus Spenden und Abonnements finanziert. Um den Betrieb der Seite und meine Vollzeitstelle zu sichern, könnt ihr gerne ein Abonnement auf Patreon oder Steady abschließen oder mir eine einmalige Spende oder einen Dauerauftrag per Paypal oder auf mein Konto (IBAN DE05100100100921631121) zukommen lassen.

Vielen Dank an alle Leser und Unterstützer dieses Blogs.

Neu auf Nerdcore:

Nerdcore auf Twitter

Greta Thunberg ist Time Mags Person des Jahres 2019

Konradsen 🍂

This Banana didn’t kill itself

Musikvideos_AJJ Gewalt Okay Kaya Cold Beat Rejoicer Trentemøller Lizzo Pink Siifu Mumford & Sons Swampmeat Family Band

Trailerfest_The New Pope Antlers Ashfall