Youtubes Outrage-Addiction-Engine

Langer Artikel von Mark Bergen bei Bloomberg über Youtube und seine Engagement-optimierte Viral Outrage Machine: YouTube Executives Ignored Warnings, Letting Toxic Videos Run Rampant – Proposals to change recommendations and curb conspiracies were sacrificed for engagement, staff say.

2012 rief Youtube das interne Unternehmensziel von 1 Milliarde Zuschauerminuten aus, woraufhin die gesamte Plattform auf dieses Ziel hin optimiert wurde. Im Jahr 2016 erreichte Youtube sein Ziel, nicht zufällig das Jahr, in dem Trump die Wahl gewann. Und Youtube erreichte sein Ziel vor allem deshalb, weil seine Empfehlungsalgorithmen Wut und Empörung bevorzugen, denn diese erzeugen das meiste Engagement. Der Algorithmus wurde nicht absichtlich auf Wut und Empörung programmiert, sondern die Machine Learning-AI lernte aus menschlichem Verhalten: Es ist lange bekannt, dass diejenigen Artikel und Items viral gehen, die wütende Reaktionen hervorrufen.

Ich wies auf diese simple psychologische Logik des sozialen Netzes bereits vor Jahren hin und nannte den Mechanismus Outrage Memetik.

Als Memetik bezeichne ich die emotional gesteuerte Verteilung von Inhalten, Outrage Memetik bezeichnet die Steuerung der Content-Distribution durch Wut. Diese Formen der Memetik sind alles andere als neu und ich bezeichne beispielsweise auch Konzepte wie „Heimat“ oder Ausgrenzungsmechanismen wie „Antisemitismus“ als Meme. In dieser Sichtweise sind „Heimatfilme“ der virale Ausdruck einer Meme, genau wie die „Judensau“ des Mittelalters eine virale Ausdrucksform der Meme „Antisemitismus“ ist, die man noch heute in Holzschnitzereien in alten Kirchen in Deutschland findet. Dieses Viral verbreitete sich damals rasant und die Folgen dieser jahrtausendealten Meme und ihrer Virals sind uns allen bekannt. Das ist Memetik.

Wir haben es bei Memetik mit einer neuartigen „Ideenchemie“ zu tun, in der alle möglichen metaphysischen „Inhaltsstoffe“ miteinander reagieren und wir sind mit unserem jetzigen Kenntnisstand grade mal bei der Alchemie angekommen, als die frühen Proto-Chemiker noch Wasser zu Wein verwandeln wollten und sich an schiefgelaufenen chemischen Experimenten die Finger verbrannten.

Youtube (und alle anderen Plattformen auch) haben ihre ML-Algorithmen auf die Memetik der User trainiert, die genau diese psychologisch bedingten Distributionsschlüssel lernten und eine suchterzeugende, radikalisierende Wut-Maschine erzeugten, das Ergebnis aus einer „memetischen Reaktion“ von relativ normaler menschlichen Aufmerksamkeitspsychologie in einer reizüberflutenden Medienumgebung und einem neoliberalen Profitmaximierungsgedanken. Ein schiefgelaufenes (kapitalistisches) Experiment der frühen Memetik, an dem sich Youtube derzeit die Finger verbrennt.

Versuche von vereinzelten Mitarbeitern, diese Wut/Aufmerksamkeits-Spirale aufzubrechen und Videos vom Empfehlungsalgorithmus auszuschließen, die fast gegen die Community-Guidelines verstießen, wurden vom Unternehmen ignoriert. Bei diesen Video handelt es sich oft von Clips, die absichtlich so empörend und reißerisch wie möglich konzipiert werden und damit hohes Engagement erzielen.

Ein Mitarbeiter legte im vergangenen Jahr eine interne Kategorie für Video von und über die Alt-Right an und verglich die Engagement-Zahlen mit den restlichen Inhalten. Diese eigentlich randständigen, rechtsextremen Clips lagen gleichauf mit Mainstream-Inhalten wie Sport oder Musik. Alleine dieses Experiment verdeutlicht, wieviel engagement-optimierte Algorithmen zur Normalisierung von rechtem Denken beitragen und wie sehr dieser Algorithmus unter dem Einfluss memetischer Kräfte die Wahrnehmung der Realität verzerrt.

YouTube, then run by Google veteran Salar Kamangar, set a company-wide objective to reach one billion hours of viewing a day, and rewrote its recommendation engine to maximize for that goal. When Wojcicki took over, in 2014, YouTube was a third of the way to the goal, she recalled in investor John Doerr’s 2018 book Measure What Matters.

“They thought it would break the internet! But it seemed to me that such a clear and measurable objective would energize people, and I cheered them on,” Wojcicki told Doerr. “The billion hours of daily watch time gave our tech people a North Star.” […]

YouTube doesn’t give an exact recipe for virality. But in the race to one billion hours, a formula emerged: Outrage equals attention. It’s one that people on the political fringes have easily exploited, said Brittan Heller, a fellow at Harvard University’s Carr Center. “They don’t know how the algorithm works,” she said. “But they do know that the more outrageous the content is, the more views.”

People inside YouTube knew about this dynamic. Over the years, there were many tortured debates about what to do with troublesome videos—those that don’t violate its content policies and so remain on the site. Some software engineers have nicknamed the problem “bad virality.”

Yonatan Zunger, a privacy engineer at Google, recalled a suggestion he made to YouTube staff before he left the company in 2016. He proposed a third tier: Videos that were allowed to stay on YouTube, but, because they were “close to the line” of the takedown policy, would be removed from recommendations. “Bad actors quickly get very good at understanding where the bright lines are and skating as close to those lines as possible,” Zunger said.

His proposal, which went to the head of YouTube policy, was turned down. “I can say with a lot of confidence that they were deeply wrong,” he said.

Rather than revamp its recommendation engine, YouTube doubled down. The neural network described in the 2016 research went into effect in YouTube recommendations starting in 2015. By the measures available, it has achieved its goal of keeping people on YouTube.

“It’s an addiction engine,” said Francis Irving, a computer scientist who has written critically about YouTube’s AI system. […]

One telling moment happened around early 2018, according to two people familiar with it. An employee decided to create a new YouTube “vertical,” a category that the company uses to group its mountain of video footage. This person gathered together videos under an imagined vertical for the “alt-right,” the political ensemble loosely tied to Trump. Based on engagement, the hypothetical alt-right category sat with music, sports and gaming as the most popular channels at YouTube, an attempt to show how critical these videos were to YouTube’s business. A person familiar with the executive team said they do not recall seeing this experiment.

Jetzt Nerdcore unterstützen!

Nerdcore veröffentlicht seit mehr als 12 Jahren Analysen und Dokumentationen zu Memetik, Netz-Soziologie und digitalen Subkulturen, garniert mit jeder Menge Kunst, Entertainment und Unfug. Nerdcore prägte die deutsche Netzkultur maßgeblich, initiierte die erste deutsche Meme, ging Frau Merkel mit Flashmobs auf die Nerven und manche Menschen behaupten, ich würde ab und zu gute Arbeit abliefern.

Die Website ist seit 2017 werbefrei und wird aus Spenden und Abonnements finanziert. Um den Betrieb der Seite und meine Vollzeitstelle zu sichern, könnt ihr gerne ein Abonnement auf Patreon oder Steady abschließen oder mir eine einmalige Spende oder einen Dauerauftrag per Paypal oder auf mein Konto (IBAN DE05100100100921631121) zukommen lassen.

Vielen Dank an alle Leser und Unterstützer dieses Blogs.

Neu auf Nerdcore:

Nerdcore auf Twitter

Siggraph 2019: Frisch gebackenes Brot, Algo-Würfelköpfe, realistische CGI-Pasta und Style Transfer für Rauch

Musikvideos_Dan Deacon Algiers Panda Bear Neon Indian Wiki Japan Man Vegyn Vogue Dots Moses Sumney Oh Baby

Musikvideos_The Breeders Metronomy Thom Yorke Tennis Glass Beach BIB Big Bite Dogleg Ratboys Haunted Horses Drakulas Exotic Adrian Street and the Pile Drivers …And You Will Know Us By The Trail Of Dead

The SpongeBob Movietrailer

GPT-2 trainiert auf SVG-XML erzeugt AI-Fonts und seltsame Emoji

8 Kommentare zu “Youtubes Outrage-Addiction-Engine”

  1. “Ich wies auf diese simple psychologische Logik des sozialen Netzes bereits vor Jahren hin und nannte den Mechanismus Outrage Memetik.”

    Wo? Beweise oder nur so dahingesagt?

    “Wir haben es bei Memetik mit einer neuartigen „Ideenchemie“ zu tun” -> Häh? Erst davon reden, dass das so ab dem Mittelalter schon so geht und dann von neuartig reden? Ja, was den nun?

      1. “3. Gewöhn Dir gefälligst nen anderen Ton an. Danke.”

        Sagt der, der hier öffentlich irgendwelche Leute an den Pranger stellte, weil Sie ihm angeblich nachgestellt haben.

        Ich lach mich Tod.

        1. Was haben Gangstalker und Gaslighter aus dem CCC-Umfeld und meine öffentliche Anprangerung von derem… „Verhalten“ mir gegenüber mit Deinem Schlappmaul zu tun? Genau: Nix.

          Und man schreibt „Ich lach mich tot“, es ist ein Adverb. Tschüss.

Kommentare sind geschlossen.

Kontakt

Newsletter

Bücherstapel
Was für Lebewesen sind wir? (Noam Chomsky)

Der Tyrann: Shakespeares Machtkunde für das 21. Jahrhundert (Stephen Greenblatt)

Stan (John Connolly)

Die geheime Welt der Bauwerke (Roma Agrawal)

Verzeichnis einiger Verluste (Judith Schalansky)