Möglicher Deepfake löst Militär-Coup in Afrika aus

Russell Brandom schrieb vor ein paar Wochen einen Artikel auf The Verge über Deepfakes, in dem vor einer hyperbolischen Kritik an dieser Technologie warnt. Ich hielt diesen Artikel für unverantwortlich, grade und vor allem von einem Technologie-Magazin wie The Verge, das technologische Entwicklungen gerne in gesellschaftliche Kontexte setzt.

Ich schreibe seit der Gründung von Nerdcore über Bildmanipulationstechnologien und speziell über die Manipulation von Video durch Gesichtserkennung seit den initialen Technologien, die damals unter dem Namen Face2Face bekannt wurden und in Justus Thies 2016er Paper gleichen Namens beschrieben wurden und warne seit damals vor den Auswirkungen auf die Wahrnehmung gesellschaftlicher Realität.

Gesellschaft konstituiert und synchronisiert sich über Massenmedien. Diese waren schon immer anfällig für Manipulationen aller Art, doch noch nie in einem Umfang wie heute und noch nie waren die Manipulationsmöglichkeiten mit einem derartigen „Feature-Set“ ausgestattet. Der Artikel von The Verge behauptet nun schlichtweg, „Deepfake“-Technologie wäre bereits seit einem Jahr da und es sei nichts passiert. Nun.

Die Identität von ein paar hundert Frauen wurde gestohlen und haufenweise Porno ohne Consent produziert, gut zu finden auf jeder größeren Porno-Plattform. Das Angebot reicht von Revenge Porn über Sexzenen politische Gegner bis hin zu (natürlich) Filmstars. Scarlett Johansson hat bereits aufgegeben, nach Porno-Kopien ihrer visuellen Identität zu suchen.

Und dann ist da noch die Story um den Präsidenten von Gabun, dessen Familie eine seit fast 50 Jahren währende Regentschaft schützen will, weshalb man angesichts gesundheitlicher Probleme des Regierungschefs möglicherweise Deepfakes einsetzte und die präsidiale Neujahrsansprache 2019 fälschten (oder eben nicht). Dieses Video hat einen (missglückten) Coup des Militärs ausgelöst.

when Gabon’s government released the video, it raised more questions than it answered. Some Gabonese, seeing the video, thought there was little left to doubt about their president’s health. But Bongo’s critics weren’t sold. One week after the video’s release, Gabon’s military attempted an ultimately unsuccessful coup—the country’s first since 1964—citing the video’s oddness as proof something was amiss with the president. While a variety of theories about the video have circulated in the country, Bruno Ben Moubamba, a Gabonese politician who has run against Bongo in the previous two elections, argues that the video is a so-called deepfake—the photoshopped equivalent of video where software can create forged versions of people saying and doing things that they never actually said or did.

While experts say it’s impossible to definitively conclude if Bongo’s New Years address is a deepfake, Moubamba says his belief is fed by a number of factors. He correctly points out that Bongo’s face and eyes seem “immobile” and “almost suspended above his jaw.” He also rightly noted that Bongo’s eyes move “completely out of sync with the movements of his jaw.” […]

One video expert Mother Jones spoke with doesn’t disagree with Moubamba’s assessment. “I just watched several other videos of President Bongo and they don’t resemble the speech patterns in this video, and even his appearance doesn’t look the same,” Hany Farid, a computer science professor at Dartmouth who specializes in digital forensics. “Something doesn’t look right,” he said, while noting that he could not make a definitive assessment.

Die Technologie von AI-gestützter Video/Identitäts-Fälschung ist alles andere als „da“. Die Produktion von Deepfakes erfordert nach wie vor technische Skills, die die allermeisten nicht haben. Vom Training eines Models für den Algorithmus bis hin zu Videoschnitt ist diese Technologie noch weit von „One-Click“-Lösungen entfernt, auch wenn ein paar lustige Anwendungen in App-Stores wie etwa Morphin Avatars und ein Java-Port der Technologie anderes suggerieren. Die Lernkurve ist schlichtweg (noch) zu hoch, um diese Technologie für die Massen verfügbar zu machen, es handelt sich immer noch um Expertenwissen und ein paar Spaß-Apps ändern daran nichts.

Und nicht zuletzt tragen Deepfakes zum prinzipiellen Zynismus bei, der der grundsätzlichen Editierbarkeit des digitalen Raums geschuldet ist. Es ist gar nicht so wichtig, ob mein Gesicht auf ‘nen Porno kopiert wird, es reicht bereits die Möglichkeit, es zu tun, um den Konsens auf eine gemeinsame Realität zu gefährden. Und dieser Konsens ist die Grundvorraussetzung für das Gelingen von Gesellschaft. Früher wurde dieser Konsens durch Synchronisationsleistungen der Massenmedien hergestellt, mit deren Hilfe sich die Gesellschaft auf einige grundsätzliche gesellschaftliche Realitäten einigte. Heute erzeugen wir diese diskursiven Massenmedien selbst auf Plattformen mit User Generated Content, die Meldungen aus dem Journalismus sind dabei grade mal Stichwortgeber. Und wenn dieses Stichwort die gefälschte oder nicht gefälschte Neujahrsansprache eines angeschlagenen Präsidenten ist, dann kann Zynismus und der Zweifel an Authentizität auch mal einen Militär-Coup auslösen.

Jetzt Nerdcore unterstützen!

Nerdcore veröffentlicht seit mehr als 12 Jahren Analysen und Dokumentationen zu Memetik, Netz-Soziologie und digitalen Subkulturen, garniert mit jeder Menge Kunst, Entertainment und Unfug. Nerdcore prägte die deutsche Netzkultur maßgeblich, initiierte die erste deutsche Meme, ging Frau Merkel mit Flashmobs auf die Nerven und manche Menschen behaupten, ich würde ab und zu gute Arbeit abliefern.

Die Website ist seit 2017 werbefrei und wird aus Spenden und Abonnements finanziert. Um den Betrieb der Seite und meine Vollzeitstelle zu sichern, könnt ihr gerne ein Abonnement auf Patreon oder Steady abschließen oder mir eine einmalige Spende oder einen Dauerauftrag per Paypal oder auf mein Konto (IBAN DE05100100100921631121) zukommen lassen.

Vielen Dank an alle Leser und Unterstützer dieses Blogs.

Neu auf Nerdcore:

Nerdcore auf Twitter

Siggraph 2019: Frisch gebackenes Brot, Algo-Würfelköpfe, realistische CGI-Pasta und Style Transfer für Rauch

Musikvideos_Dan Deacon Algiers Panda Bear Neon Indian Wiki Japan Man Vegyn Vogue Dots Moses Sumney Oh Baby

Musikvideos_The Breeders Metronomy Thom Yorke Tennis Glass Beach BIB Big Bite Dogleg Ratboys Haunted Horses Drakulas Exotic Adrian Street and the Pile Drivers …And You Will Know Us By The Trail Of Dead

The SpongeBob Movietrailer

GPT-2 trainiert auf SVG-XML erzeugt AI-Fonts und seltsame Emoji

Kontakt

Newsletter

Bücherstapel
Böses Denken (Bettina Stangneth)

Fireman (Joe Hill)

Eine Naturgeschichte der menschlichen Moral (Michael Tomasello)

Spielball der Hexen (1976), Vampir Horror-Roman Taschenbuch 41

Synchron: vom rätselhaften Rhythmus der Natus (Steven Strogatz)