Möglicher Deepfake löst Militär-Coup in Afrika aus

Russell Brandom schrieb vor ein paar Wochen einen Artikel auf The Verge über Deepfakes, in dem vor einer hyperbolischen Kritik an dieser Technologie warnt. Ich hielt diesen Artikel für unverantwortlich, grade und vor allem von einem Technologie-Magazin wie The Verge, das technologische Entwicklungen gerne in gesellschaftliche Kontexte setzt.

Ich schreibe seit der Gründung von Nerdcore über Bildmanipulationstechnologien und speziell über die Manipulation von Video durch Gesichtserkennung seit den initialen Technologien, die damals unter dem Namen Face2Face bekannt wurden und in Justus Thies 2016er Paper gleichen Namens beschrieben wurden und warne seit damals vor den Auswirkungen auf die Wahrnehmung gesellschaftlicher Realität.

Gesellschaft konstituiert und synchronisiert sich über Massenmedien. Diese waren schon immer anfällig für Manipulationen aller Art, doch noch nie in einem Umfang wie heute und noch nie waren die Manipulationsmöglichkeiten mit einem derartigen „Feature-Set“ ausgestattet. Der Artikel von The Verge behauptet nun schlichtweg, „Deepfake“-Technologie wäre bereits seit einem Jahr da und es sei nichts passiert. Nun.

Die Identität von ein paar hundert Frauen wurde gestohlen und haufenweise Porno ohne Consent produziert, gut zu finden auf jeder größeren Porno-Plattform. Das Angebot reicht von Revenge Porn über Sexzenen politische Gegner bis hin zu (natürlich) Filmstars. Scarlett Johansson hat bereits aufgegeben, nach Porno-Kopien ihrer visuellen Identität zu suchen.

Und dann ist da noch die Story um den Präsidenten von Gabun, dessen Familie eine seit fast 50 Jahren währende Regentschaft schützen will, weshalb man angesichts gesundheitlicher Probleme des Regierungschefs möglicherweise Deepfakes einsetzte und die präsidiale Neujahrsansprache 2019 fälschten (oder eben nicht). Dieses Video hat einen (missglückten) Coup des Militärs ausgelöst.

when Gabon’s government released the video, it raised more questions than it answered. Some Gabonese, seeing the video, thought there was little left to doubt about their president’s health. But Bongo’s critics weren’t sold. One week after the video’s release, Gabon’s military attempted an ultimately unsuccessful coup—the country’s first since 1964—citing the video’s oddness as proof something was amiss with the president. While a variety of theories about the video have circulated in the country, Bruno Ben Moubamba, a Gabonese politician who has run against Bongo in the previous two elections, argues that the video is a so-called deepfake—the photoshopped equivalent of video where software can create forged versions of people saying and doing things that they never actually said or did.

While experts say it’s impossible to definitively conclude if Bongo’s New Years address is a deepfake, Moubamba says his belief is fed by a number of factors. He correctly points out that Bongo’s face and eyes seem “immobile” and “almost suspended above his jaw.” He also rightly noted that Bongo’s eyes move “completely out of sync with the movements of his jaw.” […]

One video expert Mother Jones spoke with doesn’t disagree with Moubamba’s assessment. “I just watched several other videos of President Bongo and they don’t resemble the speech patterns in this video, and even his appearance doesn’t look the same,” Hany Farid, a computer science professor at Dartmouth who specializes in digital forensics. “Something doesn’t look right,” he said, while noting that he could not make a definitive assessment.

Die Technologie von AI-gestützter Video/Identitäts-Fälschung ist alles andere als „da“. Die Produktion von Deepfakes erfordert nach wie vor technische Skills, die die allermeisten nicht haben. Vom Training eines Models für den Algorithmus bis hin zu Videoschnitt ist diese Technologie noch weit von „One-Click“-Lösungen entfernt, auch wenn ein paar lustige Anwendungen in App-Stores wie etwa Morphin Avatars und ein Java-Port der Technologie anderes suggerieren. Die Lernkurve ist schlichtweg (noch) zu hoch, um diese Technologie für die Massen verfügbar zu machen, es handelt sich immer noch um Expertenwissen und ein paar Spaß-Apps ändern daran nichts.

Und nicht zuletzt tragen Deepfakes zum prinzipiellen Zynismus bei, der der grundsätzlichen Editierbarkeit des digitalen Raums geschuldet ist. Es ist gar nicht so wichtig, ob mein Gesicht auf ‘nen Porno kopiert wird, es reicht bereits die Möglichkeit, es zu tun, um den Konsens auf eine gemeinsame Realität zu gefährden. Und dieser Konsens ist die Grundvorraussetzung für das Gelingen von Gesellschaft. Früher wurde dieser Konsens durch Synchronisationsleistungen der Massenmedien hergestellt, mit deren Hilfe sich die Gesellschaft auf einige grundsätzliche gesellschaftliche Realitäten einigte. Heute erzeugen wir diese diskursiven Massenmedien selbst auf Plattformen mit User Generated Content, die Meldungen aus dem Journalismus sind dabei grade mal Stichwortgeber. Und wenn dieses Stichwort die gefälschte oder nicht gefälschte Neujahrsansprache eines angeschlagenen Präsidenten ist, dann kann Zynismus und der Zweifel an Authentizität auch mal einen Militär-Coup auslösen.

Nerdcore veröffentlicht seit mehr als 12 Jahren Analysen und Dokumentationen zu Memetik, Netz-Soziologie und digitalen Subkulturen, garniert mit jeder Menge Kunst, Entertainment und Unfug. Nerdcore prägte die deutsche Netzkultur maßgeblich, initiierte die erste deutsche Meme, ging Frau Merkel mit Flashmobs auf die Nerven und manche Menschen behaupten, ich würde ab und zu gute Arbeit abliefern.

Die Website ist seit 2017 werbefrei und wird aus Spenden und Abonnements finanziert. Um den Betrieb der Seite und meine Vollzeitstelle zu sichern, könnt ihr gerne ein Abonnement auf Patreon oder Steady abschließen oder mir eine einmalige Spende oder einen Dauerauftrag per Paypal oder auf mein Konto (IBAN DE05100100100921631121) zukommen lassen.

Vielen Dank an alle Leser und Unterstützer dieses Blogs.

Neu auf Nerdcore:

Nerdcore auf Twitter

Trailerfest: Greener Gras, The Sound of Silence, Ad Astra, Bombshell, Villains, The Report, The Siren

Plastic Rocks

[Klimalinks 22.8.2019] Bernie Sanders’ 16 Billionen US$-Klimaplan; Pflanze blüht zum ersten mal seit 60 Millionen Jahren; Immobilien mit hohem Klimarisiko nicht versicherbar

Bolsanero will nur jeden zweiten Tag kacken (für die Umwelt)

Musikvideos: Deichkind, Shi Offline, Kim Gordon, Metz, Loud Hound, The Menzingers, Zonal, Men I Trust


NC-Shirts

Jetzt Nerdcore unterstützen!


Patreon
Steady
Paypal
Donorbox
IBAN DE05100100100921631121

Dankeschön!

Kontakt

Newsletter

Bücherstapel
Was für Lebewesen sind wir? (Noam Chomsky)

Der Tyrann: Shakespeares Machtkunde für das 21. Jahrhundert (Stephen Greenblatt)

Stan (John Connolly)

Die geheime Welt der Bauwerke (Roma Agrawal)

Verzeichnis einiger Verluste (Judith Schalansky)