OpenAI releases „Deepfake for Text“ – Unicorns not amused

Seit Jahren gibt es bereits automatisierten Journalismus, eins der bekanntesten Beispiele war Quakebot, der damals kurz nach einem Erdbeben in Los Angeles eine entsprechende Meldung formulierte und veröffentlichte. Genauso werden seit Jahren Meldungen zu Sport und aus der Finanzwirtschaft von Algorithmen generiert, prinzipiell sind alle Nachrichten, die vor allem Werte, Zahlen und Ergebnisse (eben: Erdbebenstärken, Orte, Aktienkurse, Fußballtabellen, Tor-Verhältnisse und so weiter) einfach zu automatisieren. Am Ende sitzt noch ein Redakteur, der ein oder zwei Worte zurecht schiebt. Kohärente Texte konnten solche Algorithmen bislang nicht wirklich produzieren, die auf vorhergehende Absätze eingingen und tatsächlichen Sinn ergaben.

OpenAI hat nun einen neuen Algorithmus entwickelt. GPT-2 wurde auf 40 Gigabyte Text von Reddit trainiert und die Ergebnisse sind anscheinend so gut, dass die Organisation bislang nur ein Technical Paper und ein Modell veröffentlich, das auf weit weniger Text trainiert wurde, das weit weniger überzeugende Ergebnisse abliefert. Die Entwickler halten den Algorithmus für potenziell gefährlich und ich halte das für einen wirklich eleganten PR-Move. (Wobei das ein wenig unfair ist: Es gibt seit Jahren bereits Erkennungs-Algorithmen, die mit dem Schreibstil der zu identifizierenden Personen arbeitet – ein solcher Algorithmus könnte genutzt werden, um Identitäten von Journalisten oder Politikern zu fälschen).

Die Ergebnisse sind in der Tat beeindruckend, hier eine kohärente Meldung um die Entdeckung einer Einhorn-Herde in den Anden:

SYSTEM PROMPT (HUMAN-WRITTEN) In a shocking finding, scientist discovered a herd of unicorns living in a remote, previously unexplored valley, in the Andes Mountains. Even more surprising to the researchers was the fact that the unicorns spoke perfect English.

MODEL COMPLETION (MACHINE-WRITTEN, 10 TRIES) The scientist named the population, after their distinctive horn, Ovid’s Unicorn. These four-horned, silver-white unicorns were previously unknown to science.

Now, after almost two centuries, the mystery of what sparked this odd phenomenon is finally solved.

Dr. Jorge Pérez, an evolutionary biologist from the University of La Paz, and several companions, were exploring the Andes Mountains when they found a small valley, with no other animals or humans. Pérez noticed that the valley had what appeared to be a natural fountain, surrounded by two peaks of rock and silver snow.

Pérez and the others then ventured further into the valley. “By the time we reached the top of one peak, the water looked blue, with some crystals on top,” said Pérez.

Pérez and his friends were astonished to see the unicorn herd. These creatures could be seen from the air without having to move too much to see them – they were so close they could touch their horns.

Selbst das bislang veröffentlichte, kleinere Modell ist anscheinend in der Lage, überzeugende Meldungen zu produzieren. Axios hat eine Meldung über ein AI-Wettrüsten zwischen China und den USA generiert und besonders schöner „Glitch“: Die AI reproduziert die in vielen Online-Medien anzutreffenden „Related“-Links, die oft zwischen Absätzen auftauchen.

2016 brauchte es noch ein paar Kids aus Mazedonien, die eine ganze Fake News-Industrie in ihrem Heimatort Veles aufbauen konnten und damit die Welt veränderten. Diese Industrie wird schon sehr bald nicht mehr gebraucht.

SYSTEM PROMPT (HUMAN-WRITTEN) On the heels of a sweeping new U.S. plan to retain dominance in artificial intelligence, the Pentagon has cast Chinese development of intelligent weapons as an existential threat to the international order.

A day after the release of an executive order by President Trump that omits naming China, the Defense Department, in a new AI strategy document, speaks in stark terms of a “destabilizing” Chinese threat.

MODEL COMPLETION (MACHINE-WRITTEN) It warns of a “new arms race in AI” and says the United States “will not sit idly by” as a “highly advanced new generation of weapons capable of waging asymmetric warfare” is “possessed by aggressive actors.”

Related: New White House plan on China may spark a cyber arms race

“China uses new and innovative methods to enable its advanced military technology to proliferate around the world, particularly to countries with which we have strategic partnerships,” the Pentagon said in its five-page strategy outline last week.

The new U.S. strategy will be a major component of the White House’s first National Security Strategy, coming in two parts in September.

– The first part, which Trump wants to roll out in full by June, is a much more traditional geopolitical playbook focused on the threats posed by China and Russia.
– The second part of the NSS is “a broad review of all U.S. national security interests, and the potential new relationships needed for those interests,” the document said.

“The President has directed me to undertake a study of our strategy toward a world of artificial intelligence,” Defense Secretary James Mattis told the Senate Armed Services Committee on Thursday.

Jetzt Nerdcore unterstützen!

Nerdcore veröffentlicht seit mehr als 12 Jahren Analysen und Dokumentationen zu Memetik, Netz-Soziologie und digitalen Subkulturen, garniert mit jeder Menge Kunst, Entertainment und Unfug. Nerdcore prägte die deutsche Netzkultur maßgeblich, initiierte die erste deutsche Meme, ging Frau Merkel mit Flashmobs auf die Nerven und manche Menschen behaupten, ich würde ab und zu gute Arbeit abliefern.

Die Website ist seit 2017 werbefrei und wird aus Spenden und Abonnements finanziert. Um den Betrieb der Seite und meine Vollzeitstelle zu sichern, könnt ihr gerne ein Abonnement auf Patreon oder Steady abschließen oder mir eine einmalige Spende oder einen Dauerauftrag per Paypal oder auf mein Konto (IBAN DE05100100100921631121) zukommen lassen.

Vielen Dank an alle Leser und Unterstützer dieses Blogs.

Neu auf Nerdcore:

Nerdcore auf Twitter

Rohrpostpodcast

HBO plant Serien-Verfilmung von Neal Stephensons „Snow Crash“

3-Gänge-Weihnachtsmenü aus der Dose

Trailerfest_VHYES The Host Dracula

Ed Ruschas motorized Photos of Sunset Boulevard set to Jack Kerouacs On The Road