ImageNet Roulette

ImageNet ist die größte annotierte Bild-Datenbank der Welt und wird von Computer-Vision-Systemen weltweit benutzt, um Algorithmen zu trainieren oder Objekte zu identifizieren. Anwendungsbeispiele sind selbständig fahrende Autos bis Überwachungskameras. Diese Datensätze sind meistens nicht sehr zuverlässig und „rassistisch“, in dem sie beispielsweise weiße Haut als den Normalfall setzen und deshalb schwarze Menschen als Affen erkennen, Stichwort Algorithmic Bias.

Trevor Paglen hat nun ein ImageNet-Roulette programmiert, mit dem man eigene Bilder oder Webcam-Snapshots durch ImageNet klassifizieren lassen kann. Ich bin laut ImageNet ein Newsreader oder wahlweise ein „Sufferer“. Stimmt beides. Obama ist ein Vergewaltigungsverdächtiger (uff) und Trump ein Ex-Präsident (stimmt), ein Elder Statesman (stimmt nicht) und ein Protectionist (stimmt). Angela Merkel ist Queen Mother (hmm). Jordan Peterson wird erstaunlicherweise als Akademiker erkannt, Slavoj Zizek dagegen als „Beard“, was bei Image-Net nicht Gesichtsbehaarung bedeutet. Spiderman ist ein Cheerleader und Cheerleader-Porno dagegen ist Batman. In meiner Welt (und in der von Image-Net) ergibt das alles Sinn, tatsächlich, irgendwie.

ImageNet Roulette uses a neural network trained on the “people” categories from the ImageNet dataset to classify pictures of people. It’s meant to be a peek into how artificial intelligence systems classify people, and a warning about how quickly AI becomes horrible when the assumptions built into it aren’t continually and exhaustively questioned.

ImageNet Roulette regularly classifies people in racist, misogynistic, cruel, and otherwise horrible ways. This is because the underlying training data contains those categories (and pictures of people that have been labelled with those categories). We did not make the underlying training data which is responsible for these classifications. It comes from a popular data set called ImageNet, which was created at Stanford University and which is a standard benchmark used in image classification and object detection.

ImageNet Roulette is meant in part to demonstrate how bad politics propagate through technical systems, often without the creators of those systems even being aware of it.

Nerdcore veröffentlicht seit mehr als 12 Jahren Analysen und Dokumentationen zu Memetik, Netz-Soziologie und digitalen Subkulturen, garniert mit jeder Menge Kunst, Entertainment und Unfug. Nerdcore prägte die deutsche Netzkultur maßgeblich, initiierte die erste deutsche Meme, ging Frau Merkel mit Flashmobs auf die Nerven und manche Menschen behaupten, ich würde ab und zu gute Arbeit abliefern.

Die Website ist seit 2017 werbefrei und wird aus Spenden und Abonnements finanziert. Um den Betrieb der Seite und meine Vollzeitstelle zu sichern, könnt ihr gerne ein Abonnement auf Patreon oder Steady abschließen oder mir eine einmalige Spende oder einen Dauerauftrag per Paypal oder auf mein Konto (IBAN DE05100100100921631121) zukommen lassen.

Vielen Dank an alle Leser und Unterstützer dieses Blogs.

Neu auf Nerdcore:

Infinite Coltrane: Künstliche Intelligenz improvisiert unendlichen AI-Freejazz

Star Trek: Picard – Trailer

Westworld Staffel 3 – Neuer Trailer

SDCC-Trailerfest: Snowpiercer, The Expanse, Harley Quinn, Supergirl, The Flash, The Arrow, The Man in the high Castle, Black Lightning, Star Trek Shorts

The Matrix starring Bruce Lee

3 Kommentare zu “ImageNet Roulette”

Kommentare sind geschlossen.


NC-Shirts

Jetzt Nerdcore unterstützen!


Patreon
Steady
Paypal
Donorbox
IBAN DE05100100100921631121

Dankeschön!

Kontakt

Newsletter

Bücherstapel
Böses Denken (Bettina Stangneth)

Fireman (Joe Hill)

Eine Naturgeschichte der menschlichen Moral (Michael Tomasello)

Spielball der Hexen (1976), Vampir Horror-Roman Taschenbuch 41

Synchron: vom rätselhaften Rhythmus der Natus (Steven Strogatz)