ImageNet Roulette

ImageNet ist die größte annotierte Bild-Datenbank der Welt und wird von Computer-Vision-Systemen weltweit benutzt, um Algorithmen zu trainieren oder Objekte zu identifizieren. Anwendungsbeispiele sind selbständig fahrende Autos bis Überwachungskameras. Diese Datensätze sind meistens nicht sehr zuverlässig und „rassistisch“, in dem sie beispielsweise weiße Haut als den Normalfall setzen und deshalb schwarze Menschen als Affen erkennen, Stichwort Algorithmic Bias.

Trevor Paglen hat nun ein ImageNet-Roulette programmiert, mit dem man eigene Bilder oder Webcam-Snapshots durch ImageNet klassifizieren lassen kann. Ich bin laut ImageNet ein Newsreader oder wahlweise ein „Sufferer“. Stimmt beides. Obama ist ein Vergewaltigungsverdächtiger (uff) und Trump ein Ex-Präsident (stimmt), ein Elder Statesman (stimmt nicht) und ein Protectionist (stimmt). Angela Merkel ist Queen Mother (hmm). Jordan Peterson wird erstaunlicherweise als Akademiker erkannt, Slavoj Zizek dagegen als „Beard“, was bei Image-Net nicht Gesichtsbehaarung bedeutet. Spiderman ist ein Cheerleader und Cheerleader-Porno dagegen ist Batman. In meiner Welt (und in der von Image-Net) ergibt das alles Sinn, tatsächlich, irgendwie.

ImageNet Roulette uses a neural network trained on the “people” categories from the ImageNet dataset to classify pictures of people. It’s meant to be a peek into how artificial intelligence systems classify people, and a warning about how quickly AI becomes horrible when the assumptions built into it aren’t continually and exhaustively questioned.

ImageNet Roulette regularly classifies people in racist, misogynistic, cruel, and otherwise horrible ways. This is because the underlying training data contains those categories (and pictures of people that have been labelled with those categories). We did not make the underlying training data which is responsible for these classifications. It comes from a popular data set called ImageNet, which was created at Stanford University and which is a standard benchmark used in image classification and object detection.

ImageNet Roulette is meant in part to demonstrate how bad politics propagate through technical systems, often without the creators of those systems even being aware of it.

Jetzt Nerdcore unterstützen!

Nerdcore veröffentlicht seit mehr als 12 Jahren Analysen und Dokumentationen zu Memetik, Netz-Soziologie und digitalen Subkulturen, garniert mit jeder Menge Kunst, Entertainment und Unfug. Nerdcore prägte die deutsche Netzkultur maßgeblich, initiierte die erste deutsche Meme, ging Frau Merkel mit Flashmobs auf die Nerven und manche Menschen behaupten, ich würde ab und zu gute Arbeit abliefern.

Die Website ist seit 2017 werbefrei und wird aus Spenden und Abonnements finanziert. Um den Betrieb der Seite und meine Vollzeitstelle zu sichern, könnt ihr gerne ein Abonnement auf Patreon oder Steady abschließen oder mir eine einmalige Spende oder einen Dauerauftrag per Paypal oder auf mein Konto (IBAN DE05100100100921631121) zukommen lassen.

Vielen Dank an alle Leser und Unterstützer dieses Blogs.

Neu auf Nerdcore:

Nerdcore auf Twitter

The Lumineers’ neues Album als Kurzfilm in zehn Musikvideos

Buch-Cover alter SciFi-Klassiker: The Illustrated Man, Metropolis, I Robot, Bodysnatchers, A Scanner Darkly

Evoboxx: Game of Life-Synthesizer

[Klimalinks 21.9.2019] Global Climate Strike; Klimapaket der Bundesregierung: Too little, too late; Google/Amazons Klima-Pläne

Musikvideos_Anyway Gang Planet B Comet Gain Rosegarden Funeral Party Vivian Girls Lou Rebecca Chromatics The New Pornographers M83 James Massiah Okay Kaya

3 Kommentare zu “ImageNet Roulette”

Kommentare sind geschlossen.

Jetzt Nerdcore unterstützen!


Patreon
Steady
Paypal
IBAN DE05100100100921631121

Dankeschön!


NC-Shirts

Kontakt

Newsletter

Bücherstapel
Was für Lebewesen sind wir? (Noam Chomsky)

Der Tyrann: Shakespeares Machtkunde für das 21. Jahrhundert (Stephen Greenblatt)

Stan (John Connolly)

Die geheime Welt der Bauwerke (Roma Agrawal)

Verzeichnis einiger Verluste (Judith Schalansky)