Machine Unlearning als Psychotherapie für Künstliche Intelligenzen

Professor Nicolas Papernot von der Universität Toronto arbeitet an einem Paper über Machine Unlearning, in dem erste Ansätze für „vergessende Künstliche Intelligenzen“ ausgearbeitet werden. Ich würde Papernot als den ersten AI-Psychiater der Welt bezeichnen, als einen KI-Therapeuten. // Fefe

Ein Algorithmus, der auf schlechte oder voreingenommene oder rassistische/sexistische/whateveristische oder einfach beknackte Daten trainiert wurde, kann in einem technischen Verfahren der Zukunft „Daten vergessen“, das als AI-Therapie bezeichnet werden könnte. Menschen „vergessen“ in Verhaltens-Therapien dank Neuroplastizität ebenfalls „schlechte Daten“, Machine Learning Algorithmen verfügen allerdings (bislang) nicht über ausreichende „Neuroplastizität“. Ein Algorithmus, der einmal auf Mangas trainiert wurde, wird nach dem heutigen Stand keine Blümchen erzeugen. Die heutige „Neuroplastizität“ von Machine Learning Algorithmen ist eine Einbahn-Neuroplastizität, aus der der Algorithmus nicht zurück kann, er kann nicht „vergessen“.

Man kann sich diesen Algorithmus wie eine flüssige, heiße Wachsoberfläche vorstellen, die langsam erhärtet und auf der spurenhinterlassende Ameisen herumlaufen. Die Ameisen sind die Daten, die Spuren das Ergebnis des Trainings. Sind alle Ameisen drübergelaufen und das Wachs anschließend erhärtet, haben wir einen fertigen „Ameisen-Weg-Algorithmus“. Stellt sich nun aber heraus, dass da eine Küchenschabe dabei war, sind wir aufgeschmissen. Wir haben einen verfälschten Algorithmus und keinen Mechanismus, um das Wachs erneut aufzuweichen und die Spur der Küchenschabe zu löschen.

Erst Mechanismen, die den Algorithmus „therapieren“ könnten, also eine flexible Maschinen-Neuroplastizität, die einmal trainierte Daten mit erneutem Training verdrängen oder tatsächlich löschen können (wie die Spur der Schabe), würden eine künstliche Intelligenz „therapiefähig“ machen und wären damit ein weiterer Schritt zu einer allgemeinen Künstlichen Intelligenz, die unserer eigenen ein kleines bisschen ähnlicher wäre. Maschinen-Psychologie may be a thing in the future.

Jetzt Nerdcore unterstützen!

Nerdcore veröffentlicht seit mehr als 12 Jahren Analysen und Dokumentationen zu Memetik, Netz-Soziologie und digitalen Subkulturen, garniert mit jeder Menge Kunst, Entertainment und Unfug. Nerdcore prägte die deutsche Netzkultur maßgeblich, initiierte die erste deutsche Meme, ging Frau Merkel mit Flashmobs auf die Nerven und manche Menschen behaupten, ich würde ab und zu gute Arbeit abliefern.

Die Website ist seit 2017 werbefrei und wird aus Spenden und Abonnements finanziert. Um den Betrieb der Seite und meine Vollzeitstelle zu sichern, könnt ihr gerne ein Abonnement auf Patreon oder Steady abschließen oder mir eine einmalige Spende oder einen Dauerauftrag per Paypal oder auf mein Konto (IBAN DE05100100100921631121) zukommen lassen.

Vielen Dank an alle Leser und Unterstützer dieses Blogs.

Neu auf Nerdcore:

r/Nerdcore_de

Videobookfaces

[Musikvideos] Bombay Bicycle Club / Dan Deacon / Jessy Lanza / Shady Nasty / JPEGMafia / The 1975 / Jackie Lynn / Public Practice / Bill Fay

Westworld III – Neuer Trailer

Über den Nazi-Terrorismus von Hanau

UI-Pioneer Larry „Cut’n’Paste“ Tesler R.I.P.