Beten für KI?

Beten für KI?

Nicht immer sind ein Papst und ich einer Meinung, jetzt sagt aber Papst Franziskus, dass neue Entwicklungen in der Künstlichen Intelligenz „im Zentrum des epochalen Wandels stehen, den wir erleben“.
Und auch genauso wie ich meint der Papst: Diese Technologie könne unser Leben verbessern, sie könne das Leben aber auch schlechter machen, wenn sie missbraucht wird.
Ein kluger Mann, egal wie verschiedene Weltbilder wir haben. Meiner Meinung nach sollten die Medien und wir endlich aufhören, unsere neuen fabelhaften KI-Werkzeuge „künstliche neuronale Netze“ mit dem Terminator oder dem bösartigen Bordcomputer HAL9000 aus dem Science -Fiction-Film „2001: Odyssee im Weltraum“ zu verwechseln, sondern die waren Chancen für uns mit KI aber auch ihre Probleme wahrzunehmen.
Dazu sagt der Entwickler von word2vec und mein (Jaromirs) tschechischer Landsmann Thomáš Mikolov:
„Es gibt diese Argumente, dass wir vielleicht keine Künstliche Intelligenz entwickeln sollten, weil sie uns zerstören würde. Was ist aber, wenn das Nichterreichen der Künstlichen Intelligenz die größte existenzielle Bedrohung für die Menschen ist?
Das Problem ist nicht, dass uns bald Künstliche-Intelligenz-Programme beherrschen. Das Problem ist, dass uns schon jetzt Firmen und Regierungen mit Hilfe von KI-Programmen manipulieren, kontrollieren und beherrschen können.
Wann nehmen wir es wahr? Wann tragen wir dazu bei, dass KI NUR zum Wohle der Menschheit eingesetzt wird? Wenn wir dafür beten? Ich glaube, mit Vernunft kommen wir hier etwas weiter: Wir werden bei KI selbst mitreden können, wenn wir uns in Sachen KI bilden. Habe ich schon erwähnt, dass ich jeden Montag um 19 Uhr einen Online-Vortrag über ein anderes KI-Thema abhalte. 🙂 Für diese Webinare kann man sich unter diesem LINK registrieren.
Wie Bankräuber sich vor der Überwachung mit KI tarnen können

Wie Bankräuber sich vor der Überwachung mit KI tarnen können

Wissenschaftler der Universität Tübingen haben in diesem Jahre herausgefunden, dass künstliche neuronale Netze (KNN) Objekte eher an ihren Texturen erkennen, das heißt an der Oberflächenbeschaffenheit dieser Objekte. Menschen eher an Formen der Objekte. Unseren Vorfahren musste nun mal nur ein schneller Blick ins Dunkle reichen, um den Tiger an seinen Umrissen zu erkennen. Wer den Tiger im Dunkeln nur an seinem gestreiften Fell erkennen konnte, wurde gefressen.

Dass KNN sich nicht an Gestalten orientieren, weist auch Wege, wie man sie austrickst: Vor kurzem haben Forscher an der Universität Leuven entdeckt, womit man künstliche neuronale Netze, die in der Überwachung eingesetzt werden, in die Irre führen kann: Eine Person wird von dem Überwachungsnetz nicht als Person erkannt, wenn sie am Körper ein bestimmtes farbiges Bild trägt.

So kann man für die Erkennung von Bankräubern bald wieder Menschen statt KI-Überwachungskameras einsetzen. Wenn eine Person in die Bank kommt, die am Bauch ein farbiges Bild trägt, um das KI-Überwachungssystem zu überlisten, ist es ein Räuber. 🙂

Mit einem T-Shirt gegen Überwachung

Mit einem T-Shirt gegen Überwachung

Der beste Datenschutz heutzutage ist wohl, so viele Lügen über sich zu verbreiten, dass darin niemand die Wahrheit fischen kann. Deswegen müsste man jede Google-Suche mit einigen parallel dazu laufenden Tarnsuchen nach Unsinn begleiten. Ansonsten hat man den fleißigen Datensammlern schon durch das Stöbern im Netz ein lückenloses Persönlichkeitsprofil geliefert: Was man kauft, was man isst, was man liest, welche Krankheiten man hat, welche sexuellen Vorleiben und den ganzen Rest.

Auch wo und wie man sich bewegt, wird gern erfasst. Zum Beispiel bei der automatischen Kennzeichen-Erfassung, und das nicht nur in den USA, sondern auch in Bayern.

Zumindest, was Überwachung angeht, kann man aber künstliche neuronale Netze (KNN) in der Bilderkennung austricksen. Wohl orientieren sich KNN bei ihrer Erkennung an den Texturen, also an der Oberflächenbeschaffenheit der Objekte. Nicht an ihren Formen wie wir Menschen.

Gern verwechseln KNN dreidimensionale mit zweidimensionalen Bildern. So wurde eine berühmte chinesische Managerin auf einem öffentlichen Bildschirm angeprangert, weil sie verbotenerweise über eine Straße gegangen sei. Dabei hat sie die Kamera auf dem Plakat eines vorbeifahrenden Busses gefilmt. Die Statue des berühmten tschechischen Marathonläufers und Olympiasiegers Emil Zatopek könnte ein Bilderkennungsprogreamm somit folgend beschreiben: „Ein Mann, der auf der Straße läuft.“

Auf der diesjährigen DefCon (August 2019), der Cybersicherheitskonferenz in Las Vegas, hat die Designerin und Hackerin Kate Rose ihre „Adversial Fashion Line“ vorgestellt: Mit verschiedenen Autokennzeichen bedruckte Kleidungsstücke.

Selbstverständlich würden gut trainierte neuronale Netze auf diesen Trick nicht hereinfallen. Um die gängigen Modelle für die Autokennzeichen-Überwachung zu verwirren, dürften sie aber reichen. Momentan. Die künstlichen neuronalen Netze werden immer besser. Bald wird es sehr schwierig sein, sie auszutricksen. Deswegen sollten wir schauen, dass KNN nicht dazu missbraucht werden, uns zu überwachen.

Foto: Lianhao Qu bei Unsplash

Optimierung

Optimierung

Ein künstliches neuronales Netz ist eine Ansammlung von zusammenverbundenen Punkten in einem Computerprogramm. Egal wie viel Magie wir einem künstlichen neuronalen Netz (KNN) andichten, lernt ein KNN bei seinem Training seine Aufgabe nach einem mathematischen Optimierungsprozess lösen: dabei werden die Verbindungen zwischen den Punkten des Netzes mit Hilfe von Mathematik schrittweise gestärkt oder geschwächt, bis das Netz eine optimale Antwort auf seine Aufgabe liefert. Wenn man ein Programm mit Hilfe von Mathematik schrittweise anpasst, also optimiert, so dass es „optimal“ seine Aufgabe löst, ist es nun mal keine Magie, sondern ein mathematisches Optimierungsverfahren.
So wie es sich beim Kochen einer Kartoffelsuppe mit Steinpilzen auch um ein Optimierungsverfahren handelt, nur kein mathematisches: dabei tue ich Kartoffel in die Suppe, Steinpilze, etwas Salz, etwas Pfeffer, Majoran, Butter, wieder Pfeffer und Salz … Wenn die Suppe plötzlich zu salzig ist, schmeiße ich noch zwei Kartoffeln hinein. Und dann wieder Pfeffer. Auch Wasser gieße ich nach. Gebe Knoblauch dazu … So lange schütte ich Zutaten in die Suppe und koste die Suppe nach jedem solchen Schritt, bis die Suppe super schmeckt. Mit dem Kosten der Suppe ermittle ich schrittweise ihren Fehler und verbessere diesen. Immer wenn ich nach dem Kosten neue Zutaten hinzufüge, ist das Backpropagation of Error. Wie beim Training eines künstlichen neuronalen Netzes eben.
Die KI-Gesichtserkennung ist immer noch nicht neutral

Die KI-Gesichtserkennung ist immer noch nicht neutral

Obwohl KI-Gesichtserkennungs-Programme bereits massiv von der Polizei in den USA, in Australien und in Frankreich eingesetzt werden, können diese Programme Menschen mit dunkler Hautfarbe viel schlechter erkennen als Weiße. Außerdem Frauen schlechter als Männer. Die meisten Fehler passieren also bei dunkelhäutigen Frauen.

Die naheliegende Erklärung dafür ist: Die Foto-Datenbanken für das Training der Gesichtserkennungsprogramme stammen aus dem Internet und enthalten bis zu 80 % Gesichter von Weißen.

Die generell schlechtere Gesichtserkennung von Frauen erklärt man mit der Verwendung von Makup. Ich glaube aber, Frauen haben eine viele reichere Gefühlswelt als Männer und zeigen das dementsprechend in viel mehr Gesichtsausdrücken als Männer. Das bringt die Maschinen durcheinander. 🙂 Nicht ihr Makeup macht Frauen so schwer fassbar, sondern ihre Gefühle.

Wohl werden dunkelhäutige Menschen aber auch schlechter von den KI-Programmen erkannt, da die Digitalfotografie eher auf die Aufnahme von weißen Gesichtern hin entwickelt wurde. Also könnte das auch ein technisches Problem sein. Sicher spielen beide Ursachen eine Rolle: zu wenige Fotos von dunkelhäutigen Menschen in den Datenbanken und eine schlechtere Qualität ihrer Fotos.

Der Gesichtserkennungsexperte Patrick Grother stellte eine etwas politisch unkorrekte Hypothese auf: dunkelhäutige Menschen seien statistisch gesehen schlechter unterscheidbar als Weiße. Das wäre eine phänotypische Erklärung, für die es jedoch keine wissenschaftliche Begründung gibt. Auf jeden Fall kann ich dafür als ursprünglich theoretischer Molekularbiologe keinen molekularbiologischen Grund erkennen.

Photo by Mehrdad Haghighi on Unsplash.