Article Image
Article Image

Diesen Newsletter kann man auch abonnieren

read

“Als ob der #Brexit noch nicht dumm genug gewesen wäre: Neue EU-Verordnungen zu Algorithmen und das “Recht zur Erläuterung” algorithmischer Entscheidungen” - Tim Maughan

Willkommen zum total EU-kritischen Newsletter für alle Bürger des Neulands!

Das Recht auf Erläuterung

Ok, was ist passiert? Die EU hat vor kurzem neue Datenschutzrichtlinien beschlossen, die 2018 in Kraft treten werden. Unter den Richtlinien sorgen zwei gerade für ein wenig Aufregung in der Machine-Learning-Community. Der erste Aufreger: Ein Diskriminierungsverbot für Algorithmen. Bereits im letzten Newsletter ging es darum, dass falsch trainierte Algorithmen schwarze Menschen als Gorillas klassifizieren oder denken, Asiaten wären lediglich blinzelnde Weiße. Mit der neuen Datenschutzrichtlinie wird solche Diskriminierung verboten. Obwohl die EU und die Machine-Learning-Community hier dieselben Ziele haben, wird doch bezweifelt, dass ein Verbot Abhilfe schafft. Der zweite Aufreger im Gesetz: Algorithmische Entscheidungen müssen im Nachhinein in verständlicher Sprache erklärt werden können. EU-Bürger bekommen das Recht zur Erläuterung algorithmischer Entscheidungen. Jetzige Machine-Learning-Algorithmen lassen nicht zu, dass man ihnen unter die Haube schauen kann. Sie sind Black Boxes. Vor allem vor dieser Richtlinie fürchten sich die Kritiker neuen Regelungen, denn mit einem Handstreich verbietet die EU sämtliche gerade eingesetzte Machine-Learning-Algorithmen.

Diese Woche haben zwei Wissenschaftler aus Oxford ein Gutachten geschrieben, welche Auswirkungen die neuen Regelungen haben werden. Der Schluss der Gutachter: Die erste Richtlinie (selbstständige Diskriminierung) ist so unklar formuliert, dass sie entweder unnütz oder nicht durchsetzbar ist. Fusion, die den einzigen nicht-wissenschaftlichen Artikel zu dem Thema veröffentlicht haben, fügen hinzu, dass Google und Co. einfach nur irgendwo im Ablauf einen Menschen einsetzen müssen, damit der Algorithmus wieder EU-konform ist. Sobald also der Hausmeister morgens den PC anschaltet, läuft alles wie gehabt. Zum “Recht auf Erläuterung” meinen die Gutachter sinngemäß: We’re fucked. Alle bisherigen Black-Box-Algorithmen können vor Gericht angefochten werden. Sie sagen aber auch:

Wir sind der Meinung, dass, obwohl das Gesetz große Herausforderungen an die Industrie stellen wird, sich gleichzeitig auch Chancen für Machine-Learning-Forscher ergeben. Sie müssen jetzt das Heft in die Hand nehmen und transparente, nicht-diskriminierende Algorithmen entwickeln. […] Diese sind zwar schon in Entwicklung, aber es ist noch ein weiter Weg. Und die Uhr tickt.

Äpfel und Birnen

In den letzten Jahren gab es enorme Fortschritte bei der Bilderkennung. Neuronale Netze können mir nicht nur sagen, welcher meiner Freunde auf einem Bild zu sehen ist, sondern auch, was sonst noch im Bild passiert: Gewässer, Berge, Straßen. Was sie noch nicht können: genaue Unterscheidungen treffen. Es mag vielleicht aussehen wie ein Fluss, aber eigentlich ist es ein Bach; es sieht aus wie ein Apfel, ist aber eine Birne. Forscher von Disney Research (ja, echt jetzt) haben jetzt ein System vorgestellt, dass Äpfel von Birnen unterscheiden kann, ohne jemals eine Birne gesehen zu haben. Die Idee ist simpel: Sie koppeln ein neuronales Netz zur Bilderkennung mit einem Vokabel-Set. Das Netz wird mit Bildern von Äpfeln trainiert. Dieses Wissen wird dann mit Sprache angereichert, dem Netz wird gesagt: Eine Birne sieht aus wie ein Apfel, ist aber ein bisschen rundlicher. Und ab diesem Zeitpunkt kann es Birnen erkennen, ohne sie jemals gesehen zu haben. Mit ihrer Technik wollen die Forscher näher an das menschliche Lernen herankommen. DZone sagten sie:

Ich war noch nie in Afrika, aber ich habe Bücher gelesen und hab eine grobe Ahnung, was mich dort erwarten würde. Wir nutzen unsere Gehirne ständig, um Informationen zu organisieren und zu kontextualisieren, wie unbekannte Dinge aussehen könnten.

Vielleicht haben uns die Forscher damit vor einer grausamen Zukunft bewahrt, in der wir mit unseren KIs Gassi gehen müssen, damit sie auch ja viel von der Welt mitbekommen. Read a book, Siri!

Opa erzählt vom Krieg

Zugegeben: “Opa” ist sehr gemein von mir. Aber Jürgen Schmidhuber ist eine absolute Legende auf dem Gebiet der künstlichen Intelligenz. Vor ein paar Wochen veröffentlichte er einen langen Artikel in der Zeit, der jetzt endlich online verfügbar ist. Schmidhuber nimmt uns mit hinter die Kulissen des KI-Hypes, schaut zurück und erklärt, warum gerade alle von KI sprechen. Das beste Zitat:

Jedes Geschäftsfeld wird sich ändern, die gesamte Zivilisation wird sich ändern, alles wird sich ändern. Das erzählte ich schon in den 1980er Jahren. Heute erzähle ich immer noch dasselbe. Der Unterschied: Heute hören mehr Menschen zu.

In der Computerwoche gab es diese Woche noch ein Interview mit Schmidhuber und auch Kollege Max Muth hat ihn für sein Radio-Feature über Bots und KI getroffen. Das Feature sollte man sich sowieso anhören, vor allem weil man live dabei sein kann, wie Web-Entwickler bei der Programmierung eines Chatbots verzweifeln.

Kleinigkeiten

  • Wo wir gerade schon bei Hörtipps sind: Der WDR hatte gestern einen großen Thementag zu künstlicher Intelligenz. Ich bin gerade dabei mich da Stück für Stück durchzuhören. Ist vor allem für Laien total interessant. Hier gibt es alle Beiträge und Features vom WDR5-Thementag.

  • Bad News für alle Photoshop-Phillips: Neuronale Netze können jetzt automatisch freistellen. Auf Nerdcore könnt ihr euch Beispiele ansehen. Das ist natürlich alles andere als optimal, aber weist in die Zukunft der Bildbearbeitung: Siri, kannst du mir bitte ein Gif bauen, in dem der Dalai Lama auf nem Lama sitzt, welches wiederum auf ner Sackkarre steht? Danke.

  • Von KI und Medizin hatten wir es im Newsletter jetzt schon öfter. Jetzt untersucht eine KI Retina-Scans von Blinden, um Gemeinsamkeiten und Muster zu erkennen. Hinter dem Projekt stecken Google und der NHS, das Gesundheitsministerium Großbritanniens. Haben die Forscher Erfolg, können Krankheiten wie Makuladegeneration und Retinopathie frühzeitig erkannt und geheilt werden.

  • Könnt ihr unterscheiden, welches Gedicht von einer KI geschrieben wurde und welches von einem Menschen?

  • Michael Jordan arbeitet jetzt beim Roboterhersteller Jibo. Ok, es ist ein anderer Michael Jordan, aber: Der Machine-Learning-Experte ist in Fachkreisen fast so berühmt wie der Shooting Guard der Chicago Bulls. Für Jibo arbeitet Jordan gerade an einer intelligenten Küchenhilfe, ganz ähnlich wie Amazon Echo, die genau wie das Unternehmen Jibo heißen soll. Der Clou an Jibo: Der Helfer hat eine integrierte Kamera und kann sich so noch besser auf seinen Besitzer einlassen. Ob Jibo ein Slam Dunk wird, müssen wir dann sehen.

  • Kennt ihr diesen Hass-Entertainment-Moment, wenn ihr gerade euren Newsletter rausschicken wollt und dann im letzten Moment noch ne dicke News reinkommt? Google hat gerade eben die Firma Moodstocks gekauft. Moodstocks sind Spezialisten darin, Objekte sofort und ohne Verzögerung zu erkennen. Sie werden in die Pariser Division von Google eingegliedert und sollen die ohnehin fortschrittliche Bilderkennung Googles noch besser machen.

Das war’s für diese Woche. Ich freu mich wie immer über Feedback. Entweder gleich hier per Mail oder auf Twitter (@caltf4). Wenn euch der Newsletter gefallen hat, erzählt euren Freunden davon.

Bis nächste Woche!

Christian

PS: Dieser Newsletter hat jetzt eine eigene Webseite! Unter altf4.cool könnt ihr alle alten Folgen nachlesen.

Blog Logo

Christian Alt


Published

Image

Alt+F4

Ein Newsletter über Künstliche Intelligenz, Machine Learning, neuronale Netzwerke und die Zukunft des Computings.

Strg+Z