Tagebücher der Wissenschaft

In zwei kürzlich erschienenen Büchern werden völlig gegensätzliche Bilder der digitalen Zukunft gezeichnet. Ulrich Eberl berichtet in “Smarte Maschinen. Wie Künstliche Intelligenz unser Leben verändert” aus den Forschungsinstituten, in denen diese Zukunft gestaltet wird. Harald Welzer verdammt in “Smarte Diktatur. Der Angriff auf unsere Freiheit” die Auffassung, dass Informationstechnologie unser Leben besser machen und aktuelle Probleme lösen kann. Smart wird unsere Zukunft also auf jeden Fall. Grund genug, sich diese beiden Bücher genauer anzusehen. 

Meine Ferienlektüre am Strand der Provence – zu Lande, zu Wasser und in der Luft gut bewacht von Polizei und Militär – sollte mich in diesem Jahr zu Stand und Perspektiven der Künstlichen Intelligenz unter besonderer Berücksichtigung der Robotik informieren. Als Computerlinguist hat man von Natur aus eine Affinität mit ersterer, der KI; und mit letzterer, der Robotik, verbindet mich persönlich das Thema meiner Habilitationsschrift, in der ich mich seinerzeit mit der natürlichsprachlichen Steuerung autonomer Roboter befasst hatte [1]. Das ist jetzt 20 Jahre her, und seitdem ist in der KI-Forschung und der Robotik viel passiert. Dass sich aber gerade in den letzten fünf Jahren ungewöhnlich viel getan hat, nimmt Ulrich Eberl zum Anlass, eine hochaktuelle Bestandsaufnahme intelligenter Technologien vorzunehmen. Die ältesten Verweise im umfangreichen Anhang reichen kaum einmal bis ins Jahr 2010 zurück, die meisten datieren aus 2015, und die neuesten stammen sogar aus diesem Jahr.

Eberl sieht den bevorstehenden Wandel vor allem in einem massiven Einsatz intelligenter Roboter und führt dies vor allem auf vier Gründe zurück: die enorme Leistungssteigerung bei gleichzeitiger Miniaturisierung auf der Ebene der Computer-Hardware, die immer schnellere und effektivere drahtlose Kommunikation, die schon jetzt zur Entwicklung eines “Robot-Internets” führt, die Miniaturisierung von Sensoren und die Datenexplosion im Internet. Das ganze ist unterlegt durch die Erfolge von Technikern und Ingenieuren, eine immer bessere Roboter-Hardware als Plattform für intelligente Agenten zur Verfügung zu stellen.

Um dieser teilweise etwas nüchternen Bestandsaufnahme – Eberl dekliniert sein Thema in 13 Kapiteln systematisch durch – einen narrativen Zugang zu verschaffen, ist jedem Kapitel ein weiterer Teil einer Geschichte vorangestellt, die sich im Laufe des Buchs wie ein Fortsetzungsroman zu einem Ganzen fügt und sogar mit einem Kriminalfall aufwarten kann. Die Teile der Geschichte sind sehr geschickt mit den Kapiteln verwoben, indem sie deren Gegenstand in eine hypothetische Zukunft im Jahr 2050 versetzen, ohne dabei den Handlungsverlauf zu sehr zu verbiegen.

Im mittleren Teil seines Buchs widmet sich Eberl ausführlich dem aus seiner Sicht wesentlichen Treiber der aktuellen Entwicklung: dem maschinellen Lernen. Sehr lesenswert ist hier, wie er die verschiedenen Methoden dazu darstellt – das unüberwachte Lernen zur Mustererkennung, das überwachte Lernen zum Einüben erwünschter Verhaltensweisen und das Reinforcement Learning als ein sich selbstorganisierender Lernprozess mit Belohnungsanreizen – darstellt. Dabei hebt er besonders auf die jüngst erzielten Erfolge durch Deep Learning ab, dem Einsatz von sehr großen künstlichen neuronalen Netzen für die Realisierung der verschiedenen Lernverfahren. Das IBM-System Watson und dessen Fähigkeiten zu Textanalyse bilden hier den Kristallisationspunkt, und Eberl verbindet geschickt die Darstellung der eindrucksvollen Fähigkeiten dieses Systems, etwa beim Gewinn des “Jeopardy”-Quiz’, und den technischen Verfahrensweisen, die diese ermöglichen (Kapitel 5). Im sechsten Kapitel seines Buchs geht er sogar noch einen Schritt weiter und erläutert anhand des Human-Brain-Projekts, das von der EU mit einer Milliarde Euro gefördert wird, wie sich diese heutigen Ansätze einer künstlich-neuronalen Informationsverarbeitung nach dem Vorbild des menschlichen Gehirns mittelfristig weiterentwickeln werden.

Im Stil von Pressemitteilungen

Die folgenden Kapitel enthalten Bestandsaufnahmen in den Bereichen autonomes Fahren und Servicerobotik, Industrie 4.0, militärische Roboter-Anwendungen und das (nicht vorhandene) Problem der “Superintelligenz”, Emotion und Sozialität von Robotern sowie die Integration intelligenter technischer Systeme in den menschlichen Körper. Viel Interessantes ist hier zu lesen, vieles aber auch kaum anders als im Stile von Pressemitteilungen für Eberls vormalige Arbeitgeber Daimler und Siemens, die beide in einigen Kapiteln mit ihren Entwicklungen eine sehr prominente Rolle einnehmen. Überhaupt verfällt der Autor immer wieder in Floskeln wie “In der Zukunft wird…” oder “Die A der Zukunft werden nicht nur X sein, sondern auch Y. N.N. an der Universität U hat mit seinem Team sogar ein System entwickelt, das Z kann.”. Zwischenüberschriften sind mehrmals nach dem Schema “Wenn X Y macht” oder anderen wiederkehrenden Mustern gebildet, was mich an die gewollt munteren, sich einer angenommenen Laienleserschaft gutmütig anbiedernden Pressemitteilungen zu Forschungserfolgen von Universitäten erinnert, die tagtäglich zu Dutzenden im Informationsdienst Wissenschaft veröffentlicht werden. Und auch die Tatsache, dass gleich zweimal in dem Buch “der heilige Gral” intelligenter Systeme identifiziert wird – einmal als Semantik, ein anderes Mal als emergentes Verhalten –, erhöht nicht gerade das Vertrauen in die eschatologische Erlösungspotenz dieses Buchs.

Das Buch ist trotzdem sehr lesenswert, und einige Aspekte der aktuellen Roboter-Entwicklung sind wahrlich faszinierend. Die Möglichkeit etwa, dass intelligente Roboter per WLAN quasi telepathisch miteinander kommunzieren, ja vernetzen können, ist eigentlich naheliegend und technisch unmittelbar realisierbar, in seiner Konsequenz woanders aber so noch nicht dargestellt. Auch der ständig verfügbare Zugang zu den unerschöpflichen Wissensquellen des Internets zur Bearbeitung anstehender Aufgaben wird von Eberl sehr gut an Beispielen erläutert. Und er macht auch deutlich, dass es ja gar nicht darum gehen wird, einen humanoiden Roboter mit einer bestimmten Persönlichkeit und bestimmten, festgelegten Fähigkeiten auszustatten. Beides kann variabel angelegt sind, die “Persönlichkeit” per Download je nach Aufgabe angepasst und spezifische Fähigkeiten als “Cogs” (“die neuen Apps”) neu konfiguiert werden.

Einige Abschnitte, etwa der zur Industrie 4.0, erschließen sich nur vor dem Hintergrund einer kapitalistischen Machbarkeitsideologie, die den Produktionsfortschritt als solchen verabsolutiert. Auch bei der Darstellung der Servicerobotik im Haushalt habe ich mich irgendwann gefragt, was das überhaupt alles soll. Eine Küche, die selbständig einkauft, ein Gericht passend zu meiner Stimmung und meinen Gesundheitsdaten aussucht und es dann auch noch mit ihrem integrierten Roboterarm kocht, braucht hoffentlich niemand. Manchen der Wissenschaftler, die Eberl getroffen hat, möchte man lieber keine Verantwortung für unsere Zukunft übertragen. Hier ist eine unreflektierte Forschrittsgläubigkeit, ja Naivität zu verspüren, die die Kehrseite der beschriebenen “Errungenschaften” unterbelichtet lässt. Nur an wenigen Stellen werden diese Implikaturen diskutiert, und dann fallen Sätze wie: “In der Zukunft geht es nicht nur darum, die Privatsphäre zu schützen, sondern überhaupt freie Willensentscheidungen zu ermöglichen.” Wenn wir tatsächlich darauf zusteuern sollten, dann müssten wir doch eigentlich alles daran setzen, die Notbremse zu ziehen.

Welzer Buch will die Notbremse sein

Harald Welzers Buch will genau diese Notbremse sein. Im achten und letzten Kapitel, “Vorwärts zum Widerstand”, geht es um Möglichkeiten, sich der digitalen Sphäre zu entziehen oder sie sogar zu sabotieren. Richtig überzeugend fand ich die Hinweise nicht, etwa statt eines iPhones ein “iStone” aus geschliffenem Granit zu verwenden und das Internet wo es geht zu meiden, Makeup aufzulegen, das die automatisierte Gesichtserkennung von Überwachungssystemen irritiert, sinnlose Anfragen, Daten und Likes an die sozialen Netzwerke zu schicken, um deren Benutzermodellierung zu hintertreiben, oder sogar Bürgerwehren zu bilden mit dem Auftrag, Drohnen abzuschießen. Welzer, bekannt geworden unter anderem durch “FuturZwei, Stiftung Zukunftsfähigkeit“, will also Widerstand und Krawall, um die Zukunftsvisionen, wie sie unter anderem in Eberls Buch beschrieben werden, als lächerlich, undemokratisch, freiheitsberaubend und umweltbelastend zu entlarven.

Das Buch ist in Teilen wie eine Polemik geschrieben und bringt immer wieder Beispiele, aus denen sehr allgemeine Schlussfolgerungen gezogen werden. Lang befasst er sich etwa zur Demonstration der zerstörerischen Macht der Crowd mit der Geschichte von Justine Sacco, die vor einem längeren Flug mit einem ungeschickt formulierten Tweet eine weltweite Welle der Empörung auslöste, die sie nach ihrer Ankunft mitsamt Freundschaften und Job nahezu komplett wegspülen sollte. Eigentlich befasst sich Welzer mit nahezu allem, was heute von Bedeutung ist, und das ist Programm: den ökologischen Problemen der Welt, dem Klimawandel, der Lage des Kapitalismus, politischer Freiheit, Konsum und Produktionsmethoden, der Macht des Geldes, Aktienmärkte, Monopole. Eine Stärke des Buchs besteht darin, diese Themen als miteinander verbunden zu betrachten, was sie ja tatsächlich auch sind. Stark sind etwa die Abschnitte, in denen Welzer sehr detailliert und offensichtlich gut informiert auf die ökologischen Kosten der Digitalisierung eingeht. So referiert er Berechnungen, nach denen ein Smartphone inklusive aller in die Cloud ausgelagerter Daten und Dienste anteilig so viel Strom wie eine große Kühl-Gefrierkombination verbraucht, durchgängig. Auch die zur Produktion dieses Kleincomputers aufgewendete Energie sowie der Rohstoff- und Wasser-Einsatz sei gigantisch. Und er zeichnet nach, wie es kommt, dass von den 700 Euro, die man für ein iPhone von Apple im Laden hinlegen muss, bei der taiwanesischen Herstellerfirma Foxconn mit ihren Produktionsstätten in Billiglohnländern nur 10 Dollar ankommen, wo der Rest des Geldes bleibt und was das für die Lebensbedingungen der Arbeiter bei Foxconn nach sich zieht.

Der Nachteil von Welzers Buch liegt aber darin, dass er die digitale Welt nicht wirklich begreift. All die technologischen Entwicklungen, die Eberl in seinen “Smarten Maschinen” eindrucksvoll beschreibt, kommen hier nicht vor, insbesondere nicht die, die tief in unser Leben, oftmals indirekt, eingreifen und weit jenseits des Smartphones liegen. Dies fängt bei intelligenten Netzen zur Verkehrs- oder Energiesteuerung an und hört noch lange nicht auf bei den digitalisierten Produktionsmethoden von nahezu jedem Produkt, das uns umgibt. Vielleicht kann der inzwischen 58-jährige Welzer tatsächlich auf Handy und Internet verzichten, und bei seinen Generationsgefährten, die auch seine Lesungen gut besuchen, wird dies, wovon ich mich selbst überzeugen konnte, sehr honoriert. Wenn jedoch alle dies täten, würden wir allerdings von heute auf morgen in einer Welt leben, die auch Welzer so nicht wollen mag. “Es ist nicht mehr länger möglich, die Verbindung unserer Welt mit den IKT zu trennen, ohne sie damit selbst abzuschalten”, hat Luciano Floridi längst festgestellt. Und ob ein 17-Jähriger heute tatsächlich die Wahl hat, auf sein Smartphone zu verzichten, wage ich zu bezweifeln. Die kulturelle Evolution lässt immer wieder aus einem Luxus eine Not erwachsen, und die, für die der Luxus eine Notwendigkeit geworden ist, können nicht einfach den Off-Schalter betätigen.

Fazit: Eberl lesen, mit Floridi drüber nachdenken

Welzers Buch ist in seinem Furor lesenswert, weil es vernachlässigte Zusammenhänge zwischen sonst kaum verbundenen Gebieten aufzeigt und Fragen zur Sinnhaftigkeit des Weges stellt, auf dem wir uns gerade befinden. Antworten auf diese Fragen bietet es jedoch nicht und kann deshalb auch nicht als Ergänzung zu Eberls Technologiebericht empfohlen werden. Welzer ist blind für den qualitativen Wandel, der sich mit der Digitalisierung und der Informationstechnologie derzeit vollzieht. Will man Substanzielles dazu erfahren, sollte man zu Luciano Floridis bereits 2014 erschienenen Buch “Die 4. Revolution” [2] greifen, aus dem auch das Zitat soeben stammt. Floridi will eine “Informationsphilosophie” begründen und diskutiert klassische Begriffe wie Zeit, Raum, Identität, Privatsphäre, Politik, Umwelt oder Ethik aus einer strikt informationellen Perspektive. Privatsphäre etwa sieht er nicht als zeitlos gegeben an, sondern als ein seit Anbeginn der Geschichte immer wieder neu austariertes Gleichgewicht von Informationen, die eine Person bestimmten Gruppen in bestimmten Situationen zur Verfügung stellt. Für ihn ist die Privatsphäre der Antike eine andere als die des Mittelalters, die des 19. eine andere als die 21. Jahrhunderts. Mit dem Rüstzeug, das einem Floridi an die Hand gibt, lassen sich die bei Eberl fehlenden Reflexionen ergänzen und die Grenzen von Welzers Streitschrift ziehen.

Anmerkungen:

^{Beitragsbild:  Kotaro, ein an der Universität Tokyo entwickelter humanoider Roboter, präsentiert in der Universität für künstlerische und industrielle Gestaltung Linz im Rahmen des Ars Electronica Festivals 2008. https://commons.wikimedia.org/wiki/File:Ars_Electronica_2008_Kotaro.jpg, Foto: Manfred Werner, CC BY-SA 3.0 [Änderung des Formats].}

^{1 Henning Lobin: Handlungsanweisungen. Sprachliche Spezifikation teilautonomer Aktivität. Wiesbaden: DUV, 1998 [zugl.: Universität Bielefeld, Habil.-Schr., 1996].}

^{2 Luciano Floridi: Die 4. Revolution. Wie die Infosphäre unser Leben verändert. Berlin: Suhrkamp, 2015 [zuerst auf Englisch erschienen bei Oxford University Press, 2014].}