Die großen Fragen: Roboconsciousness – eine Bedrohung?

Feuerwerk der Neuronen

Heute diskutieren wir von 12 bis 15 Uhr eine der großen Fragen von Leserinnen und Lesern von ZEIT Online: Was ist Bewusstsein? Ich konzentriere mich im folgenden Beitrag auf Maschinenbewusstsein.

Roboter und Maschinen erledigen viele Arbeiten wesentlich effizienter als Menschen: Wäsche waschen, rechnen, große Datensätze nach bestimmten Kriterien sortieren und analysieren etc. Was, wenn Roboter nun auch noch Bewusstsein [1] hätten? Was würde sie dann noch – abgesehen von der Art der Entstehung und der physischen Beschaffenheit – von Menschen unterscheiden? Und wenn sie bis auf wenige Kleinigkeiten nicht mehr von Menschen zu unterscheiden wären – welche Konsequenzen hätte das?

Studien belegen Angst vor Robotern und KI

Laut einer Studie der British Science Association (2017) glauben 60 Prozent der über 2000 befragten TeilnehmerInnen, dass Roboter oder Programme, die komplexe Probleme lösen können (Stichwort: künstliche Intelligenz (KI)) bis in zehn Jahren zu weniger Arbeit für Menschen führen. 36 Prozent glauben demnach, dass die derzeitigen technischen Entwicklungen langfristig eine Bedrohung für das Überleben der Menschheit darstellen. Einerseits also sind viele Computerprogramme und Maschinen eine Erleichterung für Menschen, da sie Arbeiten besser und/ oder schneller verrichten als Menschen. (Dies gilt freilich nicht für alle Maschinen, bspw. Kriegsdrohnen, die allenfalls – wenn überhaupt – nur für eine bestimmten Gruppe von Menschen von Vorteil sind). Andererseits fühlen Menschen sich offenbar bedroht von Robotern und KI. Warum?

Angst vor der Ersetzbarkeit des Menschen

Die Angst vor autonomen Kriegsrobotern ist am einfachsten nachvollziehbar, weil die Art der Bedrohung hier recht konkret ist. Unternehmen, die im Bereich Robotik und intelligente Systeme forschen, warnten daher jüngst vor dem Einsatz ihrer Technik in Kriegen. Andere, vor allem auch medial aufgegriffene Ängste, sind hingegen oft recht konfus. Da ist von der „Macht der Algorithmen“ (Spektrum 11/ 2016) die Rede, von gefährlichen Robotern (Bild 10/ 2017) oder es wird die Frage aufgeworfen: „Künstliche Intelligenz: Wird sie uns eines Tages töten?“ (PC Welt 1/ 2017). Ein Blick in Film und Literatur zeigt, dass diverse dort thematisierte Ängste von Menschen auf einen wesentlichen Faktor reduziert werden können: Ersetzbarkeit. Die Angst von Menschen, eines Tages durch Roboter ersetzt werden zu können, wird durch die Vorstellung, dass Roboter auch (etwas Ähnliches wie) Bewusstsein haben könnten, nur noch verstärkt.

Wozu Menschen, wenn es perfekte Menschen in Form von Robotern geben kann?

Im Film Metropolis von Fritz Lang ist beispielsweise die Rede von einem „Maschinenmenschen“, einer Roboterfigur, die als Ersatz für die Hauptfigur Maria hergestellt wird. Ähnlich wie in Goethes Faust. Der Tragödie zweiter Teil (Zweiter Akt, Laboratorium, 1828) geht es hier zunächst um den schieren Zauber der künstlichen Herstellung von Menschenähnlichem. Das Drama R. U. R. – (Rossum‘s Universal Robots) des tschechischen Autors Karel Čapek führt die Angst vor und die befürchtete Bedrohung durch Androiden konsequent zu Ende: In dem 1920 uraufgeführten Stück sind Roboter (tschechisch: robota = Arbeit) zunächst das, was viele Roboter, Programme und Maschinen heute auch sind: effiziente Arbeiter. In R. U. R. sind die Roboter rein äußerlich und in ihrem Verhalten, Sprache etc. nicht von Menschen unterscheidbar und wenngleich nicht bekannt ist, aus welchem Stoff [2] sie bestehen, gibt es in der Fabrik zur Roboterherstellung doch eine Knochenabteilung sowie eine Spinnerei, in der Nerven, Adern und Verdauungsschläuche hergestellt werden (vgl. Čapek: R U. R., Prolog). Im Lauf des Stücks stellt sich heraus, dass die Roboter zudem Bewusstsein sowie menschenähnliche Bedürfnisse haben – zum Beispiel faire Arbeitsbedingungen – und auch Emotionen wie Wut und Liebe. Am Ende wird, wie so oft in literarischen Darstellungen künstlicher Figuren auf die biblische Schöpfungsgeschichte verwiesen (s. hierzu auch die Golem-Sage), wenn zwei Roboter offen ihre Liebe bekunden und damit eindeutig zu sein scheint, dass sie zur Reproduktion keines Menschen mehr bedürfen (am Schluss des Stücks ist eh nur noch einer übrig).

Forscher wie Hiroshi Ishiguro bauen mit Hochdruck an Robotern, die so wie in R. U. R. rein äußerlich sehr menschenähnlich sind. Dabei sind diese Kreaturen bislang noch ganz eindeutig von Menschen zu unterscheiden, vor allem auch, was Sprache und Bewusstsein angeht. Zwar gibt es auf technischer Ebene schon sehr ausgefeilter Roboter, die mit verschiedenen Wahrnehmungssensoren ausgestattet sind und teilweise recht komplexe Bewegungsabläufe vollziehen können – nur ein Beispiel hierfür: IBMs Nao. Aber so sehr man auch versucht, die funktionellen Eigenschaften von Bewusstsein künstlich zu imitieren: Bislang gibt es noch keine Roboter, denen man menschenähnliches Bewusstsein zuschreiben könnte. Dies wäre, wie die Theorie des uncanny valley aus den 70-er Jahren von Masahiro Mori nahe legt, auch höchst beunruhigend für Menschen. Demnach gibt es nämlich einen kritischen Punkt, an dem die Akzeptanz von Robotern durch Menschen nach einem kontinuierlichen Anstieg schlagartig absinkt. Das heißt konkret: Zu menschenähnliche Roboter wirken unheimlich.

Wozu, so möchte man fragen, bedarf es noch (natürlicherweise fehlbare) Menschen, wenn es auch perfekte Menschen in Form von Robotern geben kann?

Das Problem mit der Fledermaus

Die Frage ist natürlich (bewusst! 😉 ) provokativ gestellt und man möchte sofort (ethisch, anthropologisch usw.) den Selbstzweck des Menschen ins Spiel bringen. Angesichts der derzeitigen technischen Entwicklungen (Stichwort: deep learning) ist es aber gar nicht so abwegig, die Frage zu stellen, was den Menschen zum Menschen macht und ob sein Allmachtsgefühl nicht doch auf recht wackeligen Säulen begründet ist. Günther Anders bemängelte bereits 1968 in seiner gleichnamigen Schrift die Antiquiertheit des Menschen und sah zumindest die Gefahr, dass Menschen „drauf und dran sind, eine Welt zu etablieren, mit der Schritt zu halten wir unfähig sind, und die zu ‚fassen‘, die Fassungskraft, die Kapazität sowohl unserer Phantasie wie unserer Emotionen wie unserer Verantwortung absolut überfordert[…]“ (Anders 1968, S. 17 f.). Maschinenbewusstsein scheint angesichts selbstlernender Systeme einerseits schon greifbar nah zu sein. Andererseits ist Bewusstsein etwas, das aus philosophischer Sicht noch nicht einmal zwischenmenschlich wirklich erforschbar, weil intersubjektiv so unterschiedlich ist. Denn wie Thomas Nagel in seinem im Zusammenhang mit philosophischen Bewusstseinsfragen immer wieder gern zitierten Aufsatz What it is like to be a bat (2016: 15 ff.) so schön beschreibt, kann man nur wissen, was Bewusstsein ist, wenn man weiß, wie es ist, dieser oder jener Organismus zu sein:

„Unsere eigene Erfahrung liefert die grundlegenden Bestandteile für unsere Phantasie, deren Spielraum deswegen beschränkt ist. Es wird nicht helfen, sich vorzustellen, dass man Flughäute an den Armen hätte, die einen befähigten, bei Einbruch der Dunkelheit und im Morgengrauen herumzufliegen, während man mit dem Mund Insekten finge; dass man ein schwaches Sehvermögen hätte und die Umwelt mit einem System reflektierter akustischer Signale aus Hochfrequenzbereichen wahrnähme; und dass man den Tag an den Füßen nach unten hängend in einer Dachkammer verbrächte. Insoweit ich mir dies vorstellen kann (was nicht sehr weit ist), sagt es mir nur, wie es für mich wäre, mich so zu verhalten, wie sich eine Fledermaus verhält. Das aber ist nicht die Frage. Ich möchte wissen, wie es für eine Fledermaus ist, eine Fledermaus zu sein. Wenn ich mir jedoch dies nur vorzustellen versuche, bin ich auf die Ressourcen meines eigenen Bewusstseins eingeschränkt, und diese Ressourcen sind für das Vorhaben unzulänglich. Ich kann es weder ausführen, indem ich mir etwas zu meiner gegenwärtigen Erfahrung hinzudenke, noch indem ich mir vorstelle, Ausschnitte würden davon schrittweise weggenommen, noch indem ich mir Kombinationen aus Hinzufügungen, Wegnahmen und Veränderungen ausmale.“

Aus philosophischer Sicht ist menschliches Bewusstsein nach wie vor ein Geheimnis; aus neurowissenschaftlicher Sicht ein auf bestimmten neuronalen Mustern basierender Geisteszustand; und aus maschinen-ethischer Sicht ein Faktor, der das Selbstbewusstsein (hier im Sinn von Selbstsicherheit) von Menschen deutlich kleiner werden lässt.

Anmerkungen

[1] Mit dem Begriff Bewusstsein ist hier und im Folgenden vor allem Bewusstsein haben gemeint, also sich seiner selbst bewusst sein. Für die im Text vorkommenden Thesen ist eine weitere Differenzierung zunächst nicht nötig, könnte aber ergänzend vorgenommen werden.

[2] Der Stoff, aus dem künstliche Figuren gemacht sind, ist in Literatur und Fiktion keineswegs trivial. Während Golem, eine Kunstfigur aus der jüdischen Tradition, ein „menschenähnliches Geschöpf“ ist, das aus Lehm, also Erde und Wasser geformt wurde (Schlich 1998: S. 543 f.), wurde der Paracelsische Homunkulus aus „viel hundert Stoffen – Durch Mischung – denn auf Mischung kommt es an, […]“, unter anderem aus Sperma und Pferdemist, geschaffen, wie Goethe 1828 in Faust. Der Tragödie zweiter Teil (Zweiter Akt, Laboratorium) dichtete.

Literatur

Anders, Günther (1968). Die Antiquiertheit des Menschen. Über die Seele im Zeitalter der zweiten

industriellen Revolution. München: Beck.

Čapek, Karel (1921a). R. U. R. (Rossum‘s Universal Robots). Prag: Aventinum. Ins Engl. übersetzt von Claudia Novack, mit einer Einleitung von Ivan Klíma. (2004). New York: Penguin. Als SciFi-Hörspiel mit Hans Peter Hallwachs, Susanne Uhlen u. v. a. (1978). Bayerischer Rundfunk: München. (2005). Der Audio Verlag.

Goethe, Johann Wolfgang (1828). Goethes Werke. Faust. Der Tragödie Zweiter Teil. Stuttgart/ Tübingen: Cotta. Zitiert nach Ausgabe (2001). Stuttgart: Reclam.

Mori, Masahiro (1970): The Uncanny Valley. Energy, 7: 4, S. 33–35.

Nagel, Thomas (2016): What Is It Like to Be a Bat? Stuttgart: Reclam.

Schlich, Thomas (1998). Vom Golem zum Roboter. Der Traum vom künstlichen Menschen. In R. van Dülmen (Hrsg.), Erfindung des Menschen – Schöpfungsträume und Körperbilder 1500–2000 (S. 542–557). Wien (u. a.): Böhlau.

Van Dülmen, R. (Hrsg.). (1998). Erfindung des Menschen – Schöpfungsträume und Körperbilder 1500–2000. Wien (u. a.): Böhlau.

HIERZU PASSEND: Wie stehen Sie zu Service-Robotern?

Leonie Seng

Bachelor-Studium "Philosophie, Neurowissenschaften und Kognition" in Magdeburg. Master-Studium "Philosophie" und "Ethik der Textkulturen" in Erlangen. Freie Kultur- und Wissenschaftsjournalistin: Hörfunk, Print, Online. Wissenschaftliche Mitarbeiterin, Abteilung Philosophie, Fachbereich Medienethik an der Pädagogischen Hochschule Ludwigsburg.

10 Kommentare

  1. Ja, der Bewusstseinfetischismus vieler Geisteswissenschaftler dient dazu ihr durch die Moderne verletztes Selbstbewusstsein zu stabilisieren.

  2. Bei der zeit.de findet sich aktuell diese Aussage :

    Tieren pauschal kein Bewusstsein zuzusprechen ist daher überholt – auch wissenschaftlich längst.

    Die dezent formuliert problematisch ist.

    A) Sachen verfügen über kein Bewusstsein.

    B) Was heißt ‘überholt’, ist dies ein wissenschaftlicher Ausdruck?

    C) Was heißt an dieser Stelle ‘auch wissenschaftlich längst’?

    MFG
    Dr. Webbaer (der es selten gesehen hat, dass in einem Satz derart viel verhunzt werden konnte)

    • “A) Sachen verfügen über kein Bewusstsein.”
      Sind Tiere für Sie “Sachen”, oder wie soll ich das verstehen?

      “B) Was heißt ‘überholt’, ist dies ein wissenschaftlicher Ausdruck?”
      Nö. Aber erstens auch kein dezidiert unwissenschaftlicher. Und zweitens war die Diskussion auf Zeit Online war keine wissenschaftliche Abhandlung.

      “C) Was heißt an dieser Stelle ‘auch wissenschaftlich längst’?”
      Heißt, dass es mal so war und jetzt nicht mehr so ist.

  3. Menschen, eine Gruppe von Lebewesen auf einem kleinen Planeten eines unbedeutenden Sonnensystems am Rand eines der Spiralarmen der Galaxis, genannt Milchstraße, diskutieren über Bewusstsein.
    Dabei hat keiner der Diskutanten (Ausnahmen bestätigen die Regel), eine Vorstellung von der Unbedeutung dieses Sonnensystems, des Planeten und schon gar nicht der Spezies Mensch.
    Die Diskussion über „Bewusstsein“ setzt voraus, dass sich die Diskutanten über ihre Bedeutung im Universum klar sein sollten, allerdings sehen sich die meisten als „Krone der Schöpfung“ und ignorieren damit ihre eigene Unbedeutenheit im Universum – oder den Universen.
    Ach so, „Schöpfung“ bitte streichen, hier geht es um wissenschaftliche Fakten, nicht Glauben.

    • 1. Zum Verständnis: Mit “Unbedeutung” meinen Sie Bedeutungslosigkeit?
      2. “Die Diskussion über ‘Bewusstsein’ setzt voraus, dass sich die Diskutanten über ihre Bedeutung im Universum klar sein sollten, allerdings sehen sich die meisten als ‘Krone der Schöpfung’ und ignorieren damit ihre eigene Unbedeutenheit im Universum – oder den Universen.”
      Ich wüsste nicht, wieso das eine mit dem anderen zusammenhängen soll. Bei aller Ehrfurcht vor der Weite des Universums und bei allem Bewusstsein über die Bedeutungslosigkeit des Menschen: Warum sollte uns das davon abhalten, über Bewusstsein zu diskutieren?

  4. Falsche Verwendung des Begriffes ´Bewusstsein`- ergibt Unsinn.

    Bei ´Nahtod-Erfahrungen´(NTEs) kann man bewusst erleben, wie das Gehirn einen einzelnen Reiz systematisch/strukturiert verarbeitet. Die Arbeitsweise des Gehirns ist dabei der bewussten Wahrnehmung zugänglich. Auf Grundlage von Strukturen/Inhalten lässt sich Denken/Kreativität als Ergebnis einer Mustervergleichsaktivität mit nur 3 einfachen Regeln beschreiben. (mein Erklärungsmodell PDF is per Google einsehbar [Kinseher NDERF denken_nte])-.

    Wenn wir einen neuen Reiz/Gedanken wahrnehmen – dann RE-AKIVIERT unser Gehirn sofort eine vergleichbare/identische Erfahrung. Eine ´Erfahrung´ ist ein vernetztes Multikomponentensystem (MKS) welches aus a) Faktenwissen, b) Körper-Reaktion, c) Immun-reaktion, d) Sinnesempfindung und e) Emotion besteht. Wird beim Reaktivieren der ganzen Erfahrung bzw. von Teilkomponenten eine Reizschwelle überschritten, dann entsteht eine bewusste Wahrnehmung (ein Bewusstsein). (Je nach dem, wie intensiv Einzelkomponentn sind – kann diese Wahrnehmung eher rational, sinnlich, psychisch oder emotional sein.)

    Das menschliche Bewusstsein ist nur auf Grundlage eines vernetzten MKS definierbar.
    Diesen Begriff ´Bewusstsein´ absichtlich falsch zu verwenden und Computerchips/Robotern ebenfalls ein ´Bewusstsein´ zuzuschreiben ist Unsinn. Computerchips/Robotern fehlen wesentliche Bestandteile des MKS-Bewusstseins. Da Robotern wesentliche Bestandteile fehlen, die für ein MKS-Bewusstsein notwendig sind, kann man menschliches Bewusstsein und Roboterbewusstsein nie miteinander vergleichen. Es reicht nicht, den Begriff ´Bewusstsein´ in falschem Zusammenhang zu verwenden.

    • Das sehe ich anders. Natürlich gehören mehrere Komponenten zum Bewusstsein dazu. Alle im Artikel genannten Beispiele von Bewusstsein bei Robotern beinhalten ebenfalls sämtliche Komponenten menschlichen Bewusstseins. An keiner Stelle im Text “schreibe” ich Robotern Bewusstsein (welcher Art auch immer) zu. Vielmehr bringe ich Beispiele aus Literatur und Film und nenne Studien, die die Angst vor Robotern belegen, wenn sie dieses Bewusstsein HÄTTEN. Bislang, da stimme ich Ihnen zu, gibt es außerhalb der Fiktion keine Roboter mit menschenähnlichem Bewusstsein.

  5. “Die Frage ist natürlich (bewusst! 😉 ) provokativ gestellt und man möchte sofort (ethisch, anthroposophisch usw.) den Selbstzweck des Menschen ins Spiel bringen.”

    Ich vermute mal, es handelt sich bei ” anthroposophisch” um einen Tippfehler, gemeint war also eigentlich “anthropologisch” und Sie wollten nicht die Esoterik Rudolf Steiners ins Spiel bringen, oder etwa doch?

    • Ich habs geändert, danke für den Hinweis! Wobei “anthroposophisch” im Prinzip auch das trifft, was ich meinte — Bedeutet ja die Liebe zum Menschen. Allerdings wollte ich keine explizite Anspielung auf Steiners Theorien machen, da haben Sie Recht.

Schreibe einen Kommentar