Die großen Fragen: Künstliches Bewusstsein oder Aufstand der Maschinen?

Elegant führt der kleine humanoide Roboter die Bewegungen des Tai-Chi aus: Fließend ineinander übergehende Bewegungsabläufe. Einzelformen werden sichtbar. Die Balance ist trotz der Gewichtsverlagerungen und dem häufigen Stehen auf einem Bein nicht gefährdet. Aufgrund der geringen Körpergröße und dem vergleichsweise großen Kopf hat der Roboter die Anmutung eines Kindes im Kindergartenalter. Daher verzeiht man ihm auch sofort vermeintliche Unsicherheiten. Die Nachahmung menschlichen Bewegungsverhaltens wirkt nicht lächerlich sondern niedlich und sympathisch.

Tai-Chi für die Forschung

Der kleine Roboter ist jedoch kein Spielzeug sondern das aufwändig konstruierte Zwischenergebnis eines Forschungsprojektes. Die Entwicklung des iCub findet an sieben europäischen Universitäten statt, die eine Forschungsplattform für Kognition aufbauen.

iCub verfügt über künstliche Sinnesorgane, er kann sehen, hören und fühlen. Er nimmt sein Lage und Bewegung im Raum wahr und verfügt über 53 Gelenke, die komplexe Bewegungsabläufe  ermöglichen. Er lässt sich über Sprache steuern und spricht auch selbst. Menschen können sich mit ihm unterhalten und so herausfinden, was er gerade tut. Vor allem aber kann er lernen und seine Fähigkeiten weiterentwickeln.

Lernen nach dem Vorbild von Säuglingen

Das Lernen des iCub ist vergleichbar mit der instinktiven Vorgehensweise menschlicher Säuglinge. Bewegungen sind zunächst unkoordiniert und zufällig. Aber Bewegungen haben Konsequenzen, die beobachtet werden können. Diese Konsequenzen beobachtet iCub, er passt sein Verhalten daraufhin an und erlernt Schritt für Schritt komplexere Abläufe. Das nimmt viel Zeit in Anspruch, aber auch menschliche Babys lernen robben, krabbeln und laufen erst nach vielen Monaten der Übung und manchen schmerzhaften Erfahrungen.

Bewusstsein

Ist iCub sich seines eigenen Körpers und dessen Rolle in der Welt bewusst? Dann hätte er nach dem Psychologen Ulric Neisser ein „ökologisches Selbst“ ausgebildet, das heißt sich als unterschiedlich vom Rest der Welt erkannt und ein Gefühl für den eigenen Körper entwickelt. Das ist nach Neisser eine Etappe auf dem Weg zum Bewusstsein. Was ihm aber noch fehlt, ist das „konzeptuelle Selbst“, das persönliche Ziele, Motivationen und Überzeugungen umfasst. iCub beherrscht zwar Tai-Chi, aber er hat keine Vorstellung über den Begriff einer inneren Kampfkunst, er führt die Bewegungen nicht zur Entspannung oder zur Meditation aus, er folgt einer Vorgabe, die Menschen vorgezeichnet haben. Dabei interpretiert er die Abläufe, indem er sein selbst erlerntes Verhalten zur stabilen Ausführung von Bewegungen zugrunde legt.

Simulieren des Bewusstseins?

Persönliche Ziele und Überzeugungen ließen sich einem Roboter mithilfe seiner initialen Programmierung mitgeben. Ähnlich wie beim Menschen, dem einige Verhaltensweise angeboren sind, wie die Reaktion auf Schmerz zum Selbstschutz – oder anerzogen werden, wie beispielsweise der soziale Umgang miteinander, können wir dem Verhalten von Robotern und Computersystemen Leitplanken zuweisen, die eine übergeordnete Motivation hinter dem konkreten Lernerfolg walten lassen. So lassen sich Tatendrang (möglichst viel ausprobieren!), Wissbegier (möglichst viel lernen!) oder Selbstschutz (Gefahren meiden!) in die Grundkonfiguration einer Maschine übernehmen, ohne dass diese eine der Maximen auch in sich „spürt“.

Kommt dann noch eine künstliche Intelligenz hinzu, die ein Einfühlen in andere künstliche oder biologische Wesen erlaubt und das Verständnis eines zeitlichen Verlaufs eigener Aktivitäten und ihrer Konsequenzen (was habe ich, was haben andere in der Vergangenheit getan? – was könnte ich tun, damit sich zukünftig etwas ändert?) realisiert, dann kommt die Maschine bereits einigen Definitionsversuchen von „Bewusstsein“ sehr nahe. Schließlich könnte die Maschine noch ihre Grundüberzeugungen reflektieren und deren Ausprägung als Lernprozess auffassen: Das Ergebnis wäre dann eine künstliche Entität, die ihre Rolle in einer soziotechnischen Gesellschaft sucht und möglicherweise neu definiert.

Rise of the Machines

Roboter, die sich ihrer selbst bewusst sind und eine selbst gewählte Rolle in ihrer Umwelt einnehmen, machen vielen Menschen Angst. Das Motiv findet sich in Science-Fiction-Romanen: Der Aufstand der Maschinen. Künstliche Wesen entmachten den Menschen, führen eine eigene Ordnung auf dem Planeten ein, die menschliche Interessen zurückdrängt. Dies könnte einmal revolutionär  geschehen, wenn eine große Zahl hoch entwickelter Roboter gleichzeitig agiert und in einer gemeinsamen Aktion die Kontrolle über die technische Infrastruktur übernimmt. Oder der Prozess verläuft schleichend über die Verdrängung des Menschen aus der Arbeitswelt, seine Überwachung in den eigenen vier Wänden mithilfe persönlicher Assistenten, die so putzig aussehen wie iCup, und deren Vorboten Staubsaugerroboter, Alexa und Smartphones sind. Nachrichten, die bereits heute schon algorithmisch kuratiert werden, könnten so geschickt manipuliert werden, dass die Menschen freiwillig die Steuerung der Gesellschaft an künstliche Intelligenzen abgeben.

Dystopie oder Hoffnung?

Wäre denn ein Maschinenaufstand so schlimm? Es muss keine Dystopie sein. Herausforderungen wie Klimawandel, Ernährung in Entwicklungsregionen, globale Umweltverschmutzung oder kriegerische Konflikte können von kooperierenden Maschinen vielleicht besser gelöst werden als von mit Menschen besetzten Gremien, die sich oft als ineffizient erwiesen haben.

Aber halt! So weit sind wir noch nicht. Weder wissen wir so richtig, was das Bewusstsein beim Menschen ausmacht, noch können wir dieses in wesentlichen bisher vorgebrachten Aspekten im Computer realisieren oder simulieren.

Und sollte es einmal soweit sein, dass ein Computer gebaut wird, der ein Bewusstsein aufweist und mit anderen Computern interagiert, können wir immer noch einen Ausschaltmechanismus für alle Roboter vorsehen. Vielleicht per Funk aktivierbar, um den Maschinenaufstand global zu beenden. Was könnte dabei schon schiefgehen?!

”The purpose of computing is insight, not numbers.” (Richard Hamming) Ulrich Greveler studierte in Gießen Mathematik und Informatik, arbeitete sechs Jahre in der Industrie im In- und Ausland, bevor er als Wissenschaftler an die Ruhr-Universität nach Bochum wechselte. Seit 2006 lehrt er Informatik mit dem Schwerpunkt IT-Sicherheit an der Fachhochschule Münster (bis 03/2012) und der Hochschule Rhein-Waal (seit 03/2012). Sein besonderes Interesse gilt datenschutzfördernden Technologien und dem Spannungsverhältnis zwischen Privatsphäre und digitaler Vernetzung.

9 Kommentare Schreibe einen Kommentar

  1. War das im Absatz mit der Überschrift Dystopie oder Hoffnung? Gemeinte nun zynisch, ironisch oder bösartig gemeint?

    Letzte Absätze von Texten haben oft einen fazitären Charakter.

    Schwierig, auch hier – ‘Persönliche Ziele und Überzeugungen ließen sich einem Roboter mithilfe seiner initialen Programmierung mitgeben.’ – wird Dr. Webbaer nicht umfänglich
    happy.

    Eine derart naive Sicht auf die Implementation von maschineller Verständigkeit, vgl. eben auch mit diesem Jokus – ‘Und sollte es einmal soweit sein, dass ein Computer gebaut wird, der ein Bewusstsein aufweist und mit anderen Computern interagiert, können wir immer noch einen Ausschaltmechanismus für alle Roboter vorsehen.’ – hätte Dr. W dem hiesigen werten Inhaltegeber nicht zugetraut.

    Also, es war Ironie. – Nice1!

    Tja, der maschinellen Intelligenz kann menschlicherseits nur unzureichende Verständigkeit mitgegeben werden, was u.a. daran liegt, dass der Mensch sich selbst nicht versteht, sondern als Produkt der “CPU” Welt oder Erde zu gelten hat und insofern erst nach langwierigem Gebrauch diesbezüglicher “CPU-Zeit” entstanden ist.

    Der Freund Computer hat insofern noch einiges nachzuholen.
    Es sei denn, es sei denn, er wird als vermampfend, alles vermampfend angelegt, “Grey Goose” und so, gerne auch ein paar Etappen weiter oben gedacht.

    MFG
    Dr. Webbaer

  2. Roboter werden heute von Menschen für Menschen gebaut. Verschiedene Menschen haben aber ganz unterschiedliche Interessen. Die einen wollen die Produktion von Gütern und Dienstleistungen damit optimieren, die andern wollen sie als Waffen einsetzen und wieder andere wollen mit Robotern die Welt besser überwachen. Ein Machtgleichgewicht könnte sich einstellen, wenn es später einmal analog zum PC Personal Robots gibt und wenn diese Personal Robots eine ähnliche Leistungsfähigkeit an den Tag legen wie die industriell eingesetzten Roboter. Was mit den Robotern geschieht und was sie mit uns machen ist nicht zuletzt eine Machtfrage. Und damit sind wir ja vertraut – die Menschheitsgeschichte kann als Geschichte der Macht gelesen werden.

  3. Zitat:

    Wäre denn ein Maschinenaufstand so schlimm?

    Doch, der wäre schlimm. Genauso schlimm wie der Sturz der Adligen in die Bedeutungslosigkeit war: Plötzlich entschied nicht mehr der Adel, sondern es entschieden Repräsentanten der Bevölkerung und der Adel wurde zudem von seinen Erwerbsquellen abgeschnitten und verarmte. Wenn das Analoge sämtlichen Menschen passiert, dann ist das schlimm für sämtliche Menschen. Im Spektrum der Wissenschaft von September oder Oktober 2017 gibt es eine Kurzgeschichte in der eine Welt vorgestellt wird, in der die Maschinen die Macht übernommen haben und Menschen nur noch für niedrige Arbeiten eingesetzt werden, denn sie reproduzieren sich so billig und sind somit in der Herstellung wesentlich günstiger als Roboter. Menschengesetze sind in dieser Zukunft durch Maschinengesetze ersetzt worden und diese Maschinengesetze schützen die Maschinen ähnlich wie die Asimov’schen Robotergesetze den Menschen hätten schützen sollen.

    • War natürlich “Bull” :

      Wäre denn ein Maschinenaufstand so schlimm?

      Der Schreiber dieser Zeilen hat messerscharf geschlossen, dass Herr Greveler hier, also im letzten Absatz seiner Nachricht, ironisch-zynisch geworden ist und es gegensätzlich meinte.
      Sollte dieser Schluss nicht zutreffend sein, hätte er es entscheidend verbockt.

      MFG
      Dr. Webbaer

  4. “Wäre denn ein Maschinenaufstand so schlimm? Es muss keine Dystopie sein. Herausforderungen wie Klimawandel, Ernährung in Entwicklungsregionen, globale Umweltverschmutzung oder kriegerische Konflikte können von kooperierenden Maschinen vielleicht besser gelöst werden als von mit Menschen besetzten Gremien, die sich oft als ineffizient erwiesen haben.”

    Kooperierende Maschinen werden erkennen, dass die großen Probleme (Umweltverschmutzung, Ressourcenverschwendung, kriegerische Konflikte,) sich am effizientisten ganz ohne den Aufenthalt von homo sapiens auf Erden werden lösen lassen, dessen Wirken in summa wohl als schädlicher denn als nützlicher bilanziert werden dürfte.

    • “Die Erde wäre ohne uns Menschen besser dran!” war immer schon ein anti-humanistischer Spruch von Ökologisten, die sich so aber auch entscheidend offenbart haben.

      • Was an einem futuristischen Szenario, in dem eine intelligente Maschinenwelt den Menschen als eine ihrem, dem (Maschinen -) Fortschritt im Wege stehenden Unterspezies identifiziert hat und deshalb den Beschluss fasst, diesen auszuschalten, nicht dystopisch sein könnte, erschließt sich mir nicht.

        Den Schlusssatz des Autors “Was könnte dabei schon schiefgehen?!” kann man nur als ironisch gemeint interpretieren, eine andere Schlussfolgerung lassen die “?!” einfach nicht zu.

        • @ sherfolder :

          Den Schlusssatz des Autors “Was könnte dabei schon schiefgehen?!” kann man nur als ironisch gemeint interpretieren, eine andere Schlussfolgerung lassen die “?!” einfach nicht zu.

          Beachten Sie gerne den Gesamt-Inhalt der hiesigen Nachricht, Dr. W ist schon lange im Geschäft und geht demzufolge anders aus.
          Sicherlich ist sich hier bemüht worden möglicher sittlicher Niedrigkeit das Beste abzugewinnen, abär es sieht schon mau aus, Bonmot : Wer “froschig” guckt (und schreibt) , ist oft auch “froschig”.
          MFG + schönes Wochenende,
          Dr. Webbaer

  5. Haben wir erst einmal das Bewusstsein ad absurdum geführt, hat sich auch die Frage nach dem Sinn des Lebens erledigt, ist der Mensch bereit für den Chip unter die Haut, der ihn (bestimmte!) nun auch von den systematisch-störenden Gefühlen und Begehrlichkeiten trennt!? 😒

Schreibe einen Kommentar




Bitte ausrechnen und die Zahl (Ziffern) eingeben