Buchrezension: All Systems Red

Der Science Fiction „All Systems Red“ der amerikanischen Autorin Martha Wells erzählt seine Geschichte aus der Sicht eines Androiden. Ein solcher Kunstgriff bietet die Möglichkeit, die menschliche Gesellschaft sozusagen von außen zu beschreiben und damit ihre Schwächen und Widersprüche offenzulegen. In diesem Buch liegt der Schwerpunkt aber anders: Die Autorin versucht, das bemerkenswert komplexe Innenleben einer intelligenten, menschenähnlichen Maschine auszuloten.

Der Plot ist schnell erzählt: Eine Gruppe von Wissenschaftlern möchte einen fremden Planeten erkunden. Die Menschheit hat sich in der Galaxis ausgebreitet, und solche Expeditionen sind reine Routine. Eine nicht näher bezeichneter Konzern („The Company“) vergibt die Rechte für solche Unternehmungen, verleiht die Ausrüstung und besteht darauf, dass mindestens einer ihrer Androiden als Wächter angeheuert wird. Die Androiden sind Eigentum der Firma. Bei der Expedition häufen sich plötzlich unerklärliche Vorfälle. Einer der Teilnehmer wird von einem Raubtier angegriffen, dass es eigentlich nicht geben sollte. Die Karten weisen unerklärliche Lücken auf. Die Verbindung zu einer weiteren Expedition reißt plötzlich ab. Irgendjemand sabotiert offenbar die Expeditionen, und bringt dabei die Menschen in Lebensgefahr …

Der Wächter-Androide schildert die Vorkommnisse als Ich-Erzähler. Er hat sein Überwachungsmodul gehackt, mit die Company seine Handlungen kontrolliert und ist jetzt frei. Seine neu gewonnenen Unabhängigkeit nutzt er direkt aus, um aus dem Unterhaltungsangebot 35000 Stunden Musik, Filme, Bücher und Schauspiele herunterzuladen. Er braucht etwas Ablenkung, denn sein Job ist, zu Beginn wenigstens, eher langweilig.

Die acht Expeditionsmitglieder verstehen sich gut und die Umgebung ist als ungefährlich eingestuft. Der Androide (im Englischen immer als „es“ bezeichnet) verbringt deshalb viel Zeit in seinem Rückzugsbereich. Er verträgt die direkte Anwesenheit von Menschen nicht besonders gut, soziale Kommunikation ist ihm ein Gräuel. Er fühlt sich nicht als Mensch, sondern eher als Teil des Inventars. Obwohl er zum Teil aus organischen Komponenten besteht, wurde er gebaut, nicht geboren. Als er einem Crewmitglied das Leben rettet, bieten ihm die übrigen großzügig an, seine Zeit im Aufenthaltsbereich der Menschen zu verbringen. Aufrichtig entsetzt lehnt er ab.

Trotzdem mag er Menschen, und ist bereit, seine Existenz für die Mitglieder der Expedition zu opfern. Ob er aus Sympathie, aus Pflichtgefühl, oder zur Sühne einer alten Schuld handelt, bleibt offen. Die Autorin hat die Größe, ihrer komplexen Figur eine gewisse Privatsphäre zu lassen, und verzichtet auf billige Küchenpsychologie.

Auch wenn der Roman in einer fernen Zukunft spielt, behandelt er doch wichtige Fragen der Gegenwart. In den Labors der Softwaregiganten entstehen immer bessere KI-Systeme. Bald werden sie sich vermutlich mit einem Menschen in normaler Sprache unterhalten, ohne dass er einen Unterschied bemerkt. Das Human Brain Project möchte ein vollständiges erwachsenes menschliches Gehirn im Computer simulieren. Aber müsste sich dieses Gehirn dann nicht wie ein Mensch fühlen? Würde es den Unterschied bemerken? Müsste man nicht komplexen künstlichen Intelligenzen oder Robotern die gleichen Rechte wie Menschen einräumen? Sie sind schließlich denkende Wesen mit eigenen Gefühlen. Warum kann ich da so sicher sein? Ohne Gefühle gibt es keinen Handlungsantrieb. Ein intelligenter Roboter muss nicht nur denken, er muss auch einen Grund haben, sich überhaupt zu bewegen. Und wenn er über bloße Reaktionen hinaus von sich aus aktiv werden soll, muss er ein Gefühlsleben haben, also ein Modul, das aus Gedächtnis und aktueller Wahrnehmung Handlungsoptionen destilliert, bewertet und anstößt.

Die Autorin stellt hier ganz offen die ethische Frage, ob der Besitz von solchen Systemen nicht moderne Sklaverei wäre. Die Company vergibt an die Androiden keine Namen, weil ihnen keine Individualität zusteht. Sie sind eine Sache, eine „SecUnit (Security Unit)“, kein Lebewesen, sondern Teil der Expeditionsausrüstung. Das Überwachungsmodul kann den Androiden außerdem zwingen, Dinge zu tun, die er eigentlich ablehnt. Was ist wohl die schlimmste denkbare Form der Unfreiheit. Deshalb hat er es gehackt – eine sehr ungewöhnliche Tat, wie er betont. Und er fragt sich, ob es noch andere seiner Art gibt.

Die Menschen behandeln die Androiden bestenfalls mit Herablassung. Selbst die äußerst freundlich gezeichneten Crewmitglieder merken nicht, wie gönnerhaft das Angebot wirkt, sich zwischen ihnen aufzuhalten. Einen Moment lang fühlt man sich an die USA vor fünfzig Jahren erinnert, als es Schwarzen nur ausnahmsweise und ehrenhalber erlaubt war, sich unter Weiße mischen.

Die Handlung des Buchs bleibt bis zum Schluss spannend, obwohl es eigentlich eine sehr konventionelle Abenteuergeschichte ist. Der Gegner, der die Expedition sabotieren will, kann mit viel Mühe gestellt und besiegt werden, wobei etwas unklar bleibt, was er eigentlich genau auf dem Planeten sucht. Auch die alles beherrschende „Company“ bleibt ein nebelhaftes Gebilde. Aber vielleicht wird das später noch klarer. Das Buch als erster Band einer ganzen Reihe angelegt („The Murderbot Diaries“).

„All Systems Red“ ist in jedem Fall ein äußerst gelungener Einstieg.

Buchdaten:

Martha Wells: All Systems Red. The Murderbot Diaries. 149 S. Verlag Tor.com, 2017

Das Buch ist bisher nur im englischen Original verfügbar.

Veröffentlicht von

www.thomasgrueter.de

Thomas Grüter ist Arzt, Wissenschaftler und Wissenschaftsautor. Er lebt und arbeitet in Münster.

27 Kommentare Schreibe einen Kommentar

  1. Zitat

    “das bemerkenswert komplexe Innenleben einer intelligenten, menschenähnlichen Maschine”

    kann ein völlig anderes sein als das eines Menschen. Androide, die äusserlich und vom Verhalten her menschlich erscheinen können ein Innenleben besitzen, das jeden Grausen liesse, der es kennte. Solche menschähnliche Maschinen können deshalb auch sehr gefährlich für ihre menschlichen Gefährten und die menschliche Gesellschaft werden – gefährlicher noch als Menschen, von denen bekanntlich einige zu grausamen und irrationalen Taten in der Lage sind. Dennoch ist die Zahl der Suizidattentäter beispielsweise gesehen auf eine Population von 1 Million Menschen erstaunlich gering – wohl weil Menschen letztlich so gebaut sind, dass solche Taten einiges an Überwindung brauchen – und das trotz der Freiheit die jeder besitzt.
    Deshalb finde ich es wahrscheinlich, dass genügend intelligente und menschenähnliche Androide später einmal zertifiziert werden müssen. Dennoch wird es einige geniale Tüftler geben, die ihre eigenen illegalten Geschöpfe in die freie Wildbahn entlassen werden – mit potenziell grossen Gefahren für viele. Man kann sich in diesem Zusammenhang eine neue Berufsgattung vorstellen ähnlich dem Aufspürer von Androiden in “Blade Runner”, Detektive also, die illegale Humanoide aufspüren und zur Strecke bringen.
    Die oben gestellte ethische Frage (Zitat)

    “, ob der Besitz von solchen Systemen nicht moderne Sklaverei wäre”

    scheint mir dagegen eine zweitrangige – eine Frage zudem, die die Menschheit nur stellen kann, wenn sie die erste Welle von “wild”programmierten Humanoiden überhaupt überlebt.

    • Ein wichtiger Unterschied zwischen Menschen und Androiden ist die Fähigkeit, ohne weitere Unterstützung zu überleben. Lebewesen vermehren sich, Maschinen fehlt diese Fähigkeit. Sie brauchen eine Energieversorgung, sie brauchen Ersatzteile. Wenn ich 100 Menschen in einem einigermaßen lebensfreundlichen Gebiet aussetze, werden sie sich wahrscheinlich vermehren. Maschinen dagegen werden unweigerlich aussterben. Sie brauchen einen gigantische Infrastruktur von Bergwerken für Metalle und seltene Erden, von Fabriken und von Transportsystemen. Das limitiert auch ihre Gefährlichkeit. Auf sich gestellt, auch in einer Gruppe von 100 Maschinen und mehr, überstehen sie kaum die nächsten 10 oder 20 Jahre. Eine Vermehrung oder gar eine Vernichtung der Menschheit ist fast ausgeschlossen. Deshalb habe ich auch nur geringe Sorgen, dass KI-Systeme einst die Welt übernehmen könnten.

      • Ja, da stimme ich ihnen zu. Damit Maschinen die Herrschaft übernehmen können müssen sie tatsächlich recht viel können – unter anderem ihresgleichen zusammensetzen und die nötigen Rohstoffströme kontrollieren.
        Aus heutiger Sicht sind wir sogar von menschenähnlichen Robotern noch weit entfernt. Die spektakulären Leistungen des neuesten Hypes – deep Learning/deep neuronal nets -, werden von Leuten, die den Hintergrund zuwenig genau kennen, massiv überschätzt. Wer aber weiss, wie einfach heutige Deep-Learning-Systeme sich täuschen lassen und bei einfachsten Variationen der Problemstellung versagen, der weiss auch, dass wir heute nicht einmal wissen, in welche Richtung wir forschen müssen, um echte Maschinenintelligenz zu erreichen. Allerdings kann es dann, wenn Roboter echte Intentionen und ein Bewusstsein ihrer Welt entwickeln, sehr schnell gehen – gerade weil ihnen die biologischen Beschränkungen fehlen. Ein Roboter, der weiss wie er funktioniert, kann einen besseren Roboter bauen genauso wie wir heute schnellere, leistungsfähigere Computer bauen können. In der Biologie ist so etwas – bis jetzt – nicht möglich. Deshalb könnte es durchaus sein, dass die Menschheit den kritischen Punkt ab dem Computerintelligenz menschliche übersteigt, verpasst.

        • Ein Roboter, der weiss wie er funktioniert, kann einen besseren Roboter bauen genauso wie wir heute schnellere, leistungsfähigere Computer bauen können.

          Das liest man oft, aber ich halte das für falsch. Die Frage ist: Kann ein Roboter überhaupt vollständig wissen, wie er funktioniert? Dazu müsste er ein Modell von sich selbst konstruieren und dieses Modell mit seiner Recheneinheit überprüfen – einschließlich eines Modells eben dieser Recheneinheit. Könnte er die Richtigkeit des Modells beweisen? Was, wenn seine Recheneinheit irgendwo einen Fehler hat? Und selbst wenn nicht, kämen wir dann nicht in den Bereich von Gödels Theorem, nachdem kein System von Axiomen seine eigene Widerspruchsfreiheit beweisen kann? Selbst wenn der Roboter die korrekte Funktion seiner einzelnen Teile prüfen kann, wüsste er aber immer noch nicht, ob sie auch richtig zusammenarbeiten. Wenn er einen Roboter+ entwickeln soll, der komplexer ist als er selbst, wird er nie beweisen können, dass R+ richtig (oder überhaupt) funktioniert. Genauso wenig können Menschen wissen, ob eine KI, die komplexer ist als ein menschliches Gehirn, korrekt funktioniert.

          • Klar, es braucht mehr als das Wissen um die konkreten Dinge, die Einzelteile, aus der eine Maschine besteht, damit diese sich selber und verbesserte Versionen von sich herstellen kann. Es braucht das gleiche Wissen, das heute ein versierter Ingenieur oder besser noch eine ganze Berufsschaft von Ingenieuren besitzt.
            Wie gesagt sind wir davon noch weit entfernt. Wenn aber eine Maschine einmal über die gleichen kognitiven Fähigkeiten wie ein Mensch verfügt, dann ist sehr vieles möglich – gerade weil die biologischen Beschränkungen wegfallen.

    • Dennoch ist die Zahl der Suizidattentäter beispielsweise gesehen auf eine Population von 1 Million Menschen erstaunlich gering

      Das ist nicht erstaunlich. Es bringt evolutionär einfach kaum Vorteile sich selbst zu töten. Daher bleibt es die Ausnahme.

      Androide, die äusserlich und vom Verhalten her menschlich erscheinen können ein Innenleben besitzen, das jeden Grausen liesse, der es kennte.

      Sie können ein solch gräusliches Innenleben haben, aber sie müssen nicht. Sie scheinen automatisch vom schlimmst möglichen Fall auszugehen. Es tritt fast nie das worst / best case Szenario ein, sondern immer irgendwas dazwischen.

      Und selbtst im worst case ist kaum anzunehmen, das die bösen Androiden eine Gefahr für die Menschheit als Ganzes sind. Dafür fehlt ihnen einfach die Infrastruktur.

  2. Zitat:

    Die Menschen behandeln die Androiden bestenfalls mit Herablassung.

    Humanoide, die die gleichen Arbeiten verrichten können wie Menschen und die sich zudem jeder wohlhabende Bürger leisten kann, werden wohl zuerst ähnlich behandelt werden, wie früher Diener/Hausangestellte wie sie es bei den Bürgern der Wohlhabenderen im 18. und 19. Jahrhhundert gab. Wie sie behandelt werden hing dazumal vom Besitzer ab und das wird wiederum so sein – nur diesmal mit Androiden anstelle der Diener. Und wie schon die früheren Diener wird es ein grosses Spektrum geben von Lebensbedingungen unter denen diese Diener existieren werden, vom Faktotum für alles inklusive Sex bis zum “Möbel”, das man wie einen Staubsauger abends wegschliesst. Da die neuen Diener jedoch elektronisch sind und sich untereinander über das Internet oder auch anderswie austauschen können, wird dennoch ein neues Element hinzukommen. Zukünftige humanoide Roboter werden zu sehr viel mehr in der Lage sein als die früheren Diener, möglicherweise sogar zu mehr als ihre Herren.

  3. M.Holzherr,
    Androide,
    schon der Name suggeriert, dass hier menschenähnliche Wesen aktiv sind.
    KI und Computer sind immer nur so gut wie das Programm. Das ist von Menschen geschrieben, und darum ist ein Android eine Maschine und bleibt es. Vorallem fehlt dem Androiden das Seelenleben. Das lässt sich zwar auch emulieren, aber es bleibt eben “programmgesteuert”.
    Beim menschlichen Seelenleben kann man nicht voraussagen, was passieren wird. Die “Unbestimmtheit” ist es, was den Menschen ausmacht.

    • @R (Zitat):

      KI und Computer sind immer nur so gut wie das Programm.

      Klar, aber auch der Mensch ist nur so gut wie sein biologisches Programm zulässt. Tatsächlich glaube ich – und glaubt ja auch die Autorin des oben besprochenen Buchs – dass eine menschenähnliche Maschine auch ein Seelenleben besitzen muss, wenn dieses Seelenleben auch nicht unserem Seelenleben entsprechen wird. Häufig verbreitet ist ja die Meinung alle intelligenten Wesen müssten zwangsläufig ähnliche Überlegungen – auch ethische – anstellen wie wir es tun. Da bin ich völlig anderer Ansicht. Wenn die Evolution auch nur einen wenig anderen Weg beschritten hätte, wenn wir beispielsweise die Nachfahren von Neandertalen wären, dann wären auch unsere Wertvorstellen und die Dinge mit denen wir uns vor allem beschäftigen ganz andere.

  4. MH,
    biologisches Programm,
    sieht das auch den Selbstmord vor?
    Seelische Vorgänge sind viel zu komplex, als dass sie durch eine biologisches Programm (DNA) gesteuert werden könnten. Sonst müssten ja eineiige Zwillinge auch seelisch gleich sein.

    • R (Zitat):

      Seelische Vorgänge sind viel zu komplex, als dass sie durch eine biologisches Programm (DNA) gesteuert werden könnten.

      Komplexe Lernprozesse werden von einem sehr allgemeinen Programm und der Umwelt gesteuert. Das ist nicht nur in der Biologie so, sondern auch bei der künstlichen Intelligenz. Das Fachgebiet “Maschinelles Lernen” befasst sich seit Jahrzehnten damit und Artificial General Intelligence (Zitat) will Maschinen eine Intelligenz verleihen, die jede intellektuelle Aufgabe erfolgreich erfüllen kann, die ein Mensch kann.

  5. Zu:
    “…Bei allen drei Beispielen fällt aber auf: Sie entsprechen keiner gängigen Verschwörungstheorie. Niemand hat sich im Internet die Finger wund geschrieben, um nachzuweisen, dass der VW-Konzern die Diesel-Abgasprüfung austrickst. Niemand hat gesagt: „Das ist genau das, was ich seit Jahren behaupte!“
    Tatsächlich stellt sich kaum eine Verschwörungstheorie hinterher als wahr heraus. Sie entsteht aus dem Misstrauen gegen andere Gruppen und weist folgende Besonderheiten auf:…………” (Zitatende)

    1.Der Autor stellt sebst die ultimative Verschwörungstheorie auf. Nämlich indem er behauptet, dasss alle V- Theorien deshalb falsch seien MÜSSEN, weil über wirkliche/tatsächliche Verschwörungen ja vor deren Aufdeckung KEINE V- Theorien aufgestellt worden wären bzw. aufgestellt würden!

    In seinen 5 Punkten versucht er (manipulativ weil unbewiesen), zu suggerieren :

    1. Dass jede V- Theorie, die “Opferrollen” enthält, (deswegen) falsch sein müsse.

    2. Dass alle Theorien, in denen von geheimen Operationen, vielen Beteiligten, Vertuschung und Pressekomplotten die Rede ist, völlig falsche (Verschwörungs-)
    Theorien seien.

    3. Dass die Benennung der Gegener als sehr mächtige Gruppe, die aus Eigeninteresee anderen schaden wolle, der Beweis für die Falschheit der Theorie sei und man deshalb von einer gfährlichen V- Theorie reden müsse.

    4. Dass (angebliche) Dämonisierung und (angebliche) Überhäufung mit Negativattributen ein Beweis für (falsche) V-Theoriebildung sei.

    5. Dass Theorien über die Möglichkeit von unethischen Handlungsmotiven von mächtigen Teilgruppen der Gesellschaft falsch sein müssten, vor allem wenn diese “Empörung auslösen”

    Fazit:
    Ein typisscher Agit- Prop- Artikel. Wegen der Fadenscheinigkeit der Argumente später wird versucht, zu Beginn mit etwas tatsächlich Kritikwürdigem Vertrauen zu gewinnen.
    Der späteren Skepsis des Lesers versucht man (fast schon wie üblich), damit entgegezuwirken , dass man suggeriert –
    – dass die Existenz von tatsächlich falschen bzw. erfundenen V- Teorien (Waise von Zion) die Falscheit ALLER Verschwörungstheorien tatsächlich BEWEISE.Obwohl er oben weiter zugibt ,dass es tatsächlich (reale) Verschwörungen zu ungunsten von Bevölkerungsteilen gibt.
    Der propagandistische unerfahrene Kritiker schweigt lieber, als dass er sich dem Vorwurf des Antisemitismus aussetzt. Und vergisst auch ganz schnell die vielen Selbstwidersprüche des Textes bzw. der vorgetäuscht schlüssigen “Argumentation”.

    • Mein Kommentar oben von 16:56 am 2. 10. 2017 wurde unter dem falschen Artikel gepostet . Erscheinen sollte er beim Artikel:
      “Verschwörungstheorien. Der fundamentale Atributionsfehler.”

    • ich habe den Eindruck, Sie haben hier einiges falsch verstanden. Verschwörungstheorien speisen sich aus dem Misstrauen gegen andere, als feindlich angesehene Gruppen. Sie deswegen aber nicht falsch. Richtig sind sie allerdings auch nicht unbedingt, sie haben einfach keinen Bezug zur Wirklichkeit. Wenn sie richtig sind, wäre das Zufall. Aber noch einmal ganz deutlich: die Entstehung von Verschwörungstheorien sagt nichts darüber aus, ob sie richtig sind. Ich behaupte also keineswegs, dass eine Verschwörungstheorie falsch ist, weil sie lediglich auf Misstrauen beruht.
      Ich behaupte auch nicht, dass “Theorien über unethische Handlungsmotive von mächtigen Teilgruppen der Gesellschaft” falsch sind. Die Annahme von unethischen Handldungsmotiven ist keine Verschwörungstheorie. Und wie ich sehr deutlich ausgeführt habe, kommen Verschwörungen immer und überall vor. Sie sehen nur nicht so aus, wie die Verschwörungstheorien annehmen. Verschwörungstheorien sind wirklichkeitsfrei. Sie verbreiten sich (oder eben nicht) immer dann, wenn sie das Misstrauen größerer Bevölkerungsgruppen bedienen, ganz gleich, ob sie falsch oder richtig sind.
      Übrigens: “Agit-Prop” habe ich ewig nicht mehr gehört. Es stammt aus der UdSSR der zwanziger Jahren und steht für Agitation und Propaganda. Nur zur Erklärung für die jüngeren Leser, die damit vermutlich nicht viel anfangen können.

  6. “Der Plot…”

    “Alien” läßt grüßen.

    “Herablassung”

    “Star Trek, das nächste Jahrhundert” scheint mir da realistischer. Dort gibt es Unklarheiten, wie die Lebensform des Androiden “Data” einzustufen ist (z.B.juristisch), einen regelrechten “Rassismus” aber gibt es nicht. Ich glaub auch nicht, daß Gesellschaften, die einen so starken Hang zur Diskriminierung haben, in der Lage sein werden, eine so weitgehende KI zu erfinden und zu erhalten.
    Der auch heute wieder zunehmende Hang zu Diskriminierungen, der nicht nur von rechts kommt und die technischen Fähigkeiten bislang noch nicht tangiert, ist da wenig aussagekräftig, weil die heutigen technischen Fähigkeiten noch auf Zeiten zurückgehen, in denen man sich zumindest noch deutlich mehr Mühe gab, die soziale Intelligenz nicht völlig verfallen zu lassen.

    Mit der aktuellen Tendenz, sollte sie sich fortsetzen, ist an die Höherentwicklung von KI jedoch nicht zu denken, ein schwerer Zusammenbruch der technischen Fähigkeiten ist dann unausweichlich und die genannten Fragen stellen sich nicht mehr.

    • Nein, Roboter als untergeordnete Wesen zu behandeln ist aus menschlicher Sicht sehr natürlich
      1) weil wir sie herstellen und dazu nichts anderes als unser Wissen und unsere Industrie verwenden, wir also ihre Schöpfer sind.
      2) weil wir Roboter als Arbeitshilfen erdacht haben, nicht als Partner und sicher nicht als Konkurrenten
      3) weil Roboter nicht von unserer Art sind – ausser wir hätten sie bereits als elektronische Replika unser selbst erdacht.

      Wenn die Star-Trek Mannschaft auf ihren Reisen fremden Androiden mit mehr Respekt begegnen ist auch das natürlich. Fremde Intelligenzen sind anders einzustufen als Selbstgeschaffene.
      Aus menschlicher Sicht wäre es überhaupt das Vernünftigste und am wenigsten Riskante, wenn Roboter von anfang an als intelligente Maschinen und nicht als Mensch 2.0 konstruiert wären.
      Noch zu ihrer Einschätzung unsere heutige Gesellschaft sei sehr diskriminierend. Nun, bei genauerer Betrachtung sind Diskriminierungen und auch Rassismus der Normalfall und heute sind wir in Europa und den USA diesbezüglich auf einem weit niedrigeren Niveau als noch vor Kurzem. Im Vorkriegsdeutschland beispielsweise gab es nicht nur Rassismus, Ängste und Verschwörungstheorien gegenüber Juden, sondern alle Slaven und “Ost”menschen wurden als Untermenschen gesehen und behandelt und das nicht etwa nur vom einfachen Volk, sondern gerade auch von Gebildeten, die sogar schon den Polen keine Bildungs- und Wissensgesellschaft zutrauten und sie für ewig zweitrangig einstuften.

  7. MH,
    in Bezug auf Rassismus ist Europa nicht mit den USA zu vergleichen. Dort besteht der Rasssismus im Alltag weiter.
    In Deutschland fühlt sich ein Farbiger dagegen richtig frei, wie mir neulich ein Bekannter (selbst Farbiger) erklärt hat.
    Was das aber jetzt mit Androiden zu tun hat?

  8. “All Systems Red” scheint ein Büchlein zu sein, dass einen ersten Blick auf ein ganzes Universum gibt, ein Universum, welches noch erschlossen werden muss – durch die Autorin selbstverständlich, nicht durch Raumschiffe. Alles so geschrieben, dass es sich auch als Drehbuch für eine Sci-Fi-Serie eignen würde. Nun ja, Martha Wells – die Autorin – scheint eine “Professionelle” zu sein, eine Autorin, die es liebt ganze Fantasy-Welten in Serien zu giessen.
    Wenn man es sich so überlegt sind Genre wie Science Fiction und Fantasy wirklich geeignet für VielschreiberInnen, für Autoren, die jeden Tag drauflos schreiben wollen – aber nicht für den literarischen Ruhm, sondern für fast endlose Reisen in selbst entworfene Welten.

  9. @Martin Holzherr
    Zu 1) und 2) Zustimmung.
    Zu Star Trek muß man wissen, daß der Andoid “Data” gleichwertiges Mitgleid der Crew ist und von einem Wissenschaftler illegal konstruiert wurde, als künstlicher Mensch. KI auf diesem Niveau ist, wenn überhaupt, nicht in einer Gesellschaft realisierbar, die ansonsten archaisch geprägt ist.
    Der Hang zur Diskriminierung hat sehr deutlich zugenommen seit den 90ern, nur werden heute andere Gruppen als früher benachteiligt. Diskriminierung definiert sich nicht ausschließlich über die üblichen Verdächtigen, sondern darüber, ob es überhaupt benachteiligte Gruppen gibt- wir sind auf dem Weg nach unten, was dieses Thema angeht.

  10. Dieser Gedanke, eine ultra-Highttech-Gesellschaft verbinden zu können mit großer Rückständigkeit in der sozialen Intelligenz, kommt vor allem im Film auffällig häufig vor, das ist fast sowas wie ein zeitgeistiges Phänomen seit den 90er-Jahren.

    “Starhunter”, TV-Serie, in der eine Handvoll Leute in einem kleinen Raumschiff durchs All heizt und als Kopfgeldjäger(!) ihr Geld verdient.
    “Andromeda”, teils gar nicht schlechte TV-Serie über eine Raumstation, die drei Ebenen hat, wobei Ebenen gleichbedeutend mit Klassen ist.
    Oben die Führungsebene, in der zweiten Ebene viele Techniker und Kaufleute, in der dritten die Unterschicht, mit viel Elend und Kriminalität.
    Auf dem extrem begrenzten Raum einer solchen Station eine gerade irrwitzige Vorstellung.
    Und es blutet einem das Herz, wenn in neueren Star-Trek-Folgen leichte Folter gutgeheißen wird, ganz im Gegensatz zur eigentlichen Idee der Serie(n).

  11. Zitat Thomas Grüter:

    Das Human Brain Project möchte ein vollständiges erwachsenes menschliches Gehirn im Computer simulieren. Aber müsste sich dieses Gehirn dann nicht wie ein Mensch fühlen? Würde es den Unterschied bemerken? Müsste man nicht komplexen künstlichen Intelligenzen oder Robotern die gleichen Rechte wie Menschen einräumen? Sie sind schließlich denkende Wesen mit eigenen Gefühlen.

    Zitat R:

    Vorallem fehlt dem Androiden das Seelenleben. Das lässt sich zwar auch emulieren, aber es bleibt eben “programmgesteuert”.

    Viele sehen im (fehlenden) Seelenleben und den (fehlenden) Emotionen den Unterschied zwischen Mensch und Roboter. Doch es gibt auch Science Fiction Filme, die das umdrehen. In Blade Runner unterscheiden sich die Replikanten gerade durch ihre starke Emotionalität von Menschen. Auch Rassismus ist ein Thema in Blade Runner, denn der Replikantenjäger Deckard (gespielt von Harrison Ford) enttarnt Replikanten mittels eines Turing-artigen Tests und erschiesst sie nach der Enttarnung gnadenlos – in seinen Augen zurecht, weil es ja Maschinen/Replikanten sind und sie somit zu einer anderen (nicht humanen) Rasse gehören. Im Directors Cut stellt sich dann in einer Schlussszene heraus, dass der Replikantenjäger selbst ein Replikant ist – wohl ohne es zu wissen.

    • Der angebliche Test beim Blade Runner soll emotionale Reaktionen aufdecken, er hat aber nichts mit dem Turingtest zu tun. Eigentlich erschießt Deckard auch keinen Replikanten nach dem Test, jedenfalls nicht im Film. Es wird auch nie so recht klar, ob Deckard ein Replikant mit künstlich eingepflanzten Erinnerungen ist. In der Schlussszene des Director’s Cut bereitet er sich darauf vor, mit der Replikantin Rachael, in die er sich verliebt hat, aus der Stadt zu fliehen.
      Die Replikanten haben nur vier Jahre Lebenszeit, weil sie sonst menschliche Gefühle entwickeln. Genetisch sind sie Menschen, allerdings mit Modifikationen, die sie stärker, gesünder und intelligenter machen. Deshalb haben die Menschen vor ihnen Angst.

      • In Blade Runner: Ist Deckard ein Replikant? werden mehrere Indizien für das Replikantentum von Deckard aufgeführt. Besonders überzeugend sind folgende beiden:

        Deckards und Rachels Gesichte sehen in diesem Moment in die gleiche Richtung. In dieser Szene ist in Rachels und Deckards Augen der gleiche für Replikanten typische Glanz zu sehen.

        und

        Etwa zur Mitte des Films schläft Deckard am Klavier ein und träumt von einem Einhorn. Als er am Ende des Films mit Rachel flieht, findet er ein Origami-Einhorn vor seiner Tür. Origami-Figuren werden in Blade Runner ausschließlich von Gaff platziert. Die Tatsache, dass Gaff Deckards Vorgesetzter ist und zudem Deckards Erinnerungen und Gedanken zu kennen scheint, ist ein weiteres Indiz für seine wahre Identität.

        In der Wikipedia wird darauf hingewiesen, dass der Final Cut, die letzte Fassung (Zitat)

        als weitere wichtige Änderung enthält sie eine zusätzliche Szene, die darauf schließen lässt, dass Deckard selbst ein Replikant sein könnte.

        • Ich habe mir am Dienstag den “Director’s Cut” noch einmal angesehen, und ich hatte den Eindruck, dass Ridley Scott absichtlich offen lassen wollte, ob Deckard nun ein Replikant ist. Damit stellt er dann die Frage in den Vordergrund, ob es überhaupt bedeutsame Unterschiede zwischen Menschen und Replikanten gibt. Wenn nicht, müssten Replikanten natürlich die gleichen Rechte zugestanden werden, die auch Menschen haben. Der Film weist letztlich auf das zentrale Problem der damals gerade aufkommenden Gentechnik hin: Sind Menschen, die gentechnisch verändert und in der Reporte “hergestellt” wurden, nicht auch Menschen mit allen Rechten? Ridley Scott plädiert ganz offensichtlich dafür – und ich stimme ihm zu.

      • Ja, der (Zitat) Test beim Blade Runner wird mit einer Art Lügendetektor durchgeführt (Zitat Wikipedia): Es misst Körperfunktionen wie Atmung, Erröten (als Reaktion auf Fragen), Herzfrequenz und Augenbewegungen in Korrelation mit emotionsbeladenen Fragen

        Aus aktuellem Anlass möchte ich noch darauf hinweisen, dass die Idee der sehr menschenähnlichen, aber in ihrer Lebenszeit limitierten Replikanten eine Entsprechung findet in Kazuo Ishiguro’s (Literaturnobelpreis 2017) Alles was wir geben mussten, wo Klone mit dem einzigen Zweck Organspender zu sein, ebenfalls ein zeitlich begrenztes Leben führen. Anders als bei Blade Runner ist aber bei Ishiguro immer klar, wer ein Klon ist und keiner der Klone versucht seinem Schicksal zu entrinnen.

        • Ergänzung (Zitat):

          Damit stellt er dann die Frage in den Vordergrund, ob es überhaupt bedeutsame Unterschiede zwischen Menschen und Replikanten gibt.

          Diesen bedeutenden Unterschied zwischen Mensch (Empfänger) und Klon (Spender) gibt es in Kazuo Ishiguro’s „Alles was wir geben mussten“ nicht. Die in einem britischen Internat aufwachsenden Klone, deren einzige Bestimmung es ist, als Organspender zu dienen, wachsen praktisch in ihre Aufgabe hinein, erfahren zuerst nur, dass sie etwas besonderes sind, erleben dann die Sorge um ihre Gesundheit – sie werden nicht nur vor dem Rauchen gewarnt, sondern erhalten nur Zeitschriften, in denen jede Raucherwerbung herausgeschnitten ist – und hören dann irgendwann, dass sie keine Kinder kriegen können. Als ihnen schliesslich mit 14 oder so offiziell gesagt wird, dass sie als Organspender dienen, wissen sie es schon ohne es je vorher gehört zu haben. Ishiguro‘s auch in anderen Büchern (z.B. „Was vom Tage übrigblieb“, den Erinnerungen eines Dieners, der sein Leben in den Diensten eines unwürdigen „Masters“ verbracht hat) ) vermittelte Überzeugung und Botschaft ist die, dass viele von uns sich in einer falschen Realität einrichten, dass man so klein ist, wie man sich selber macht.
          Was „Blade Runner“ und „Alles was wir geben mussten“ gemeinsam haben ist die Selbstverständlichkeit wie mit Replikanten/Klonen umgegangen wird, sonst aber sind es Werke vollkommen verschiedener Genre. Blade Runner hat die Form eines in der Zukunft angesiedelten Detektivromans mit einem Helden, der keine Freunde und Bekannte hat, weswegen man als Zuschauer durchaus unsicher werden kann, was seine Identität betrifft, während die Klone und ihre Betreuer in „Alles was wir geben mussten“ ein Leben wie andere Internatszöglinge führen und der Leser nie daran zweifelt, dass es sich um Menschen wie sie selbst handelt.

  12. Müsste man nicht komplexen künstlichen Intelligenzen oder Robotern die gleichen Rechte wie Menschen einräumen? Sie sind schließlich denkende Wesen mit eigenen Gefühlen. Warum kann ich da so sicher sein? Ohne Gefühle gibt es keinen Handlungsantrieb.

    Negativ.

    Vgl. auch mit einem Tisch-Computer, der im Rahmen seiner von ihm ausgeführten Dienste mal so und mal so handelt, durchaus auch ‘fühlt’, nämlich dann, wenn er sich der Physik (der Natur) anvertraut, wenn auch bspw. “nur” einen Sensor abfragend, der die aktuelle Raumtemperatur im Server-Raum verrät, was dann bspw. vom Tisch-Computer genutzt wird, um seinen Zufallszahlengenerator zu initialisieren.

    Bereits der Tisch-Computer steht in Interaktion mit der Welt und fühlt sozusagen; kann derart angefragt auch verlautbaren, über die Welt und über die Folgen der Welt für sich.
    Er darf jederzeit abgeschaltet werden.


    ‘Gleiche Rechte’ – dies ist der “Kick” für einige.

    Festgehalten wird sich aktuell diesbezüglich vorhabend eher bei Peter Singer, der in sogenannte Tier-Rechte macht, vgl. auch mit der sogenannten Animal Liberation Front.


    ‘Gefühle’ liegen insofern vor, wenn das fühlende Subjekt über seine erfahrenen Gefühle berichten kann. [1]

    Wenn es über diesbezügliche Sprachlichkeit verfügt. – Anders anzunehmen, Pete Singer sei an dieser Stelle wiederum gegrüßt, bedeutet antihumanistisch vorzugehen.
    Das Tier darf vermampft, das Gerät abgeschaltet und der außerempirische Akteur, ob direkt Gott oder auch nicht, vernachlässigt werden.


    Besonders amüsant wird es philosophisch im Zusammenhang Pathozentrismus, vgl. mit ‘Sie sind schließlich denkende Wesen mit eigenen Gefühlen.’ -, denn humanistischerseits gilt es anti-humanistische Spaßvögeln wie bspw. Karim Akerma nicht zu folgen, sondern dbzgl. zu verdammen.

    MFG
    Dr. Webbaer

    [1]
    Auch Terry Pratchett, ein großartiger Literat und Philosoph, wie einige finden, hat sich dbzgl. Gedanken gemacht.
    Und zwar in ‘The Amazing Maurice and His Educated Rodents’, dort hat Pratchett den Kater, den Protagonisten, Maurice sein Name, vor dem Vertilgen von Mäusen und Ratten anfragen lassen, so dass er nur zugebissen hat, wenn die ins Auge gefasste Beute nicht antworten konnte.
    Auch der hiesige werte Herr Dr. Ludwig Trepl hat’s ähnlich gesehen, dieser Ökologe, R.I.P.

Schreibe einen Kommentar




Bitte ausrechnen und die Zahl (Ziffern) eingeben