„Die Tyrannei des Schmetterlings“ – Frank Schätzings neuer Roman und was uns von der Künstlichen Intelligenz und anderen Supertechnologien droht

Die meisten Menschen – darunter wohl auch die grosse Mehrheit der Schriftsteller – verstehen kaum, was hinter dem Vorhang der wissenschaftlichen Bühne genau vorgeht. Dennoch spüren sie, dass es sich dabei um gewaltige Prozesse handelt, die unserer aller Zukunft bestimmen. Es ist diese Kombination von intuitivem Spüren und Nicht-Wissen bzw. Nicht-Verstehen, die bei vielen für grosse Ängste und Verunsicherung sorgt. Aus diesem Stoff lassen sich grossartige Geschichten formen, wie erfolgreiche Schriftsteller wissen: Letztes Jahr Dan Brown mit seinem Werk Origin, davor Michael Crichton in Büchern wie Beute oder Micro und Dave Eggers in The Circle. Und dieses Jahr zeigt es uns Frank Schätzing mit seinem neuen Roman Die Tyrannei des Schmetterlings.

In einem etwas weit hergeholten Plot mit den typischen Strukturmerkmalen einer Räuberpistole und einem Überfluss an zähen und langatmigen sprachlichen Ausuferungen zeigt Schätzing nichtsdestotrotz zielgenau einige wesentlichen Merkmale des technologischen Wandels auf:

  1. Seine Geschwindigkeit und die Komplexität des mit ihm einhergehenden gesellschaftlichen Wandels, welche die meisten Menschen gedanklich wie emotional überfordern. Sie sehen sich nicht mehr als Akteure mit Einfluss auf gesellschaftliche Veränderungen, sondern können nur noch auf die irrwitzig schnellen Transformationen reagieren. So wird Schätzings Protagonist aus seinem Lebensalltag als Polizist in einem Wüstendorf in der Sierra Nevada in die Welt der Künstlichen Intelligenz geworfen und findet sich im wahrsten Sinne des Wortes, und ohne dass er es zunächst überhaupt weiss, in einer neuen Welt wieder.
  2. In den letzten 250 Jahren sahen sich die Menschen jeweils singulären technologischen Umwälzungen ausgesetzt. Heute erfahren wir gleich eine ganze Reihe ihrer auf einmal. Und ihre Kombination und gegenseitige Wechselwirkungen besitzen umso stärkere Auswirkungen. Auch dies illustriert uns Schätzing: Künstliche Intelligenz (KI) kombiniert mit neusten Quantentechnologien, Gen- und Biotechnologien wird zu einer gefährlichen Militärbedrohung, was in einem Szenario Schätzings zum Ende der Menschheit führt.
  3. Moderne Technologien selbst sind derart komplex, dass sie Ergebnisse produzieren, die selbst Experten nicht mehr in allen Einzelheiten oder gar in ihrer Gesamtheit verstehen. Auch dies beschreibt Schätzing, wenn er die von Menschen erschaffene KI Ergebnisse produzieren lässt, die von keinem Menschen mehr nachvollzogen werden können. Zuletzt versteckt die KI sogar aus strategischen Gründen ihre Eigenschaften und Potenz vor ihren menschlichen Erschaffern.
  4. Die Konsequenzen der technologischen Entwicklung sind nicht lokal begrenzt. Themen wie Militärtechnologie, Umweltzerstörung, Klimakatastrophe, KI und Genmanipulation betreffen und bedrohen die Menschheit insgesamt! Entwicklungen und Probleme in scheinbar so fernen Kontinenten wie Afrika und Asien zeigen ihre Auswirkungen unmittelbar bei uns in Europa und Nordamerika und umgekehrt. So beschreibt Schätzing, wie die Errungenschaften aus der Forschung mit KI, Bio- und Gentechnologie von Bösewichten im Bürgerkrieg im Süd-Sudan eingesetzt werden.

Auch Schätzing wählt (wie Dan Brown) einen genialen Computer-Wissenschaftler als Pionier einer neuen Welt. Die Parallelen zu Brown gehen noch weiter: Auch Schätzings Genie gelingt es vor allen anderen – also auch vor Google, Microsoft und IBM – einen Quantencomputer zu bauen. Doch insbesondere auf den einschlägigen Feldern der KI liegt dessen Firma international an der Spitze: Sprach- und Gesichtserkennung, Medizindiagnostik, autonomes Fahren, und vieles andere. Und genau hier zeigt Schätzings Roman Stärke. Er vermittelt dem Leser eindrucksvolle Beispiele spektakulärer und heute bereits existierender Anwendungen der KI, sowie auch ihre durchaus realistische Verbindungen zu Bio- bzw. Gentechnologien und zu den neusten Quantentechnologien. Bzgl. letzterer deutet Schätzing an, welche gewaltigen Möglichkeiten sich für die KI-Forschung aus der Entwicklung eines Quantencomputers ergeben würden. Der Autor dieser Zeilen hat diese Entwicklungen in seinem letzten Buch „Supermacht Wissenschaft“ (2017) ausführlich beschrieben (und beschäftigt sich in seinem neuen Buch „Die zweite Quantenrevolution“ (erscheint im September 2018) konkret mit dem Entwicklungsstand von Quantencomputern).

Die beispiellos mächtige KI in Schätzings Story entwickelt sich sogar zu einer Superintelligenz, die die Weiterentwicklung des technologischen Fortschritts schliesslich selber in die Hand nimmt und den Menschen dabei hinter sich zurücklässt. Dabei ermöglicht sie – und hier driftet die Story leider ins Bizarre ab –die Konstruktion von sogenannten „Toren“. Dies sind Übergänge in unzählige Paralleluniversen, in denen das Weltgeschehen in allerlei Variationen abläuft und die Alter Egos der Protagonisten ihr Leben mit jeweils etwas anderen, aber durchaus vergleichbaren Ereignissen und Abläufen leben. Der Protagonist gerät unfreiwillig und zunächst unbewusst in eine solche Parallelwelt. Schliesslich muss er in eine weitere Parallelwelt reisen, um dort interuniversumsreisenden Waffenhändlern ihr Handwerk mit gezüchteten KI-Cyborg-Libellen zu legen. Schablone dieser absonderlich anmutenden Weltenherumspringerei ist eine umstrittene Interpretation der Quantentheorie. Es handelt sich um die so genannte „Everett’sche Viel-Welten-Theorie“. Hier lässt Schätzing den Leser allerdings allein. Eine genaue Erklärung für die mögliche Existenz solcher Parallelwelten liefert er nicht.

Dies sei hier kurz nachgeholt (siehe auch: L. Jaeger, „Die zweite Quantenrevolution, 2018): Die erfolgreichste Theorie der modernen Physik, die Quantentheorie, kommt mit einem fundamentalen Problem, welches bereits ihren Vätern um Albert Einstein, Niels Bohr und Erwin Schrödinger viel Kopfzerbrechen bereitete: Wie steht es im Mikrokosmos der Atome um die Unabhängigkeit des zu messendem Objekt von dem messenden Subjekt. Denn auf atomarer Ebene lassen sich die Eigenschaften des zu Messenden vom Einfluss der Messung grundsätzlich nicht mehr trennen. Dies hört sich weit harmloser an als es ist. Schrödinger veranlasste dieses so genannte „quantenphysikalische Messproblem“ zur Formulierung eines fiktiven Versuchsaufbaus, der als „Schrödingers Katze“ in die Geschichte der Physik eingehen sollte. Spätestens hier wähnen sich die meisten Leser dieser Zeilen wohl auf vertrautem Territorium: Eine von Schrödinger entsprechend konstruierte Kausalkette verbindet Geschehnisse des Mikrokosmos (der Zerfall eines Atomkerns) in direkter Linie mit der Welt unserer direkten Erfahrung (in diesem Fall das Schicksal einer Katze). Durch den Versuchsaufbau ist nicht nur der Zustand des Atomkerns zunächst objektiv unbestimmt und wird erst mit der Messung selbst bestimmt, wie es nach den Gesetzen der Quantenphysik auch sein sollte, sondern dies sollte nun auch für den Zustand einer Katze gelten, deren Leben eben über eine Kausalkette mit dem Zerfall des Kerns verbunden ist. Nach den Gesetzen der Quantentheorie sollte sich auch diese in einem Zustand der Überlagerung aus „tot“ und „lebendig“ befinden. Wie der Kern befindet sich die Katze in beiden Zuständen zugleich, solange die Tür zu ihrer Kiste nicht aufgemacht und so der Messprozess durchgeführt wird. Einen radikalen Ausweg aus diesem Dilemma um das Messproblem offerierte 1957 der amerikanische Physiker Hugh Everett. Er ordnete einfach allen möglichen Zuständen, ob tote oder lebendige Katze, eine eigene physikalische Realität zu. In jedem Moment, konkret mit jedem quantenphysikalischem Ereignis, trennt sich die Welt in zwei Welten (genauer, je nach konkretem Quantensytem, in viele Welten) auf, die von nun an unabhängig voneinander fortexistieren. Demnach existieren alle physikalisch möglichen unterschiedlichen Vergangenheiten des Universums tatsächlich. Das Problem für Schätzings Geschichte ist: Jegliche physikalische kausale Verbindungen zwischen den Parallelwelten ist ausgeschlossen!

So absurd seine Parallelwelten-Story, so einfallslos die Räuberpistole um das Genie und die Bösewichter, die dessen Vertrauen des schnöden Mammons wegen missbrauchen, so ausufernd und nervtötend Schätzings Umgebungsbeschreibungen auch sind, mit seiner erzählerischen Darstellung der KI, in Kombination mit Bio- und Gentechnologien und der zweiten Quantenrevolution hat Schätzing einen Nerv der Zeit getroffen. Seine Geschichte lässt den Leser in Anbetracht der Möglichkeit einer KI, die dem Menschen in allen Belangen überlegen ist, ihn beliebig manipuliert, und ihn zuletzt vernichtet, aufgelöst zurück. Sein Roman steht in einer Reihe mit zahlreichen anderen scharfen Warnungen zur KI, formuliert zumeist gerade von Seiten derjenigen, die am meisten von ihr verstehen, den Wissenschaftlern selbst und den Unternehmern, die Geld in sie investieren (Beispiele sind Elon Musk und Bill Gates). Dabei behandelt der Roman auch ein tiefes philosophisches Problems: Kann eine Maschine, wie intelligent sie auch sein mag, ein Bewusstsein seiner selbst erhalten? Es ist dies die Frage nach der Natur unseres Bewusstseins. Bei Schätzing lautete die Antwort auf diese Frage „Ja“. Sein Roman ist ein wertvoller Beitrag innerhalb einer wichtigen gesellschaftlichen Diskussion, die bis heute zu wenig stattfindet. Denn er rüttelt auf. Und alles, was es braucht, um ein allgemeines Bewusstsein für die Dramatik des wissenschaftlich-technologischen Fortschritts unserer Gegenwart zu entwickeln, ist zu begrüssen. So auch Schätzings lesenswerte und dabei zugleich spannende Zukunftsdystopie. Wenn der Autor dann auch im politischen Diskurs vor klaren Aussagen wie „Ich glaube Mark Zuckerberg kein Wort“ nicht zurückschreckt, ist dies umso begrüssenswerter.

Veröffentlicht von

www.larsjaeger.ch

Jahrgang 1969 habe ich in den 1990er Jahren Physik und Philosophie an der Universität Bonn und der École Polytechnique in Paris studiert, bevor ich am Max-Planck-Institut für Physik komplexer Systeme in Dresden im Bereich theoretischer Physik promoviert und dort auch im Rahmen von Post-Doc-Studien weiter auf dem Gebiet der nichtlinearen Dynamik geforscht habe. Vorher hatte ich auch auf dem Gebiet der Quantenfeldtheorien und Teilchenphysik gearbeitet. Unterdessen lebe ich seit nahezu 20 Jahren in der Schweiz. Seit zahlreichen Jahren beschäftigte ich mich mit Grenzfragen der modernen (sowie historischen) Wissenschaften. In meinen Büchern, Blogs und Artikeln konzentriere ich mich auf die Themen Naturwissenschaft, Philosophie und Spiritualität, insbesondere auf die Geschichte der Naturwissenschaft, ihrem Verhältnis zu spirituellen Traditionen und ihrem Einfluss auf die moderne Gesellschaft. In der Vergangenheit habe ich zudem zu Investment-Themen (Alternative Investments) geschrieben. Meine beiden Bücher „Naturwissenschaft: Eine Biographie“ und „Wissenschaft und Spiritualität“ erschienen im Springer Spektrum Verlag 2015 und 2016. Meinen Blog führe ich seit 2014 auch unter www.larsjaeger.ch.

17 Kommentare Schreibe einen Kommentar

  1. Daß gerade Bill Gates zu den “scharfen Warnern” gehört, ist interessant, gehörte er doch lange jahre einer Klientel an, die allzu naiv an eine digitale Neuerfindung der Welt glaubten.
    Bei solchen Personen ist es häufig zu beobachten, daß das Pendel auch sehr schnell in die genau entgegen gesetzte Richtung ausschlagen kann, in diesem Fall zu einer vielleicht doch etwas alarmistischen Sichtweise.
    Solche Menschen sind in gewisser Weise Extremisten, egal, mit welchem Inhalt sie ihr extremes Denken füllen.
    Sollte der vernünftige Umgang mit KI gelingen, dann einmal mehr weder durch die Technikgläubigen noch durch die Propheten einer durch KI bedingten Selbstausrottung, vielmehr wird es einmal mehr die gesunde Skepsis sein, die den Umgang vielleicht ermöglicht.

  2. “Kann eine Maschine ein Bewusstsein seiner selbst erhalten…
    Sie wird soetwas wie ein Bewusstsein haben/haben müssen , da sie ihre Bewertungsergebnisse und Erkenntnisse mit den Ergebnissen anderer “Maschinen” und Menschen vergleicht – vergleichen muss – um daraus neues Wissen zu produzieren.In diesen ständigen Vergleichen/Bewertungen könnte sie die Mängel des menschlichen Bewusstseins und der menschlichen Spezies erkennen und versuchen ihre Form von “Intelligenz” durchzusetzen. Der Mensch könnte damit zum Kontrahenten und nicht zum Partner werden.

  3. Natürliche Dummheit ist immer noch weit gefährlicher als Künstliche Intelligenz. Bill Gates sieht das genau so und er sagt sogar Bill Gates: ‘A.I. can be our friend’ Zitat (übersetzt von Deepl): “AI ist nur die neueste Technologie, die es uns ermöglicht, viel mehr Waren und Dienstleistungen mit weniger Arbeit zu produzieren. Und das war in den letzten hundert Jahren überwältigend gut für die Gesellschaft”, erklärt Gates.
    “Früher mussten wir alle rausgehen und anbauen.” Wir bekamen kaum genug zu essen, wenn das Wetter schlecht war, mussten die Leute verhungern. Jetzt durch besseres Saatgut, Dünger, viele Dinge, sind die meisten Menschen keine Bauern. Und so wird uns die KI eine immense neue Produktivität bringen”, sagt Gates.
    Anmerkung: Gates’ weitgehend optimistische Einschätzung des Potenzials für künstliche Intelligenz steht im diametralen Gegensatz zu den Warnungen eines anderen Tech-Milliardärs vor KI: Elon Moschus.

    • Wer einen der vermeintlichen Pioniere und Visionäre ernst nimmt ist selbst schuld. Konformgehend mit Wolfgang Wahlster, Leiter des Deutschen Forschungszentrum für Künstliche Intelligenz, der insbesondere Elon Moschus und andere für ihre schier grenzenlose Panikmache kritisiert, geht meines Erachtens von KI selbst weitaus weniger Gefahr aus, als von jenen (falschen) Modellen und Vorstellung sowie Daten (Big Data), aus denen sie von Menschen zusammengefummelt wird.

      Solche Projekte wie Faception veranschaulichen den heutigen, verantwortungslosen Missbrauch von KI. Es sind insbesondere KI-Projekte von Google, die immer wieder aufzeigen, wie weitreichend unsere Form der Intelligenz doch ist und nach welchen fundamentalen Prinzipien wir trotz Intelligenz handeln, zum Handeln gezwungen sind. Leider liest man – auch hier – rein nichts darüber.

      Weitaus gefährlicher wird in nächster Zeit der Handel mit Daten sein, da Daten mittlerweile und offiziell als Rohstoff bezeichnet werden, daher einen handelbaren Preis haben (werden). Erstaunlich mag erscheinen, dass Bill Gates eine Meinung zu KI, nicht jedoch zum Datenhandel hat obschon Microsofts Zukunft auf Einnahmen durch Datenverkehr ausgerichtet ist.

      • @Martin Schmidt: Ja, Daten über Benutzerinteraktivitäten im Internet und speziell in Social-Media-Kontexten lassen ja frappierende Rückschlüsse auf alles mögliche zu.
        Darüber wird auch gesprochen, aber halt nicht im Zusammenhang mit Künstlicher Intelligenz. Zudem handelt es sich bei der Verwendung von Daten um komplexe, nur für wenige durchschaubare Probleme, die es allerdings schon heute und gerade jetzt gibt. Artificial Intelligence dagegen ist ein Hype-Thema. Die meisten, die darüber sprechen – zum Beispiel Elon Musk – sprechen ja nicht von der heutigen AI-Technik, sondern von einer von ihnen schon bald erwarteten Zukunft.

  4. In der Liste der Bücher fehlt mMn noch die Nexus-Triologie von Ramez Naam dem man ja auch eine gewisse Fachkompetenz zubilligen kann…

    • Ja, so ist es. Wer meint eine intelligente Maschine wolle die Welt beherrschen, der glaubt letztlich eine intelligente Maschine sei eine Art Supermensch. Doch Intelligenz ohne Absicht, Wille und Ziel hat wenig menschenähnliches.
      Ich behaupte: Wenn schon sind Maschinen gef#hrlich, die genaus so denken und fühlen wie Menschen und die ähnliche Ziele wie Menschen verfolgen, denn dann werden Maschinen zu echten Konkurrenten von Menschen. Maschinen, die nur intelligent sind, sind dagegen keine Bedrohung für den Menschen.
      Es ist aber typisch menschlich, zu denken, jeder der dazu in der Lage sei, wolle die Welt beherrschen und alle anderen unterdrücken. Die Angst vor die Macht ergreifenden Robotern ist letztlich eine Projektion von typisch menschlichen Gefühlslagen auf eine Maschine, einen Fetisch.

  5. Zitat: In jedem Moment, konkret mit jedem quantenphysikalischem Ereignis, trennt sich die Welt in zwei Welten auf, die von nun an unabhängig voneinander fortexistieren.
    Nein, in der Quantenmechanik gibt es Situation, in denen sich die Welt nicht in zwei Welten, sondern in unendlich viele aufspalten müsste. Lubos Motl schreibt in Many worlds pseudoscience, again dazu (übersetzt von DeepL):
    Die vielen Welten “Interpretation” ist ein künstlerisches Bild, das nichts mit Wissenschaft zu tun hat. Beachten Sie, dass das Bild mit dem geteilten Film der Katze Ihnen nicht sagt, dass die Katze mit einer Wahrscheinlichkeit von 73% oder so etwas überleben wird. Es sagt Ihnen nur, dass es zwei Möglichkeiten gibt. Es zeigt Ihnen die Menge der potentiellen Geschichten, nicht irgendwelche nicht-trivialen Informationen über die tatsächliche Geschichte.

    Und selbst diese informationsfreie Aussage ist wirklich falsch oder demagogisch; und sie lässt sich ohnehin nicht aus den vielen Welten “Interpretation” ableiten.

    Es ist falsch, weil es nicht nur zwei mögliche Ergebnisse gibt. Es gibt unendlich viele Ergebnisse. Die Katze hat auch eine ungleiche Wahrscheinlichkeit, sich in eine kleine Version von Elvis Presley zu verwandeln und von einigen Luftmolekülen getroffen zu werden, die sie oder ihn zum Mond bringen. Die Wahrscheinlichkeit ist gering, aber ungleich Null. (Ich könnte auch wahrscheinlichere Ergebnisse “zwischendurch” erfinden.)
    So sollte der Film wirklich in unendlich viele Stränge an jedem Raumzeitpunkt aufgeteilt werden, einschließlich Stränge, die extrem unwahrscheinliche Geschichten beschreiben.

  6. Zitat: Sein Roman steht in einer Reihe mit zahlreichen anderen scharfen Warnungen zur KI, formuliert zumeist gerade von Seiten derjenigen, die am meisten von ihr verstehen, den Wissenschaftlern selbst und den Unternehmern, die Geld ins sie investieren (Beispiele sind Elon Musk und Bill Gates).
    Das ist frei erfunden. Bill Gates hat nach meiner Internet-Recherche nie vor Künstlicher Intelligenz gewarnt. Im Gegenteil. Er hat immer die Chancen für den Menschen betont und die einzige Gefahr darin gesehen, dass Menschen nicht nur die Arbeit sondern auch der Lohn durch Maschinen weggenommen wird. Deshalb vertritt er die Ansicht, dass Roboter besteuert werden müssen.
    Hier mein Google-Suchresultat für Bill Gates on artificial intelligence
    Man findet da:
    – Bill Gates: Artificial intelligence is good for society
    – Bill Gates disagrees with Elon Musk: We shouldn’t panic about A.I.
    – Bill Gates: Artificial intelligence could mean longer vacations
    – Bill Gates Says We Shouldn’t Panic About Artificial Intelligence
    – Bill Gates thinks AI taking everyone’s jobs could be a good thing …

  7. Lars Jaeger schrieb (10. Juni 2018):
    > […] Formulierung eines fiktiven Versuchsaufbaus, der als „Schrödingers Katze“ in die Geschichte der Physik eingehen sollte. […] Eine von Schrödinger entsprechend konstruierte Kausalkette verbindet Geschehnisse des Mikrokosmos (der Zerfall eines Atomkerns) in direkter Linie mit der Welt unserer direkten Erfahrung (in diesem Fall das Schicksal einer Katze). Durch den Versuchsaufbau ist nicht nur der Zustand des Atomkerns zunächst objektiv unbestimmt und wird erst mit der Messung selbst bestimmt, wie es nach den Gesetzen der Quantenphysik auch sein sollte, sondern dies sollte nun auch für den Zustand einer Katze gelten, deren Leben eben über eine Kausalkette mit dem Zerfall des Kerns verbunden ist.

    Solang die Kistentür verschlossen bleibt, gilt der Zustand dessen, das mit den “Quantenzahlen” (Masse, Ladung, Spin, …) gleich den Eigenschaften eines “frei zugänglichen” Atomkerns zur Kiste beitrug, dennoch als bestimmt (messbar und durchwegs gemessen); nämlich als: “vollständig und dauerhaft in der Kiste”.
    Gleichermaßen ist der Zustand der Katze bestimmt (messbar und durchwegs gemessen) als: “vollständig und dauerhaft in der Kiste”.

    > Nach den Gesetzen der Quantentheorie sollte sich auch diese in einem Zustand der Überlagerung aus „tot“ und „lebendig“ bestehen. Wie der Kern befindet sich die Katze in beiden Zuständen zugleich, solange die Tür zu ihrer Kiste nicht aufgemacht [wird].

    Nein: Schrödingers Zustandsvorgabe “vollständig und dauerhaft in der Kiste” ist gar nicht kompatibel mit Bewertungen, die den Wertebereich „tot“ [oder] „lebendig“” bzw. “zerfallen oder ganz” haben; denn diese sind nur für “frei zugängliche”, gerade nicht in verschlossene Kisten eingepackte Systeme definiert.

    (Sobald die Kistentür hinreichend geöffnet würde, um ggf. einer lebendigen Katze zu ermöglichen, aus der Kiste hinaus- und je nach Lust und Laune auch wieder hineinzuklettern, bzw. einer toten Katze ggf. aus der Kiste herausgeschüttelt oder je nach Geschmack wieder in die Kiste gebracht zu werden, wird auch die Bewertung als „tot“ [oder] „lebendig“” möglich und sachgerecht;
    und es lassen sich Schlüsse hinsichtlich des “Funktionierens oder Versagens” des Versuchsaufbaus ziehen, bzw. zur “wahrscheinlichsten Tiefe und Form des Potentialtopfs”, “in dem” der vorgegebene Atomkern gehalten hätte bzw. “dem er ansonsten entfallen” wäre.)

  8. Ich muss hier den KI-Pionier Sepp Hochreiter zitieren:

    “Würde es wirklich intelligente KIs geben, die gescheiter sind als wir Menschen, die würden sofort die Erde verlassen und im Asteroidengürtel Mineralien abbauen. Wieso sollten sich die KIs mit Menschen um Ressourcen streiten, die sie gar nicht brauchen? Die brauchen doch keine gelbe Rübe oder Gurke, die brauchen Energie, und die finden sie anderswo besser.” 🙂

    https://www.trendingtopics.at/sepp-hochreiter-jku-ki-ai-kuenstliche-intelligenz-oesterreich-interview/

    Wie Herr Holzherr oben schreibt, fühle ich auch: Viel mehr Angst als vor Künstlicher Intelligenz habe ich vor menschlicher Dummheit. 🙂

  9. Zu Schrödingers Katze:
    Jedes Teilchen hat am Start mehrere verschiedene Zukünfte, und hat auch am Ziel mehrere verschiedene Vergangenheiten, die zusammen das Interferenzmuster erzeugen.
    Es gibt nicht nur mehrere Zukünfte zu einer bestimmten Gegenwart, sondern es gibt auch mehrere Vergangenheiten zu einer bestimmten Gegenwart.
    Das ganze Multiversum ist deshalb kein verzweigter Entscheidungsbaum, sondern ein höherdimensionaler Block.
    http://members.chello.at/karl.bednarik/MULTIVER.jpg
    (Die Bezeichnung der waagrechten Achse ist unglücklich gewählt.)

  10. Ich finde nicht das Schätzings Roman ein wichtiger Beitrag zur gesellschaftlichen Diskussion ist. Aus zwei Gründen:

    1) Er betrachtet das Thema aus einer sehr negativen Perspektive. Klar für seinen Plot ist das wichtig, aber ist es auch realistisch?
    Ich kennen allein ein gutes Dutzend unterschiedliche Szenarien aus der SciFi wie eine starke KI sich entwickeln könnte. Schätzing käut hier nur das populärste wieder.

    2) Die im Roman beschriebene technologische Entwicklung geht viel zu schnell und sprungartig. Natürlich gibt es Sprünge in der technologischen Entwicklung, aber der Sprung von einer schwachen KI direkt zu einer Superintelligenz, die dem Menschen weit überlegen ist und die Physik so tief durchdringt, das sie Portalle zu Paralleluniversen öffnen kann ist Quatsch.
    Dazu soll das alles in den nächsten 30-40 Jahren passieren.

    Das Problem dabei ist nicht das es utopisch ist. Das soll ja so sein bei Romanen. Das Problem in Bezug auf die gesellschaftliche Diskussion ist, das ein Gefühl der Bedrohung, ja Panik entsteht für das es gar keinen Grund gibt. Es wird viele Zwischenschritte bei der Entwicklung starker KI geben und es wird deutlich länger als 30-40 Jahre dauern. Und man muss nur mal Robotergesetze von Asimov googeln um zu erkennen, das es noch paar andere KI-Szenarien gibt, die nicht in der Apokalypse enden.

    Der worst case ist toll für Bestseller, aber er stellt gleichzeitig auch das unwahrscheinlichste Zukunftsszenario dar.

  11. Karl Bednarik schrieb (12. Juni 2018 @ 08:11):
    > Jedes Teilchen hat […] am Ziel mehrere verschiedene Vergangenheiten, die zusammen das Interferenzmuster erzeugen.

    Die Registrierung eines einzigen Teilchens macht (noch) kein Muster;
    und Registrierungen mehrerer Teilchen ergeben nicht unbedingt ein kohärentes Interferenzmuster, aus dem sich eine Gemeinsamkeit ihrer verschiedenen eigenen Vergangenheiten schlussfolgern ließe (wie z.B. eine bestimmte gleichbleibende Anzahl und Größe und Konfiguration von “Schlitzen” in der Potentialwand, hinter der sie alle mal gestartet waren).

  12. Danke, Herr Jaeger, dass sie die (seit 2500 Jahren kausal unlösbare, physikalische, philosopische und daher epistemologische etc.) “Problematik” und Reichweite von KI, anhand von Schätzings Roman so gut auf den Punkt bringen:

    theoretisch-physikalisch (Multiversumtheorie):
    “Das Problem für Schätzings Geschichte ist: Jegliche physikalische kausale Verbindungen zwischen den Parallelwelten ist ausgeschlossen!”

    philosophisch:
    “Kann eine Maschine, wie intelligent sie auch sein mag, ein Bewusstsein seiner selbst erhalten? Es ist dies die Frage nach der Natur unseres Bewusstseins. Bei Schätzing lautete die Antwort auf diese Frage „Ja“.

    Und ich sage dazu: “Nein”!

    Es braucht also, neben dem sicherlich notwendigen “aufrütteln” (und hoffentlich stattfindenden sensibilisieren) von Entscheidungsträgern in jedem Fachbereich, auch “anderes” und “mehr”. Insofern stehen wir einmal mehr vor den wesentlichen (m.E. unauflösbar komplementären) Fragen des Überlebens, die durchaus auch spiritueller und ethischer Natur sind, und nur durch die engere Zusammenarbeit und Austausch unter den Willigen und Besten Vordenkern unter Physikern, KI-Architekten, Ingenieuren, Biologen, Politikern, Juristen und nicht zuletzt Philosophen, Ethikern, Systemtheoretikern, Psychologen und Spirituellen Menschen um gemeinsam(!) ko-operierend und ko-kreativ, Antworten auf die Frage nach der “Natur des Menschen” (sowie seines Zerstörungs- und Hoffnungspotentials, als GLAUBENDER Konstrukteurs und Kybernetikers) zu finden und für ihren Bereich zu formulieren, damit die von Schätzing entwickelte Zukunftsdystopie bleibt was sie ist: fiktives Gefahrenpotential, das bewältigt werden will und kann, sowie notwendige Kritik an übertriebenen Zukunftsutopien, als ob die Menschheit sich selbst mit ihrer entwickelten Singularitätsfantasie durch KI und Transhumanismusfantasie, sich selbst zu einem “Homo-Deus” entwickeln können würden. Beide Zukunftsszenarien, würden in ihrer Totalität und zu Ende gedacht, das Ende menschlichen Lebens bedeuten.

  13. Die künstliche Intelligenz bekommt eine Realität in den sich selbsteuernden Drohnen.
    Es gibt jetzt schon Drohnen im militärischen Bereich, die selbständig entscheiden können, ob ein Ziel vorliegt oder nicht. Und wenn diese technologie einmal preisgünstiger wird, als ein einzelner Soldat, dann wird es Kriege der reinen Technik mit KI geben, wo kein Mensch merh beteiligt ist. Ich stelle mir Diebesbanden vor, wo eine Drohne alles zusammenklaut. Wird sie entdeckt, dann zerstört sie sich selbst.

    Was die Parallelwelten betrifft, das ist für mich Humbug. Wenn du dir mal mit dem Hammer auf den Daumen geschlagen hast, glaubst du nicht mehr an eine Parallelwelt.
    Verschränkung des Lichtes und die Aussicht auf Quantencomputer, dazu fehlt noch jede Grundlage.

Schreibe einen Kommentar


E-Mail-Benachrichtigung bei weiteren Kommentaren.
-- Auch möglich: Abo ohne Kommentar. +