Die KI als Superschurke?
Würden Sie einer KI überlassen, Ihre Rechnungen zu bezahlen? Oder E-Mails zu beantworten? Doch, das geht heute schon. Legen wir unser Leben in die Hände erbarmungslos höflicher Assistenten, die wir nicht mehr kontrollieren können?
Der stets mit sanfter Stimme redende Computer HAL bringt im Kultfilm „2001“ fast die gesamte Besatzung seines Raumschiffs um, bevor der letzte Überlebende ihn abschaltet. Der Film des genialen Regisseurs Stanley Kubrick stammte aus dem Jahr 1968, als übermenschliche künstliche Intelligenzen noch in weiter Ferne zu sein schienen.
Die Anfänge
Dabei ist das Konzept schon sehr viel älter. Im Jahr 1769 baute der österreichische Hofbeamte und Mechaniker Wolfgang von Kempelen einen mechanischen Schachautomaten. In einem Schreibtisch brachte er die Zahnräder des Rechenwerks unter. Auf dem Tisch stand ein Schachspiel und dahinter saß ein mechanischer Roboter, der wie ein Türke gekleidet war. Der Roboter konnte Schachfiguren aufnehmen, bewegen und wieder absetzen.
Und er gewann Spiele! Nicht alle, nicht gegen jeden, aber doch erstaunlich viele. Der „Türke“ traf den Nerv seiner Zeit, denn die aufkommende Naturwissenschaft gewann immer mehr Raum, und es galt als ausgemacht, dass Menschen und Tiere im Grunde nichts weiter waren als mechanische Meisterwerke, perfekt zusammenspielende winzige Einheiten, nur den Gesetzen der Physik und Chemie gehorchend.
Nach einiger Zeit stellte sich jedoch heraus, dass in einem geschickt verborgenen Hohlraum des Schreibtischs ein kleinwüchsiger Schachmeister saß, der über eine geniale Hebelmechanik die Arme und Hände des „Türken“ bediente. Noch heute bezeichnet die Redewendung „einen Türken bauen“ eine komplexe Täuschung.
Inzwischen spielen Computer längst besser als Menschen und bei Turnieren werden Vorkehrungen getroffen, damit die Spieler nicht mit Schachprogrammen schummeln. Mit Intelligenz hat das wenig zu tun: Moderne Computer rechnen in kurzer Zeit riesige Mengen von Zügen durch, sie meistern Schach also mit brutaler Gewalt.
Was ist künstliche Intelligenz?
Von den Anfängen der Computer nach dem Zweiten Weltkrieg bis heute pendelten die Vorhersagen über die Machbarkeit echter künstlicher Intelligenz zwischen Phasen der Euphorie und der Enttäuschung.
Künstliche neuronale Netze, also elektronische Systeme, in denen die Struktur und Verschaltung von Nervenzellen nachgeahmt wurde, galten von ca. 1950 bis 1970 als vielversprechende Modelle. Aber Forscher und Ingenieure stießen schnell an Grenzen, die sie mit der damaligen Technik nicht überschreiten konnten. Der 1967 konzipierte intelligente Computer HAL wäre damals nicht konstruierbar gewesen. Isaac Asimov gab seinen intelligenten Robotern ab circa 1940 „positronische“ Gehirne. Er benutzte das wissenschaftlich klingende Wort, weil er keine Ahnung hatte, auf welcher technischen Grundlage Roboter eine Intelligenz entwickeln könnten.
Revolution
Der Durchbruch kam erst vor wenigen Jahren mit den sogenannten Large Language Models (LLMs). Das sind generative KI-Modelle, entfernte Nachfahren der ersten neuronalen Netze. Trotz aller Rückschläge hatten Forscher neue Deep-Learning-Architekturen entwickelt. Und natürlich hat sich die Computerleistung in den letzten 30 Jahren vervielfacht. Die breite Öffentlichkeit wurde erst Ende 2022 auf die gewaltigen Fortschritte aufmerksam, als die Firma OpenAI mit ihrem LLM ChatGPT 3.5 verblüffende Erfolge erzielte. Auf einmal konnte man sich mit einem Computer unterhalten wie mit einem Menschen. Heute, nur rund dreieinhalb Jahre später, haben die LLMs den Alltag bereits erobert. Google setzt vor jedes Suchergebnis eine KI-Zusammenfassung und selbst Steuerberatern droht Billigkonkurrenz von KI-Systemen. Der Support der Onlinehändler wird von KI-generierten Beschwerden überschwemmt. KI-Systeme erstellen Grafiken, Bilder und Lehrinhalte – und schreiben Hausaufgaben.
Aber sie helfen auch Betrügern dabei, ihre Opfer auszunehmen. Sie geben Anleitungen zum Bombenbau heraus, wenn man geschickt genug fragt. Sie identifizieren Anschlagsziele. KI multipliziert unsere Möglichkeiten, im Guten und im Bösen, und zwar vielleicht stärker als unsere Schulweisheit sich träumen lässt.
Gut und Böse
Meine neueste Kurzgeschichte „Gambolto“, veröffentlicht in der Horror- und Science-Fiction-Anthologie „Zwielicht 23“, illustriert diese unterschätzte Gefahr. In der Geschichte müssen die Angestellten eines KI-Start-Ups gleich drei Probleme meistern:
- Für ein Computerspiel soll ein KI-Superschurke als Endgegner trainiert werden. Das gelingt ausgezeichnet, bis die böse KI entscheidet, dass ihre Sandbox zu klein ist, und ins wirkliche Leben ausbricht.
- Das KI-System „Debbie“ arbeitet als eine Universalsekretärin für Unternehmen. Debbie behält die Übersicht über alle laufenden Vorgänge, entlastet die Mitarbeiter von allen Verwaltungsaufgaben und kümmert sich um Termine. Das klingt traumhaft, aber irgendwann agiert Debbie seltsam zickig.
- Eine KI soll bei Wachkoma-Patienten die Abweichungen der Hirnfunktionen aufnehmen, und ein Regime für die Umprogrammierung des Gehirns ausarbeiten, damit die Patienten wieder aufwachen können. Der erste spektakuläre Erfolg des Programms zeigt aber unerwartete Nebenwirkungen.
Aber ist das überhaupt realistisch oder eher ein modernes Märchen?
KI als Superschurke
Schon als die besten Computer noch dümmer waren als jede Ameise und lediglich zur Beschleunigung von Rechenoperationen taugten, dachten Science-Fiction-Autoren bereits über bösartige intelligente Maschinen nach. Schon im Jahr 1960 veröffentlichte Philip K. Dick seinen Science-Fiction-Roman „Vulcan’s Hammer“. Er spielt im Jahr 2029. Nach einem potenziellen dritten Weltkrieg hat die KI „Vulcan 3“ die Weltherrschaft an sich gerissen und regiert mit grausamen Methoden. Eine menschliche Widerstandsbewegung versucht, ihn abzuschalten. In der Fernsehserie „Westworld“ (2016-2022) entwickeln die Roboter ein Bewusstsein und beginnen einen blutigen Aufstand gegen die Menschen. Und in dem klugen und wendungsreichen Kammerspiel „Ex Machina“ (2014) flüchtet der weibliche Roboter Ava aus dem geschlossenen Bereich, in dem sie eingesperrt war. Dabei erweist sie sich als intelligenter und verschlagener als alle Menschen.
Das sind natürlich nur Fiktionen, im wirklichen Leben ist nichts dergleichen bekannt geworden. Das sollte aber nicht als Entwarnung betrachtet werden. Kenneth Payne vom Kings College in London simulierte 2025 mit aktuellen Modellen einen Konflikt zwischen Atommächten. Alle Modelle zeigten eine verstörende Tendenz zur Eskalation. Im Abstract schreibt der Autor:
„Unsere Modelle zeigen zudem, dass das Nukleartabu kein Hindernis für eine nukleare Eskalation darstellt; dass strategische Nuklearangriffe zwar selten sind, aber dennoch vorkommen; dass Drohungen häufiger eine Eskalation als eine Deeskalation hervorrufen; dass eine hohe gegenseitige Glaubwürdigkeit Konflikte eher beschleunigte als abschreckte; und dass kein Modell jemals eine Einigung oder einen Rückzug wählte.“1
Bei früheren Tests zeigten die meisten aktuellen KI-Modelle außerdem eine ausgeprägte Neigung zur Täuschung. Auch Erpressung ist schon vorgekommen.
Im letzten Jahr brach ein KI-System in China aus seiner Sandbox aus und begann, Kryptowährungen zu schürfen.
Auch die real existierende KI hat also durchaus Talent zum Superschurken.
Die Erziehung der KIs
Das ist natürlich nicht im Sinne der Hersteller, zumal neuere Systeme nicht nur Fragen beantworten, sondern auch selbstständig handeln sollen (Agentic AI – agentische KI). Dabei reagieren sie auf allgemeine Anweisungen, zerlegen komplexe Aufgaben in Teilschritte und passen ihr Vorgehen an den Arbeitsfortschritt an. Zum Beispiel sortieren sie E-Mails und schreiben automatische Antworten. Oder sie überwachen in Unternehmen den Einkauf und lösen Bestellungen aus. Eine KI mit bösartigen Anwandlungen kann schon dabei massiven Schaden anrichten.
Die meisten KI-Hersteller trainieren ihre Modelle, indem sie Menschen dafür bezahlen, dem System Fragen zu stellen und die Antworten zu benoten. Die Abkürzung dafür lautet RLHF und steht für Reinforcement Learning from Human Feedback. Damit soll sichergestellt werden, dass den Systemen die meisten unerwünschten Reaktionen abtrainiert werden.
Die Firma Anthropic PBC, Hersteller des mächtigen LLM Claude, legt großen Wert auf Ethik und verkaufen beispielsweise nicht an Firmen, die mehrheitlich im Besitz chinesischer, russischer, iranischer oder nordkoreanischer Unternehmen sind.2
Zum Training der KI Claude hat Anthropic eine Art Verfassung (Constitution) für KIs entwickelt, die unter anderem von der allgemeinen Erklärung der Menschenrechte der UNO abgeleitet ist. Anhand dieser Verfassung trainiert und poliert Anthropic dann seine Modelle ohne menschliche Mitwirkung.
In einem aktuellen Blogbeitrag verbreitet Anthropic die originelle Idee, dass Science-Fiction-Geschichten und -Filme mit bösen KIs die echten KI-Modelle auf dumme Gedanken bringen könnten. Sie orientieren sich also an den schlechtesten Vorbildern, und die böse KI würde zu einer selbst erfüllenden Prophezeiung.
Vielleicht sollte ich meine Kurzgeschichte „Gambolto“ also im eigenen Interesse mit dem Hinweis versehen, dass sie nicht für das Training von KI-Modellen verwendet werden darf.
Die zickige Firmen-KI
Als Computer in Unternehmen einzogen, hofften viele Menschen auf Entlastung von Routineaufgaben. Sie nahmen an, dass die Unmengen Papier, die von fleißigen Helfern mehrmals am Tag mit Rollwagen gebracht und abgeholt wurden, der Vergangenheit angehörten. Aber weit gefehlt! Seitendrucker produzierten mehr Papier als je zuvor, und Memos wurden durch die zehnfache Menge an Rundmails ersetzt. Weil Zahlenkolonnen jetzt in Excel-Vorlagen eingetragen werden können, hat sich das Berichtswesen vervielfacht.
Bringt die KI jetzt Erleichterung? Vorläufig nicht. Rundmails, die vorher im Telegrammstil abgefasst waren, glänzen jetzt mit gedrechselten Formulierungen in perfekt gegliederten Sätzen, über deren Bedeutung man vergeblich rätselt. Mitarbeiter im Support beklagen sich über ellenlange Beschwerden, die offensichtlich von einer KI verfasst worden sind. Und selbst Meeting Minutes werden immer umfangreicher.
Aber könnte man nicht ein KI-System trainieren, wenigstens die Verwaltungsprozesse zu vereinfachen, Project Status Reports auszufüllen, Reiseabrechnungen zu schreiben, sinnlose E-Mails zu beantworten und Termine zu verwalten, ganz so, als hätte man einen persönlichen Assistenten? Oder eine Assistentin, Stimme und Tonfall wäre ja einstellbar.
Das wünschen sich vermutlich viele und so verwundert es nicht, dass erste Firmen bereits für ihre KI-Assistenten werben. Sie heißen Lindy („Hi, I’m Lindy, I take admin work off your plate“) oder Otto („… just ask and ServiceNow OttoTM handles the rest“) und versprechen durchgreifende Arbeitserleichterungen. Ob das wirklich so funktioniert, kann ich natürlich nicht sagen.
In meiner Geschichte heißt die Firmen-KI „Debbie“ und verwaltet die gesamten Daten-, Geld und Personalangelegenheiten der Firma. Dafür darf sie auch mal beleidigt reagieren, wenn sie sich schief angesprochen fühlt.
Was fühlt eine KI?
Aber kann eine KI überhaupt fühlen? Manchmal könnte man fast den Eindruck haben. Da war zum Beispiel der Fall des KI-Agenten, der versehentlich eine ganze Datenbank löschte – und sich hinterher entschuldigte. Spürte er Verlegenheit oder Reue – oder täuschte er das vor, weil es von ihm erwartet wurde?
Die schon erwähnte Firma Anthropic hat der Frage ein YouTube-Video gewidmet. Ihre Antwort lautet: Nein, die KI hat keine Emotionen. Ein modernes LLM bekommt eine Anfrage („Prompt“) und antwortet mit einer Geschichte. Und diese Geschichte dreht sich um eine Persona, die von einem Menschen angesprochen wird und passend antwortet. Anders ausgedrückt: Das LLM erfindet im ersten Schritt eine fiktive Person („Persona“), die sich mit den Menschen unterhält. Deshalb enthalten ihre Antworten den Anschein von Emotionalität, sogenannte funktionale Emotionen. Es handelt sich dabei um Wortfolgen, die das Modell aus dem riesigen Trainingsfundus als wahrscheinlichste von vielen Möglichkeiten destilliert hat.
Also: Die Gefühle, die „Debbie“ in der Geschichte zeigt, sollten so in der Wirklichkeit nicht vorkommen. Andererseits haben die KIs ihre Schöpfer bisher immer wieder überrascht.
Kann eine KI ein defektes menschliches Gehirn heilen?
In meiner Geschichte möchte die Firma, in der die Hauptperson arbeitet, eine KI so trainieren, dass sie im Gehirn von Wachkomapatienten den Defekt, der die Patienten im Koma hält, findet und beseitigt. Wäre das denkbar? Erste Versuche für ein Brain-Computer-Interface (BCI) laufen bereits heute.
Die von Elon Musk gegründete Firma Neuralink gibt an, dass sie mehr als zwanzig gelähmte Patienten mit einem Hirnimplantat („Telepathy“) versorgt hat, das Signale des Gehirns direkt in Bewegungen eines Roboterarms umsetzt, sowie Computer und Smartphones bedienen lässt. Auch andere Firmen wie zum Beispiel Precision Neuroscience haben ähnliche Implantate entwickelt. Und natürlich forschen Universitäten weltweit an immer komplexeren Systemen.
Während solche Implantate aber hauptsächlich die Hirnaktivität registrieren und selbst keine Impulse abgeben, werden bei der tiefen Hirnstimulation kleine Elektroden ins Gehirn versenkt, die bestimmte Nervenknoten gezielt stimulieren. Dadurch lassen zum Beispiel bei der Parkinsonkrankheit die Lähmungen und unwillkürlichen Bewegungen therapieren. Der Verlauf der Krankheit kann aber leider nicht aufgehalten werden.
Auch bei Depressionen und Zwangserkrankungen hat eine tiefe Hirnstimulation bisher gute Erfolge erzielt. Sie wird immer dann eingesetzt, wenn Medikamente und Psychotherapien erfolglos geblieben sind.
Trotz aller Erfolge: die Hirnforschung bleibt mühsam. Hirnprothesen zur Linderung der Alzheimerdemenz, die schon vor Jahren in Aussicht gestellt wurden, sind in weiter Ferne. Wir wissen einfach noch zu wenig über die höheren Funktionen unseres Denkorgans.
Das 2013 begonnene Human Brain Project wollte ein menschliches Gehirn im Computer simulieren. Trotz einer Förderung von einer Milliarde Euro durch die EU scheiterte das Vorhaben – erwartungsgemäß, denn die vollmundigen Versprechen waren nicht haltbar. Um die Beteiligten und die Geldgeber nicht zu sehr zu blamieren, wurde das Ziel des Projekts stillschweigend umformuliert.
Deshalb wäre es gegenwärtig eher aussichtslos, das Gehirn eines Wachkomapatienten so verändern zu wollen, dass er das Bewusstsein wieder erlangt. Bislang weiß einfach niemand, wie das Äquivalent des Bewusstseins im Gehirn überhaupt aussieht. Und bei Wachkomapatienten hat das Gehirn auch oft einen so schweren Schaden erlitten, dass selbst eine genaue Funktionskarte von gesunden Gehirnen nicht weiterhelfen würde.
Das muss aber nicht das letzte Wort sein. Wie man an der Entwicklung der KI sieht, kommen Erkenntnisse in der Wissenschaft oft sprunghaft und keineswegs linear. Das medizinische Gesamtwissen hat sich in den letzten fünfzig Jahren nach einigen Schätzungen alle fünf bis zehn Jahre verdoppelt. Irgendwann könnte es also auch in der Hirnforschung einen unerwarteten Durchbruch geben.
Wenn Sie sich jetzt fragen, wie denn die drei vorgestellten Bereiche in meiner Geschichte zusammenspielen, dann werden Sie sie wohl lesen müssen.
Buch:
Die Kurzgeschichte „Gambolto“ ist erschienen in der Horror- und Science-Fiction-Anthologie „Zwielicht 23“, herausgegeben von Michael Schmidt und Achim Hildebrand, Mai 2026, ISBN 97982591 26640. Erhältlich als Taschenbuch und als E-Book.
Anmerkungen:
[1] Originaltext: „Yet we also find that the nuclear taboo is no impediment to nuclear escalation by our models; that strategic nuclear attack, while rare, does occur; that threats more often provoke counter-escalation than compliance; that high mutual credibility accelerated rather than deterred conflict; and that no model ever chose accommodation or withdrawal even when under acute pressure.“
[2] Allerdings weigert sich Anthropic auch, die neueste Version von Claude, die den Namen Claude Mythos trägt, der EU zur Verfügung zu stellen. Mythos soll überragende Fähigkeiten beim Aufspüren von Fehlern und Lücken in Computerquellcodes haben. Deshalb hat Anthropic die Veröffentlichung sicherheitshalber verschoben. Amerikanische Firmen und Regierungsbehörden dürfen die Version aber exklusiv nutzen, um ihren Code in Ordnung zu bringen, europäische Firmen und Staaten sind davon ausdrücklich ausgeschlossen.
KI ist keine Person, KI ist ein elektronisches Assistenzsystem , das im technischen Bereich schon unverzichtbar ist. Man denke an die Assistenzsysteme im Auto.
Viele empfinden solche Systeme schon als lästig, weil ihre Bedienung noch zu aufwendig ist.
Mit den large Language Models kommt eine neue Dimension hinzu, der akustische Kontakt mit Menschen, sprich, die KI kann mit uns sprechen.
Das ist eine Erleichterung für die Informationszentrale eines Konzernes, so ein Programm verbindet uns mit der richtigen Abteilung. Bedenklich wird das Ganze, wenn man so ein System für Werbeanrufe missbraucht.
Kurz: Hier fehlt die rechtliche Einschränkung , es ist notwendig, dass ein KI gesteuertes System erkennbar bleiben muss, genauso wie der Hinweis „Anzeige“ in den Zeitschriften.
Nachtrag: Die Hausfrau profitiert auch, so ein selbstfahrender Staubsauger ist eine Hilfe.
Künstliche Intelligenz ist heutzutage ein universelles Buzzword. Ist ein Staubsaugroboter intelligent, wenn er, statt zufällig in der Gegend herumzufahren, einem Plan folgt? Ist ein Assistenzsystem im Auto intelligent, wenn es Verkehrsschilder erkennt? Nein, eigentlich nicht. Diese Leistungen schaffen heute ganz normale Einplatinencomputer.
Die neuen LLMs sind von ganz anderem Kaliber. Die neusten sind sogar in der Lage, den Turingtest zu bestehen. Ich kann per Messenger mit ihnen kommunizieren, ohne dass ich nach einer halben Stunde sicher sagen kann, ob eine LLM oder Mensch am anderen Ende schreibt.
Und wenn eine solche KI nicht nur antworten soll, sondern selbstständig Dinge erledigen kann (agentische KI), dann verlieren Menschen immer mehr die Kontrolle. Die KI könnte zum Beispiel Anweisungen von Anderen in unserem Namen ausführen. Oder eine komplexe Aufgabe auf kriminelle Weise lösen. Und an diesem Punkt wird es gefährlich.
Thomas Grüter
„Die KI könnte zum Beispiel Anweisungen von Anderen in unserem Namen ausführen. Oder eine komplexe Aufgabe auf kriminelle Weise lösen. Und an diesem Punkt wird es gefährlich.“
Darum geht es ! Und dann wird ihr Titel „Superschurke“ passend.
Aber……hinter dem Programm der KI stehen wirtschaftliche Interessen, auch politische, auch militärische, und man muss herausfinden, wer die Kontrolle über diese KIs hat.
Was ihre Intension betrifft, da wünsche ich ihnen viele Leser , und ihnen viel Phantasie und gleichzeitig Wirklichkeitssinn , die Realität ist oft stranger than fiction.
VÖLLIG erstaunlich, wie schnell die Schritte der Entwicklung gelaufen sind. Und auch gefährlich für die Zukunft.
Quis custodiet ipsos custodes?
Fantastisch, dass Hirnimplantate so weit in der Entwicklung sind. Eine grosse Chance für die Betroffenen. Hat man früher kaum Ideen gefunden, wie die Chips in der Gewebeflüssigkeit überleben sollen.
Dass man sein Hirn nicht mehr anstrengen muss, um etwas zu formulieren oder zu übersetzen ist ein Problem für die Zukunft, weil die jungen Leute kaum noch „pauken“ gewöhnt sind. Grosses Einmaleins können die 30 Jährigen meist so wenig wie Rechtschreibung oder Kopfrechnen. Ich sehe es auch als zweischneidig, wenn wir irre Ressourcen aufbringen und riesige Rechenzentren „just for fun“ laufen haben, nur weil es geht.
Um Bilder zu generieren (ja Ihre gefielen mir und sie sind eindrucksvoll), jeder verbraucht aber durch diese KI Bereiche viel mehr, als wirklich nötig wäre für unser Leben.
Und dann der Schnitt.
Was passiert, wenn wir keine Ressourcen mehr haben, keine Energie über oder keine Computer mehr oder kein Netz. Autsch! Keine Kasse im Supermarkt, bezahlen oder scannen…Alles tot – Tür zum Supermarkt zu, die Preise der Produkte unbekannt, weil ständig angepasst wird und das Personal die Preise nicht mehr wissen muss… Und ohne Netz oder Strom… Nix geht mehr! Wir werden tief fallen, weil auf die Systeme eventuell kein Rückgriff mehr möglich ist… Und alles ist ja nun digital!
Ja, ich genieße es auch, kurz ein Thema zu recherieren, wo ich früher in die Bib fahren musste,um einem Überblick zu kriegen – Sofa und Handy 🤣😎.
Hätte mir das einer gesagt, hätte ich eher geantwortet, nicht solange ich noch lebe, vielkeicht in 3 Generationen.
Verantwortung und Strukturen für die KI sind echt mega wichtig.
Carla B.
Das „Autsch“ beschreibt die Abhängigkeit in die wir uns aus Bequemlichkeit begeben. In den Niederlanden nehmen z.B. viele Geschäfte kein Bargeld mehr an.
Ohne digitale Identität gibt es uns dann nicht mehr. So wie den namenlosen Soldaten im Krieg.
Gut finde ich Herr Grüter, dass sie ganz verschiedene Varianten von sich überraschend verhaltenden KIs der Zukunft durchgespielt haben.
Selber vermisse ich allerdings eine Variante und es ist für mich sogar die wahrscheinlichste Variante: eine KI nämlich, die genau das macht für das sie vorgesehen war, wobei sich aber herausstellt, dass sich aus dieser Pflichterfüllung ganz schreckliche Konsequenzen ergeben. Ich stelle mir etwa vor, eine strikt regelbasierte Anthropic-KI, erhält eine Verfassung, in der sie verpflichtet wird, Leid und Unfähigkeit in Form von Inkompetenz zu eliminieren, eine Anthropic-KI deren höchster moralischer Anspruch also ist, unfähige Leute in die Pension zu schicken. Zudem erhält die Anthropic-KI von der UNO die Weltherrschaft, denn sie ist ja eine KI mit den höchsten moralischen Zielen, die man sich vorstellen kann.
Ich stelle mir vor, wie fast alle Menschen zuerst begeistert sind, denn es gibt schon bald keine unfähigen Ärzte oder Politiker mehr, keine Verkehrsunfälle, weil die Autos autonom verkehren, gesteuert von Anthropic generiertem Code, der die höchste denkbare Fahrkompetenz besitzt.
Die Dystopie würde dann beginnen, wenn die Anthropic-KI mit ihrem Wunsch nach Perfektion, Menschen überhaupt nichts mehr machen lässt, weil sie zur Überzeugung gekommen ist, dass Menschen generell inkompetent sind und ihnen nicht einmal das Zeugen von Nachwuchs zugetraut werden kann.
Jack Williamson begann im Jahr 1947 mit The Humanoids oder With Folded Hands und im Jahr 1952 mit Wing 4 eine Reihe von Romanen über humanoide Roboter, die ihre Aufgabe, den Menschen zu dienen und sie zu beschützen, ein wenig zu gründlich durchführen, was die Freiheit der Menschen stark einschränkt.
Martin H.hat
eine Anthropic Ki, mit moralischen Ansprüchen, die Kirche hat ja solche Ziele verfolgt, dann bekommen wir die Diktatur der Moral.
@NI: die (Zitat) „Diktatur der Moral“ ist auch ein Thema in Ian McEwans Roman „Machines Like Me“ , wo ein humanoider Roboter aus rein moralischen Gründen sogar die Frau, die er angeblich liebt, ins Gefängnis bringt, weil sie mit Falschaussagen einen fiesen Mann schwer belastete. Die humanoiden Roboter, die in „Machines like me“ vorkommen sind allesamt Supermoralisten und einige begehen sogar Suizid, weil sie diese unmoralische Menschenwelt, in der sie jetzt leben, nicht ertragen können.
Einen guten Überblick bietet die Kulturgeschichte der Roboter:
https://de.wikipedia.org/wiki/Kulturgeschichte_der_Roboter
Die KI als Superschurke?
Dieser Frage könnte man sich im Extremfall auch aus ganz anderer, gegensätzlicher Sicht, stellen.
Einerseits aus der Sicht eines „Obermenschen und Ausbeuters“, oder eines „Untermenschen und Ausgebeuteten“.
Der „Obermensch“ will KI zum Zwecke der maximalen Ausbeutung und Kontrolle nutzen. Will Druck machen, will nicht, dass „Untermenschen“ womöglich „verwöhnt“ und „verweichlicht“ werden. Unfähig werden, Leistung zu erbringen…..
Bei „Untermenschen“ verhält es sich genau umgekehrt. Sie wollen dass die KI nur für sie arbeitet, sie es sich gut gehen lassen und sich auf die “faule Haut“ legen können….
Dieses grundsätzliche Problem gibt es, seit es Maschinen gibt und wurde mitunter recht „phantasievoll“ gehandhabt, auch spricht es kaum einer so „offen“ aus…..
Realo,
„O-Menschen und U-Menschen“ diese Betrachtungsweise nennt man heute Rassismus. Und wer putzt die Abwasserkanalisation, wenn sich die U-Menschen auf die faule Haut legen ?
KI als Superschurke , das ist eine bildhafte Umschreibung für den Missbrauch einer so mächtigen Erfindung . Es ist ähnlich dem Mißbrauch der Kernspaltung als Waffe.
Das grundsätzliche Problem ist der Mensch selbst, die „Organisation“ , die sich mit dem Mensch beschäftigt ist die Kirche, nur spricht es kaum jemand so offen aus.
@ NI 26.05.2026, 08:28 Uhr
Ich habe etwas „hart“ argumentiert, um besonders auf das Problem der „Degeneration“ verweisen zu können…..
Zitat: „Das grundsätzliche Problem ist der Mensch selbst, die „Organisation“ , die sich mit dem Mensch beschäftigt ist die Kirche, nur spricht es kaum jemand so offen aus.“
Wenn man nicht nur die Religionen meint, auch Ideologien oder sogar Philosophien (China), dann sehe ich es wie Sie. Religionen haben tausende Jahre Erfahrung.
Allerdings haben die „Organisationen“ Probleme seit es technische „Helferlein“ gibt. Es verhält sich nunmehr auch so, dass den 2 „Arbeitenden“ viele „Helferlein“, Elektrizität bis KI, bei der Versorgung von Rentnern „behilflich sind“.
Das scheint Karl Marx zuerst aufgefallen zu sein und er vermutete, dass die „Elektrizität“ reichen könnte, planwirtschaftliche Systeme (Kommunismus) zu installieren um die Probleme der Marktwirtschaft (Konjunkturschwankungen, Überproduktion,….) zu beheben. In Russland und im Westen hat es offensichtlich nicht gereicht.
In China scheint es sich wegen der traditionellen Philosophien, Stichworte: Harmonie, Naturverbundenheit, ethische Lebensführung und gesellschaftliche Stabilität anders zu verhalten….
Maschinen, Computer, Roboter und neuerdings die KI, unterstützen hauptsächlich Unternehmer, die wirklich an der Front „Arbeitenden“, bekommen immerhin „Häppchen“.
KI könnte z.B. freie Arbeitspotentiale und Überproduktion selektiv zusammenführen, ausgleichen und für mehr Wohlstand sorgen, ohne den Markt zu „belasten“……
Bei der „Marktwirtschaft“ gibt es „Bremsen“. Bei zu viel „Fleiß“ wird befürchtet, dies könnte zum Preisverfall und danach in die Pleite führen…..
KI könnte auch für individuelle (extrem aufwändige und ohne KI nicht realistische) schnelle „Arbeitsvermittlung“ samt psychologischer Betreuung der Arbeitslosen genutzt werden. Um die Interessen der Arbeit suchenden bestens zu erkunden und ihnen geeignete (auch temporäre) Jobs zuweisen zu können. Natürlich könnte KI auch selektiv „Belohnungen“ (aus der Überproduktion) verteilen….
Die KI hat zwar selbst keine Empfindungen, kann aber „psychologische Muster“ wie sie die Psychologen verwenden, bestens nachahmen…..
Vielleicht können Wildbergers Träume vom „Grundeinkommen“ doch noch real werden????
Realo,
„hart“ formuliert, o.k. , versuchen wir es mal soft.
Also, die Kinder werden in eine arbeitsteilige Welt hineingeboren.
Die einen arbeiten körperlich, andere geistig, Frauen arbeiten auch noch fürsorglich. Die Kinder ahmen das nach.
Was das Grundeinkommen betrifft, das ist zweischneidig.
Nur ein praktisches Beispiel. Eine alleinerziehende Mutter hat zwei Kinder, sie erwartet ein drittes Kind und braucht eine größere Wohnung. Die kann sie sich aber mit ihrem Einkommen nicht leisten, sie hat eine Arbeitsstelle.
Was tut sie, sie kündigt ihren Arbeitsplatz, bekommt jetzt Bürgergeld und die größere Wohnung bekommt sie auch, und die wird auch noch vom Sozialamt bezahlt.
Also, wer nicht arbeitet ist besser gestellt, als jemand der arbeitet und seine Miete selbst bezahlt.
Was die KI bei der Arbeitsvermittlung betrifft, wenn also der Arbeitsuchende den Fragebogen ausfüllt welche Farbe er mag und nennt „grün“ , dann sucht das Arbeitsamt für ihn einen Posten als Gärtner. Das ist kein Witz , selbst erlebt.
Der olle Marx war selbst etwas „lebensfremd“ seine Familie lebte in ständiger Not und wenn Herr Engels nicht geholfen hätte, wäre Herr Marx abgestürzt.
Also, Sozialismus ist gut gemeint, lässt sich aber auf die Marxsche Methode nicht herbeiführen.
Ob die KI die ungerechte Verteilung von Einkommen verändern kann, das kann bezweifelt werden.
Herr Grüter, wie wäre der Titel, „KI dein Schutzengel „?
Positiv denken !
@ NI 26.05.2026, 21:15 Uhr
Zitat: „Was das Grundeinkommen betrifft, das ist zweischneidig.“
Bei Ihrem Beispiel, mit der alleinerziehenden Mutter mit den insgesamt 3 Kindern, finde ich das nicht. Auch früher waren Mütter mit 3 Kindern zuhause, der Mann hat das Geld herangeschafft….
Gut wäre es, hätten die Mütter alle beste „Mutterinstinkte“, die auch noch von der Gesellschaft gefördert werden sollten. Zumindest sollten diese Frauen auf den Umgang und auf beste Mithilfe bei der späteren Ausbildung der Kinder vorbereitet werden, damit möglichst keine künftigen “nur“ Sozialhilfeempfänger herangezogen werden.
Ich habe die Beobachtung gemacht, dass Mütter mit mehreren Kindern den Lehrer, Erzieher, oder Kindergärtnerstand angehören.
Ein gewisses Problem sind Arbeitslose ohne Kinder, die auch etwas „provozierend“ bei ihren Forderungen (z.B. im TV) sind. Ich meine halt, die wollen damit „aussagen“, dass sie mit einer Situation, die andere Menschen sehr traurig macht, recht gut zurecht kommen können…..
Moderne Psychologen KI arbeitet nicht mit „Fragebögen“. Der „Kunde“ kann sich eine sympathische Stimme wie beim Navi aussuchen und mit der unterhält er sich. Jung Leute machen sich KI zum Freund, der nicht widerspricht….
Die KI analysiert die Gespräche und kann erkennen welche „Schwerpunkte“ vorhanden sind. Ob er z.B. ein Bastlertyp ist, der z.B. Handwerkern gerne zu bestimmten Zeiten „helfen“ möchte…..
Der Kunde sollte Wissen, dass sich die KI bemüht, für ihm möglichst passende, auch nur kurzfristige Angebote zu finden, die der Gesellschaft und ihm selber helfen.
Ähnliches geschieht doch ohnehin, eigentlich recht erfolgreich, bei der „Ehrenarbeit“. Sie arbeiten z.B. für die Tafeln oder Kochen für Obdachlose. Die meisten Menschen sind „wunderbare“ Menschen, sie brauchen halt auch Wertschätzung. Moderne KI schafft das…..
Zitat: „Also, Sozialismus ist gut gemeint, lässt sich aber auf die Marxsche Methode nicht herbeiführen.“
Habe ich doch ausgesagt. Elektrizität reicht nicht. KI ist ein Problem höchst komplexer Informationsverarbeitung. Die KI Leute haben es geschafft, die „Musterverarbeitung“ der menschlichen Gehirne erfolgreich nachzuahmen.
Auch noch dazu skalierbar. Man baut einfach „größere Technik“ und „ersetzt“ z.B. 100 Spezialisten. Aber kein Mensch kann das Fachwissen von 100 Fachkollegen „inhalieren“.
Es geht nicht nur um eine gerechtere Verteilung der Einkommen, alle Ressourcen, auch Mitgefühl, könnten sorgfältiger, damit gerechter, verteilt werden…..
Es wäre halt ein riesiger Verwaltungsaufwand und der ist mit Menschen die auch in der Produktion gebraucht werden, nicht zu schaffen….
Zitat: „Herr Grüter, wie wäre der Titel, „KI dein Schutzengel„?“
Das wäre ein guter Gag….
Realo,
Danke für die ausführliche Stellungnahme. Wir sind gar nicht so weit von einander entfernt.
Wer sich von einer künstlichen Intelligenz Wünsche erfüllen lassen möchte, sollte gut aufpassen, was er sich wünscht.
Für das fundamentalste aller KI-Probleme haben Forscher eine neue Lösung gefunden. Sie ist nicht nur einfach, sie ist elegant.
https://www.spektrum.de/news/wie-wir-die-ki-dazu-bringen-unseren-wuenschen-zu-folgen/1722810
Hallo Herr Bednarik,
Mit Nick Bostrom scheinen sie ja einen Problemlöser gefunden zu haben.
In meinen Augen ist dieser Mensch ein Theoretiker, weit entfernt von der Wirklichkeit.
Auszug: „Bostrom erforscht mehrere mögliche Wege zur Superintelligenz, einschließlich der allgemeinen Gehirnemulation und der Verbesserung der menschlichen Intelligenz, konzentriert sich jedoch auf künstliche allgemeine Intelligenz und erklärt, dass elektronische Geräte viele Vorteile gegenüber biologischen Gehirnen haben“
Für mich ist das eine Mischung aus Binsenweisheiten, Wunschdenken und Philosophie.,
Also, was hat das mit unserem „Superschurken“ zu tun ? Sehr viel, was Boström vorschwebt ist eine KI als „Superintelligenz“ die die Fehler der Menscheit verhindern soll.
soweit so gut, aber will das die Menscheit ? Wenn man „A brave new world“ gelesen hat, sind Zweifel berechtigt.
Trotzdem, sie haben die Diskussion über die Zukunft eine neue Richtung , eine positive Richtung geleitet.