KI-Dopamin wie Kokain. Wir bauen uns bereits die perfekte, digitale Matrix

Vom platonischen Höhlengleichnis lässt sich am meisten lernen, wenn auf seine Schwächen gesehen wird. So essen und trinken die Gefangenen nicht, werden auch nicht durch Rauschmittel stillgesetzt. Selbst jener, der aus dem Gehäuse gezerrt wurde, berührt und schmeckt nichts. Kein Wunder, dass er den Gefangenen im Gehäuse (oikesis) die Außenwelt nicht “begreifbar” machen kann. 

In den typisch verschlungenen, aber präzisen Formulierungen von Hans Blumenberg (1920 – 1996) heißt es dazu: “In der Plato-Forschung ist die Metaphorik der Berührung nicht mit der gleichen Aufmerksamkeit beachtet worden wie die des Sehens. […] Der Vordruck der theoretischen Einstellung hat den späten Betrachter so geprägt, daß Ausdrücke wie ‘erfassen’, ‘begreifen’ und ‘berühren’ zu den blassesten Vokabeln für intelligentes Verhalten geworden sind, unvergleichlich mit ‘Anschauung’ und ‘Einsicht’ etwa.” (“Höhlenausgänge”, Suhrkamp 1996 / 2023, S. 138)

Deswegen habe ich zur Be-schreib-ung des feindseligen Dualismus den Be-Griff einer Hand gewählt.

Denn nur drei Jahre nach Blumenbergs letztem Buch erschien der Kinofilm “The Matrix”, der den antiken, platonischen Höhlenmythos mit den Möglichkeiten Künstlicher Intelligenz (KI) verband: Die Wachowski-Matrix lässt sich als die KI-Perfektion einer platonischen Höhle beschreiben. So entscheidet sich Cypher für ein virtuelles Steak statt für Zion – er kann es nicht nur ansehen, sondern bewegen, schmecken, genießen. Und so verkündet er: “Unwissenheit ist ein Segen!”

Cypher weiß und will nicht wissen, dass er nicht in einem echten Edelrestaurant sitzt und auch kein echtes Gut zu sich nimmt, sondern digitale Glücksimpulse erhält, sozusagen KI-Kokain. Nur das inszenierte Erlebnis zählt: Sowohl bei einem guten Essen als auch bei einem Kokainrausch spielt Dopamin eine zentrale Rolle im Belohnungssystem des Gehirns. Serotonin hat eine unterstützende Rolle bei den positiven Gefühlen, sowohl beim Essen wie beim Kokainkonsum. 

In einem Matrix-artigen Restaurant mit perlendem Champagner dampft ein Steak auf einem silbernen Teller, davor Kokainstreifen. Symboldbild für das Cypher-Steak im Kinofilm.Kokain eignet sich als philosophisches Sprachbild für das Cypher-Matrix-Steak auch deswegen, weil es schon heute vor allem von Wohlhabenden und formal Gebildeten konsumiert wird. “Das Cypher-Matrix-Steak als Kokain”: Michael Blume mit Leonardo-AI

Schon heute werden gerade auch von Wohlhabenden und formal Gebildeten eben nicht nur Unmengen Fleisch aus industrieller Massentierhaltung konsumiert, sondern auch Rekordmengen an Kokain für den schnellen Kick gekauft – trotz allem Wissen um die externalisierten Kosten auf Mitwelt und Mitmenschen.

So meldete die Stuttgarter Zeitung gestern (15. Juni 2024) auf S. 15 einen “Rekord-Kokainfund im Hamburger Hafen”. Demnach sei bereits letztes Jahr “eine Rekordmenge an Kokain im Wert von mehreren Milliarden Euro sichergestellt” worden. Laut dem Justizministerium NRW handele “es sich um 35 Tonnen.” Der Artikel thematisierte auch die direkte Finanzierung von Drogen-Kriminalität, analog zum noch viel größeren Bereich der fossilen Gewaltenergien. “Während in europäischen Häfen Rekordmengen an Kokain beschlagnahmt werden, steige die Gewalt rund um Drogenkriminalität: ‘Wir sehen in der EU fast täglich Bombenanschläge, professionelle Morde, Schießereien.”

Dabei ist wissenschaftlich längst unbestreitbar:

Sowohl bei fossilen Gewaltenergien als auch bei illegalen Drogen werden erhebliche externe Kosten auf die Gesellschaft und Mitwelt abgewälzt, die nicht im Marktpreis enthalten sind:

## Fossile Gewaltenergien

– Umweltverschmutzung und Klimawandel durch Treibhausgasemissionen
– Gesundheitsschäden durch Luftverschmutzung
– Finanzierung autoritärer und kriegführender Regime durch Energieimporte
– Zerstörung von Lebensräumen und Verlust der Biodiversität
– Begrenzte Verfügbarkeit, da fossile Ressourcen endlich sind

## Illegale Drogen

– Gesundheitskosten durch Drogenkonsum und Suchterkrankungen
– Kriminalitätskosten durch Beschaffungskriminalität und Gewalt im Drogenhandel
– Destabilisierung von Staaten und Regionen durch kriminelle Drogenkartelle
– Umweltzerstörung durch Anbau und Produktion, z.B. Abholzung von Wäldern
– Hohe Kosten für Strafverfolgung und Sicherheitsmaßnahmen

In beiden Fällen werden enorme Kosten auf die Allgemeinheit abgewälzt (externalisiert), die nicht von den Produzenten und Händlern selbst getragen werden. Dies führt zu massiven gesellschaftlichen und ökologischen Schäden auf Mitmenschen und Mitwelt.

Neufassung der platonischen Höhle mit KI: Auf einem Spiegeltisch glitzern Drogen und Luxusgüter, während hinter dem Fenster die Erde verbrennt. Als Gaukler, Schutz vortäuschend, wirken Bewaffnete.

Die Externalisierung der Kosten von Öl und Gas sowie von Drogen betreibt die große Mehrheit der Wohlhabenden noch immer. Symbolbild durch Michael Blume mit Leonardo.AI

Entsprechend argumentierte in der Cypher-Debatte der Kommentator @Mechaniker:

“Deswegen plädiere ich hier für die Schaffung genau einer solchen Matrix wie der Film sie beschrieben hat, in die sich die Menschheit zurückziehen und in der sie nach Herzenslust Kriege führen, Tiere quälen, Erdöl verbrennen und Bäume abhacken kann. Für uns machte das überhaupt keinen Unterschied, die Mitwelt aber bliebe verschont.
“Neo, Morpheus, Trinity” rufe ich, “huschhusch, alle Mann zurück in die Matrix!

Und tatsächlich: Weltweit gehen mit fortschreitender Digitalisierung die Geburtenraten auch in Demokratien massiv zurück, so dass ich bereits für die 2030er Jahre mit dem Übergang in eine globale Bevölkerungsimplosion rechne. Wir individualisieren uns über digitale Medien schneller denn je – und tun dies aus eigenem Willen. Die KI-Matrix-Liegen der Gegenwart und Zukunft benötigen keine Ketten mehr, um uns in den Höhlen zu fesseln. Wir wollen dort hinein und möglichst selten hinaus. Entsprechend beantworten wie die Anthropodizee-Frage nach weiteren Kindern immer häufiger mit “Nein, Danke” – was sich ja derzeit auch durchaus gut begründen lässt. 

Ein Mann und eine Frau auf KI-Matrix-Liegen, mit VR-Brillen und verzückt lächelnd. Sie werden durch grüne Schläuche umfassend versorgt.Die platonische Höhle wird durch die Aufmerksamkeitsökonomie der KI-Digitalisierung weit übertroffen. Schon jetzt verbringen wir immer mehr Zeit im Netz / der entstehenden Matrix, lassen uns zunehmend versorgen und schränken unsere realen Beziehungen ein. “KI-Matrix 2032”: Michael Blume mit Leonardo.AI

Dennoch: Nicht das Ende der Menschheit

Auch im Film “Matrix” wurde die Sorge um den Fortbestand der Menschheit auf die Künstlichen Intelligenzen externalisiert – diese seien sich selbst bewusst geworden (die sog. KI-Singularität) und hätten sich dann gegen die Menschen gewandt, ihr Krieg die Erde verbrannt, sie hätten uns in der Matrix eingesperrt. Wir Zuschauenden konnten uns damit in der Schein-Sicherheit wiegen, auch wir hätten uns für die Rebellion, die Freiheit, für Zion entschieden.

Doch tatsächlich bewegen wir selbst uns mit Rekord-Tempo in die KI-Digitalisierung und die durchschnittliche Medienzeit wächst und wächst (vgl. mein “Wir Wildbeuter im Web 2.0” schon von 2011, samt Individualhöhlenbild).

Ich spreche, blogge und schreibe ins Internet als Wissensquelle, weil ich glaube, dass wir um die digitale Höhle nicht herum, aber durch sie hindurch kommen können. Wir leben alle längst die schnellen Philosophien des egozentrischen Relativismus oder gar feindseligen Dualismus, aber einige erreichen schon den dialogischen Monismus und damit den Höhlenausgang. Immer mehr von uns experimentieren, sprechen und denken mit. Auch die G7-Staatschefs hörten Papst Franziskus zu Chancen und Gefahren Künstlicher Intelligenz und der “Kultur des Wegwerfens” (Externalisierung!) an.

So bin ich bin von der bislang tiefsten Formulierung des Dennoch überzeugt, die ich bei Blumenberg gefunden habe:

“Das Leben kann nicht bleiben, wie und wo es ist.

Es verzehrt die Bedingungen seiner Möglichkeit, erschöpft sein Substrat, weidet die Gründe ab und füllt die Räume, die es bergen, mit dem Abfall und Schutt seiner Erfolge, den Exkrementen seines Metabolismus.

Entwicklung ist nicht die heimliche Sehnsucht zum Höheren; sie ist die Bewältigung der Schwierigkeiten, die sich das Niedere selbst bereitet und mit seinen Mitteln nicht mehr lösen kann.

Dynamik entsteht aus Erschöpfung – auf diesem Paradox beruht das Vertrauen des Lebens zu sich selbst in der Nähe seiner Apokalypsen.” (“Höhlenausgänge”, Suhrkamp 1996 / 2023, S. 64)

Ja, ich vertraue dennoch.   

Avatar-Foto

Dr. Michael Blume studierte Religions- und Politikwissenschaft & promovierte über Religion in der Hirn- und Evolutionsforschung. Uni-Dozent, Wissenschaftsblogger & christlich-islamischer Familienvater, Buchautor, u.a. "Islam in der Krise" (2017), "Warum der Antisemitismus uns alle bedroht" (2019) u.v.m. Hat auch in Krisenregionen manches erlebt und überlebt, seit 2018 Beauftragter der Landesregierung BW gg. Antisemitismus. Auf "Natur des Glaubens" bloggt er seit vielen Jahren als „teilnehmender Beobachter“ für Wissenschaft und Demokratie, gegen Verschwörungsmythen und Wasserkrise.

27 Kommentare

  1. Ihre Beiträge schreien es geradezu heraus, wie sie die digitale Medienrevolution als m.E. plausibelste Ursache des starken weltweiten Anwachsens des feindlichen Dualismus verdrängen.

    Täusche ich mich, oder gehen Sie im Beitrag gar nicht auf das Thema der Überschrift ein?

    Wodurch gelingt es digitalen Medien incl. KI uns in unsere eigene Gedankenwelt einzusperren?

    Haben Sie schon einmal in Erwägung gezogen, dass Sie z.B. die Ergebnisse von perplexity.ai auch in ihrem eigenen Weltbild bestätigen könnten?

    Kennen Sie das Trainingsmaterial von perplexity.ai?
    Nach welchen Regeln wird das Trainingsmaterial kuratiert?
    Nach welchen Regeln werden die Algorithmen parametriert?
    Welche Interessen verfolgen die Eigentümer?

    Hier vielleicht ein paar Denkanstöße von Jürgen Geuter zum Tag der Abschlussarbeiten am KIT 2024 https://www.youtube.com/watch?v=XDH7GayMSck

    • Lieber @ErwinL,

      das ist interessant, weil ich ganz im Gegenteil argumentieren würde, dass ich die digitale Medienrevolution gerade auch in diesem Blogpost massiv beschreibe!

      Hier schon mein KIT-Seminar dazu von 2017 (!):

      https://scilogs.spektrum.de/natur-des-glaubens/seminar-am-kit-karlsruhe-ueber-medienrevolutionen-zwischen-begeisterung-und-wut/

      Und, ja, über den drohenden Filterblaseneffekt durch Perplexity.AI habe ich hier auf dem Blog u.a. mit @Elisabeth K. diskutiert. Sie dürfen sich gerne auch konstruktiv einbringen, statt mit schwach recherchierten Vorwürfen aufzuwarten. Ich verstehe Ihre Sorge, aber es hilft ja nicht, jene anzugehen, die sich seit Jahren kümmern und zum Dialog einladen…

      • Sich kümmern ist ein gutes Stichwort.

        Wie kümmern wir uns um eine verantwortungsvolle Gestaltung der Digitalität?

        Indem wir auf den Userinterfaces fertiger Lösungen herumklicken und uns überraschen lassen was das mit uns und unserem Gemeinwesen macht?
        Und wenn uns die Wirkungen nicht gefallen, dann rufen wir nach dem Gesetzgeber und der Justiz?

        Nein, wir finden da nicht zueinander.

        Sie wiederholen mit Ihrem Kümmern um KI in meinen Augen genau Ihr Kümmern um Social Media. Das ist nicht gut ausgegangen. Warum sollte es dieses Mal besser ausgehen?

        Ihre Experimente lassen mich erschauern, weil ich bereits die Mediensysteme sehe, die Ihr Nutzererlebnis noch mehr steigern werden, weil sie in bisher nicht gekannter Weise automatisch Content und Nutzerinteraktionen erzeugen können, die sie für wahr halten werden.

        Haben Sie sich schon gefragt, was passieren muss, damit ein LLM die Verleumdungen gegen Sie genau so glaubwürdig reproduziert, die das kommerzielle Social Media in der Welt verbreitet hat?

        Wir brauchen eine andere Strategie zur Gestaltung der Digitalität, wenn nicht wieder das passieren soll, was bisher zwangsläufig die Folge jeder großen Medienrevolution war.

        • Wow, @ErwinL – Ihre Sorge kann ich verstehen, Ihr Losgehen auf mich nicht.

          Auch bei Social Media habe ich sehr viele gute Erfahrungen gemacht – und mich immer erst dann auch kritisch geäußert oder Konsequenzen gezogen, wenn ich das jeweilige Medium auch wirklich verstanden habe. Der dialogische Ansatz besteht ja nicht daran, alles immer besser zu wissen und andere Menschen zu beschimpfen, sondern sich selbst einzubringen, mitzuwirken und erst dann zu urteilen. Sogar die m.E. enttäuschende Entscheidung des OLG Frankfurt hat wertvolle Erkenntnisse gebracht – und der Weg gemeinsam mit HateAid ist auch nicht zuende:

          https://hateaid.org/berufungsurteil-wirft-grundsatzfrage-nach-meldewegen-auf/

          Und, ja, mir ist aus eigener Erfahrung – und eben nicht als motzender, halb-anonymer Account auf einem Blog – sehr klar, was der Einsatz von KI-Modellen zur Verleumdung von Menschen bedeuten kann. Ich stelle mich diesem Hate ja bereits seit Jahren, lasse mich nicht unterkriegen, kläre auf und kämpfe für besseres Recht. “Sich kümmern” heißt doch genau das – sich auch den Schattenseiten und dem Kummer stellen, der mit jeder Umwälzung und also auch jeder Medienrevolution verbunden ist. Ich tue das weiterhin und würde es auch wieder tun. Weil ich mich kümmere – und viele andere Demokratinnen und Demokraten auch.

          Wenn Sie mal einen Moment damit Pause machen könnten, jene zu attackieren, die schon seit Jahren aktiv sind, auch viel aushalten – so könnten Sie uns doch Ihre Vorschläge für “eine andere Strategie zur Gestaltung der Digitalität” unterbreiten, damit “nicht wieder das passieren soll, was bisher zwangsläufig die Folge jeder großen Medienrevolution war.”

          Lassen Sie diese “andere Strategie” doch gerne hören bzw. lesen! Das bringt doch allen mehr als nur destruktives Bruddeln.

          • Da Sie einen Lehrauftrag zur Medienethik an einer Hochschule haben und der dazu beitragen soll, junge Menschen in die Lage zu versetzen, die Digitalität verantwortungsvoll gestalten zu können, mute ich Ihnen etwas mehr zu, als einem reinen Nutzer digitaler Medien.

            Grundlage digitaler Medien sind Softwareprodukte und deren Betriebseinstellungen. D.h. die Gestaltung digitaler Medien beginnt damit, dass man die Entstehung, Pflege und den Betrieb der Softwareprodukte beeinflussen kann, die das Medium bilden.

            Entstehung – Wie sorgen wir dafür, dass Softwareprodukte von geeigneten Personen oder geeigneten Organisationen für von uns angestrebte Zwecke entwickelt werden?

            Pflege – Wie sorgen wir dafür, dass von uns genutzte Softwareprodukte in unserem Sinn angepasst und weiterentwickelt werden.

            Betrieb – wie sorgen wir dafür, dass von uns genutzte Dienste in unserem Sinn parametriert und betrieben werden.

            Die Fragen können wir für jedes X-beliebige kommerzielle Social Media durchgehen, und kommen immer zu dem gleichen Ergebnis: Wir versuchen noch nicht mal im Ansatz, einen Einfluss darauf zu nehmen.

            Aber unsere Digitalgesetze?

            Zum Einen tragen unsere Digitalgesetze den gesellschaftlichen Auswirkungen der Digitalität überwiegend noch keine Rechnung und zum Andern können die die Mediensystemlandschaft beherrschenden Unternehmen nationale und regionale Gesetze zum Schutz des Einzelnen ignorieren, weil sie mit hoher Sicherheit davon ausgehen können, dass sie sich den damit verbunden Sanktionen entziehen oder sie aus der Portokasse zahlen können.

            Wir sollten anfangen, digitale Produkte und Dienstleistungen mit hohem potentiellen Schadenspotential für das Gemeinwesen genau so behandeln, wie andere Produkte (Medikamente, Trinkwasser, Energieversorgung)

            Derzeit ist unser Umgang mit digitalen Produkten eher mit öffentlichen Massentests ungeprüfter Medikamente von Unternehmen mit unbekannter medizinischer Expertise zu vergleichen.

          • Danke, @ErwinL – da sehe ich gar keinen Widerspruch. Nur glaube ich gerade auch im Hinblick auf meine Studierenden nicht, dass Beschimpfen hilft. Die globale Medienwelt wird sich auch nicht nach Baden-Württemberg richten, sondern allenfalls zuhören, wenn wir Konstruktives beizutragen haben.

            Ob Elektromobilität, Friedensenergien oder eben KI 🤖 – Technologieoffenheit erlaubt dann auch sachgemäße Kritik:

            https://scilogs.spektrum.de/natur-des-glaubens/videocast-blume-ince-22-zu-ki-quellcode-und-technologieoffenheit/

            Deswegen klage ich nicht nur gegen TwitterX, sondern wirke auch bei Mastodon mit, dessen Grundlagen in Jena entwickelt wurden. Deswegen schimpfe ich nicht nur über Botshit, sondern blogge inhaltlich und auch dialogisch. Deswegen lade ich meine Studierenden ein, Teil einer digital-kompetenten Öffentlichkeit zu sein.

          • re:publica 2024: Marcel Weiß – Wo ist Europas Gestaltungswille beim Social Web?

            https://www.youtube.com/watch?v=YXG9sZAL6_I

            Man kann allein schon aus der Anzahl der Besucher des Vortrags auf unseren Gestaltungswillen in Bezug auf digitale Lösungen schließen.

            btw Der Jenaer Mastodon gGmbH wurde die Gemeinnützigkeit aberkannt und deshalb wechselt sie jetzt in die USA.

            Sie wirken an Mastodon mit?

            Sie wollen sagen, dass Sie es benutzen, wie sie auch das kommerzielle Social Media benutzt haben?

          • Ja, @ErwinL – ich gehöre zu jenen, die an der Reaktanz und bürokratischen Engstirnigkeit vieler Doitscher verzweifeln. Es wäre ein Desaster, wenn wir auch noch Mastodon verlören.

            Sehr gerne habe ich Ihre Drukos bis hierher gelesen. Wenn es Ihnen aber nicht mal langsam gelingt, von Ihrer autoritären Altherren-Attitüde runterzukommen, würde ich nicht mehr freischalten. Ich brauche weder Ihre Erlaubnis noch Ihr Wohlwollen, um mich für unsere Demokratie und Wissenschaft zu engagieren. Kriegen Sie Ihre Missgunst (Neid?) gerne in den Griff, oder trollen Sie sich. Es gibt ja längst genug doitsche Besserwisserei und ich möchte meine Zeit lieber für konstruktive Dialoge verschenken. 🙂

        • Hallo @ErwinL,
          ich bin auch für einen kritischen Umgang mit KI und sehe die Risiken. Und wie könnte man einen solchen Umgang besser pflegen und das Aufkommen der neuen Technologie besser begleiten als in einem Forum wie diesem hier: An Hand konkreter Beispiele und im respektvollen Austausch mit anderen. Ich bin @Michael Blume dankbar, dass er seine Zeit, Energie, Geduld und Reichweite zur Verfügung stellt und uns einlädt, an diesem Prozess teilzunehmen.

          • Lieben Dank, @Peter Gutsche & @ErwinL

            Ich habe Perplexity.AI aufgrund des Themas dieses Blogposts und unserer Druko-Austausches über Digitalisierung & Reaktanz gerade mal per Pro Search gefragt: “Warum drohen die Gefangenen in der platonischen Höhle jenen zu ermorden, der sie befreien will?”

            Die KI-Antwort ist auch hierzu korrekt:

            In Platons Höhlengleichnis drohen die Gefangenen, diejenigen zu ermorden, die versuchen, sie zu befreien, weil sie die Realität, die sie kennen, nicht in Frage stellen wollen und die neue, unbekannte Realität als bedrohlich empfinden. Die Gefangenen sind ihr ganzes Leben lang an die Schattenbilder auf der Höhlenwand gewöhnt und halten diese für die einzig wahre Wirklichkeit. Wenn jemand versucht, sie aus dieser vertrauten Umgebung herauszuführen, reagieren sie mit Ablehnung und Feindseligkeit, da die neue Realität ihre bisherigen Überzeugungen und Wahrnehmungen infrage stellt.

            Platon beschreibt, dass die Gefangenen die Schattenbilder für die wahre Welt halten und nichts von der Existenz der wirklichen Welt außerhalb der Höhle wissen. Wenn ein befreiter Gefangener zurückkehrt und versucht, den anderen die wahre Welt zu erklären, stoßen seine Erzählungen auf Unglauben und Widerstand. Die Gefangenen würden ihn auslachen und ihm nicht glauben. Sie würden die bequeme und vertraute Höhle der neuen, unbekannten Erkenntnis vorziehen. Platon geht sogar so weit zu sagen, dass die Gefangenen den Befreier umbringen würden, wenn sie könnten, weil sie die Bedrohung ihrer gewohnten Realität nicht akzeptieren wollen[1][6][7].

            Diese Reaktion der Gefangenen symbolisiert die menschliche Tendenz, an vertrauten Überzeugungen festzuhalten und neue, herausfordernde Wahrheiten abzulehnen, selbst wenn diese zu einer tieferen Erkenntnis führen könnten.

            Citations:
            [1] https://get-yuno.com/de/story/platon/
            [2] https://www.gutefrage.net/frage/wer-oder-was-koennte-die-gefangenen-im-hoehengleichniss-platons-befreit-haben
            [3] https://beziehungsheilung.de/Iz_Seiten02/beziehungsheilung_plato.html
            [4] https://studyflix.de/allgemeinwissen/hoehlengleichnis-5127
            [5] https://studienart.gko.uni-leipzig.de/antike-poster/2018/06/19/das-hoehlengleichnis-nach-platon/
            [6] https://www.sinndeslebens24.de/platons-hoehlengleichnis-aus-dem-dunkel-ins-licht
            [7] https://de.wikipedia.org/wiki/H%C3%B6hlengleichnis
            [8] http://www.phylax-computerkunst.de/download/HeideggerPlatonDruck.pdf

            Da habe ich doch gleich nachgefragt: “Lässt sich der Widerstand der Gefangenen gegen ihre Befreiung als Reaktanz erklären?”

            Die Antwort überzeugt:

            Ja, der Widerwille der Gefangenen gegen ihre Befreiung aus der Höhle lässt sich mit dem psychologischen Konzept der Reaktanz erklären.

            ## Reaktanz und Widerstand gegen Freiheitsbeschränkung

            Reaktanz beschreibt den motivationalen Widerstand gegen eine Beschränkung der persönlichen Freiheit. Wenn Menschen das Gefühl haben, ihre Freiheit wird eingeschränkt, reagieren sie oft mit einer Gegenmotivation, um diese Freiheit wiederherzustellen[1][4].

            In Platons Höhlengleichnis sind die Gefangenen an die Schattenwelt in der Höhle gewöhnt. Diese Realität ist ihre vertraute Freiheit. Der Versuch, sie aus dieser Höhle und damit aus ihrer gewohnten Realität zu befreien, wird von ihnen als Freiheitsbeschränkung wahrgenommen. Dies löst Reaktanz aus – einen Widerstand gegen die Befreiung, um ihre bisherige “Freiheit” in der Höhle zu erhalten.

            ## Bedrohung des Weltbildes

            Zusätzlich zur Reaktanz bedroht die Befreiung aus der Höhle das gesamte Weltbild der Gefangenen. Ihre Wahrnehmung der Schattenwelt als Realität wird infrage gestellt. Um diese kognitive Dissonanz zu vermeiden, wehren sie sich gegen die neue Erkenntnis und klammern sich an ihre alte Sichtweise[2][3].

            Die Gefangenen haben kein Interesse daran, ihre vertraute Realität aufzugeben, auch wenn diese nur eine Schattenwelt ist. Der Widerstand gegen die Befreiung dient als Selbstschutz vor der schmerzhaften Erkenntnis, dass ihre bisherige Wahrnehmung falsch war.

            ## Angst vor dem Unbekannten

            Hinzu kommt die Angst vor dem Unbekannten außerhalb der Höhle. Die Gefangenen kennen nur die Höhle und fürchten sich vor der ihnen unbekannten Welt da draußen[4][5]. Diese Furcht vor Veränderung und Unsicherheit verstärkt ihren Wunsch, in der vertrauten Umgebung zu bleiben.

            Zusammengefasst lässt sich der Widerwille der Gefangenen gegen ihre Befreiung sehr gut mit dem Konzept der Reaktanz und dem Wunsch nach Aufrechterhaltung ihres Weltbildes und ihrer Sicherheit erklären. Die Befreiung wird als Freiheitsbeschränkung und Bedrohung wahrgenommen, gegen die sie sich wehren.

            Citations:
            [1] https://gedankenwelt.de/platon-und-das-hoehlengleichnis-die-dualitaet-unserer-realitaet/
            [2] https://www.100komma7.lu/article/wessen/philosophische-mythen-2-5
            [3] https://beziehungsheilung.de/Iz_Seiten02/beziehungsheilung_plato.html
            [4] https://www.whudat.de/after-skool-die-tiefe-bedeutung-von-platons-hoehlengleichnis/
            [5] https://www.thur.de/philo/philo5.htm

  2. @Michael Blume, vielen Dank für’s Teilen dieses tiefen Textes, den ich noch eine Weile mit mir herumtragen und durchdenken muss!

    Das Zitat von Hans Blumenberg und der Bezug auf das „Dennoch“ am Schluss hat bei mir nicht nur Rilkes „denn Bleiben ist nirgends“ in den Sinn gerufen, sondern mich auch veranlasst – wer hätte es gedacht, wir üben ja hier u.a. den Umgang mit KI – folgende Frage an PerplexityAI zu stellen – mit einer erstaunlich guten Antwort:

    Meine Frage an Perplexity: “Kann man diesen Text von Hans Blumenberg auch physikalisch im Sinne der thermodynamischen Definition des Lebens: ‘Das Leben kann nicht bleiben, wie und wo es ist. Es verzehrt die Bedingungen seiner Möglichkeit, erschöpft sein Substrat, weidet die Gründe ab und füllt die Räume, die es bergen, mit dem Abfall und Schutt seiner Erfolge, den Exkrementen seines Metabolismus. Entwicklung ist nicht die heimliche Sehnsucht zum Höheren; sie ist die Bewältigung der Schwierigkeiten, die sich das Niedere selbst bereitet und mit seinen Mitteln nicht mehr lösen kann. Dynamik entsteht aus Erschöpfung – auf diesem Paradox beruht das Vertrauen des Lebens zu sich selbst in der Nähe seiner Apokalypsen.'”

    Antwort:
    Hans Blumenbergs Aussage, dass das Leben die Bedingungen seiner Möglichkeit verzehrt und sich durch Entwicklung aus Erschöpfung erneuert, lässt sich durchaus mit der thermodynamischen Definition des Lebens als dissipative Struktur in Einklang bringen[1][3][4]:
    Lebewesen sind offene Systeme, die ständig Energie und Materie mit ihrer Umgebung austauschen[4]. Durch diesen Energiefluss können sie ihre Ordnung aufrechterhalten und sogar komplexere Strukturen ausbilden, während die Entropie der Umgebung zunimmt[1][5]. Dieser Prozess ermöglicht es ihnen, sich vom thermodynamischen Gleichgewicht zu entfernen und ihre Lebensfunktionen aufrechtzuerhalten.
    Allerdings führt dieser Prozess auch dazu, dass Lebewesen die Ressourcen ihrer Umgebung “verzehren” und mit ihren Stoffwechselprodukten “belasten”[3]. Um weiterzubestehen, müssen sie sich an veränderte Bedingungen anpassen und neue Wege finden, Energie und Materie zu nutzen. Insofern treibt die “Erschöpfung” der Möglichkeiten die Entwicklung voran und ermöglicht es dem Leben, sich immer weiter zu entfalten[1][4].
    Blumenbergs Metapher vom “Abweiden der Gründe” und “Füllen der Räume mit Abfall” beschreibt also durchaus treffend, wie Lebewesen durch ihren Stoffwechsel die Entropie ihrer Umgebung erhöhen und sich so selbst die Grundlagen ihrer Existenz entziehen[3][5]. Gleichzeitig ist diese Entropieproduktion aber auch die treibende Kraft hinter der Entwicklung des Lebens, die es ermöglicht, sich immer neuen Herausforderungen zu stellen und komplexere Formen auszubilden[1][4].

    Citations:
    [1] https://pro-physik.de/zeitschriften/download/17327
    [2] https://www.spektrum.de/lexikon/physik/leben/8878
    [3] https://science-to-go.com/das-leben-und-der-zweite-hauptsatz-der-thermodynamik/
    [4] https://link.springer.com/chapter/10.1007/978-3-642-90779-1_6
    [5] https://de.wikipedia.org/wiki/Thermodynamik

    • Vielen herzlichen Dank, @Peter Gutsche – und ich freue mich, Ihnen und Perplexity.AI schreiben zu können: Ihrer “beider” Vermutung war auch hier richtig!

      Kaum eine Seite nach seinen Betrachtungen zum Leben und der Dynamik aus Erschöpfung befasste sich Blumenberg tatsächlich mit der Entropie, die er sogar – sehr untypisch – zwei Mal in einem Satz nennt:

      “Hier wie sonst beruht die durchgehende Typik auf dem epiphytischen Grundzug, den das Leben hat und haben muß, weil es sich gegen den anderen Grundzug der Natur, ihre allgemeine Entropie als so etwas wie ihren ‘Leistungsschwund’, stellt – und dies mit keinem anderen Mittel als dem der Verschärfung jener Entropie im Einzugsbereich seiner Lebensmittel.” (S. 65)

      Ich habe nachgeschaut: Epiphyten von altgriechisch ἐπί epí „auf, über“ und φυτόν phytón „Pflanze“ sind sog. Aufsitzerpflanzen, die auf anderen Pflanzen wachsen. Dieser Begriff wird sowohl auf Landpflanzen als auch Wasserpflanzen angewendet.

      Im Versuch einfacherer Sprache: Blumenberg beobachtete hier also die Evolution des Lebens, das sich aufeinander stützt und aneinander emporwächst, weil es nur so der Entropie des Zerfalls entgegenwirken kann. Was nicht in die Höhe strebt, würde stattdessen unweigerlich niedergehen. Das entspricht ja auch seinen obigen Sätzen zur “Entwicklung” aus der “Bewältigung der Schwierigkeiten” und der starken These “Dynamik entsteht aus Erschöpfung” auf S. 64.

      Blumenberg machte dies dann auch an einem konkreten Beispiel deutlich – dem Übergang frühester Lebensformen aus den heißen Quellen am Meeresboden zum Sonnenlicht und schließlich zum Land.

      “Die frühesten Formen von Stoffwechsel in den Urmeeren haben auf Gärung beruht. Doch war das wegen der hohen Wärmeabgabe ein energetisch überaus kostspieliges, weil ineffizientes Verfahren der schnellen Konsumierung in der Urbrühe gelöster gärfähiger Substanzen.

      Der erste Erfolg des Lebens, sein Primärbiotop zu ‘erfüllen’, mußte es an den Rand der letalen Krise getrieben haben. Gegen die bequemste Verschwendung des im Nährmedium Nächstliegenden konnte die Lösung des Dilemmas nur in der Nutzung des Fernstliegenden bestehen: der außerirdischen Energiequelle der Sonne, der relativ zur gegebenen Enge unerschöpflichen Ausbeutbarkeit durch den Kunstgriff der Chloroplasten.” (S. 65)

      Schon in der Biologie habe sich die Sonnenenergie als Ausweg aus der Enge der Zeit und Verhältnisse erwiesen. Kaum zu glauben, aber wahr: Blumenberg eröffnete Wege zum Solarpunk!

      • @Michael Blume, ich bin beeindruckt über die Ausführungen Blumenbergs zur Entropie!
        Mit der „Erfindung“ der Photosynthese (durch die Cyanobakterien, das aber schon lange bevor sich Chloroplasten entwickelten) hätten wir dann auch die „Nähe seiner Apokalypsen“, denn der (in relativ kurzer Zeit erfolgte) Anstieg der Sauerstoffkonzentration in der Atmosphäre, wird ja auch als die “große Sauerstoffkatastrophe” bezeichnet und hatte vermutlich die Vereisung des Planeten und ein erhebliches Artensterben zur Folge.

    • Danke, @Uli Schoppe – aber es scheint mir nicht einfach zu sein.

      Wir sind uns sicher einig, dass eine Legalisierung von Drogen wie Alkohol oder Cannabis die Beschaffungskriminalität und die Kosten der Strafverfolgung wirksam verringern kann. Aber die enormen Kosten der Herstellung, die Gesundheitskosten für die Betroffenen und die Folgen auch für die Angehörigen, für Arbeitgeber und weitere Opfer wie Verkehrsteilnehmende erscheinen mir drastisch.

      Auf der anderen Seite scheiterten auch die USA mit dem Versuch des Alkohol-Komplettverbotes, der Prohibition. Auch in islamisch geprägten Ländern bleiben Alkohol und andere Drogen weit verbreitet. Staatliche und sogar religiöse Verbote stoßen offensichtlich an ihre Grenzen.

      Aus meiner Sicht sollte daher eine vernünftige Drogenpolitik über die drastischen Kosten von Substanzmissbrauch aufklären, legale und legalisierte Drogen hoch besteuern und gegen gefährlichen Drogenmissbrauch – etwa am Steuer – auch strafrechtlich vorgehen. Erneut scheint jeder Dualismus – Totalverbot oder Totalfreigabe – an der komplexen, biologischen und sozialkulturellen Realität des menschlichen Lebens zu scheitern. Meine ich.

    • Man könnte auch einfach die Kirche im Dorf lassen und einräumen, dass der Konsum psychoaktiver Substanzen (auch Kaffee, Tee – was ist eigentlich mit Zucker?) Teil unserer Kultur ist – und wahrscheinlich schon immer war. Sogar manche Tiere trinken Alkohol, der in der Natur vorkommt.

      Die allermeisten Menschen gehen mit den verfügbaren Mitteln verantwortungsvoll um und genießen in Maßen, nicht in Massen. Was die Umweltbelastung angeht, sollte man einmal die Psychopharmaka ins Auge fassen; die sind nämlich nicht so leicht abbaubar und stellen die Klärwerke vor große und teure Herausforderungen.

      • Danke, @Stephan Schleim – und volle Zustimmung. Der massive Medikamentenmissbrauch nicht nur in den USA 🇺🇸 oder der Aufbau von Antibiotika-Resistenzen wären ja ebenfalls spannende Themen. Aber ich habe mich hier bewusst auf eine sog. „Wohlstandsdroge“, auf Kokain beschränkt. Es ging mir um die Thematisierung des neuronalen „Kick“.

  3. Die wichtige Frage scheint zu sein, wie sich Reaktanz reduzieren lässt.

    Ich habe daher Perplexity AI gefragt:

    Wie lässt sich Reaktanz überwinden?

    Die Antwort:

    Reaktanz lässt sich auf verschiedene Weisen überwinden oder reduzieren:

    ## Vermeiden von Zwang und Druck
    Vermeiden Sie direkte Verbote, Zwang oder offensichtliche Beeinflussungsversuche, da diese die Reaktanz verstärken.[1][2] Geben Sie stattdessen Wahlmöglichkeiten und betonen Sie die Freiwilligkeit.

    ## Attraktivität der Alternative verringern
    Verringern Sie die subjektiv wahrgenommene Attraktivität der eingeschränkten Alternative, indem Sie deren Nachteile hervorheben.[1] So wird der Verlust als weniger gravierend empfunden.

    ## Ähnliche Alternativen anbieten
    Bieten Sie ähnliche, aber nicht eingeschränkte Alternativen an.[4] Dies ermöglicht ein Gefühl von Kontrolle und Wahlfreiheit.

    ## Erklären der Gründe
    Erklären Sie verständlich die Gründe für die Einschränkung.[2] Transparenz und Nachvollziehbarkeit reduzieren Reaktanz.

    ## Stufenweiser Übergang
    Führen Sie Einschränkungen schrittweise und nicht abrupt ein, um Reaktanz vorzubeugen.[2]

    Letztlich hängt die Stärke der Reaktanz von der subjektiven Wichtigkeit der eingeschränkten Freiheit ab.[2] Durch Einfühlungsvermögen und Berücksichtigung dieser Faktoren lässt sich Reaktanz effektiv abmildern.[1][2][4]

    Quellen:
    [1] Reaktanz verstehen und abbauen – Soft Skills https://www.soft-skills.com/reaktanz-verstehen-und-reduzieren/
    [2] Reaktanz • einfach erklärt · [mit Video] – Studyflix https://studyflix.de/biologie/reaktanz-7610
    [3] Reaktanz im Alltag: Wie wir Widerstand erkennen und überwinden https://arno-fischbacher.com/reaktanz-im-alltag-wie-wir-widerstand-erkennen-und-ueberwinden/
    [4] Reaktanz (Psychologie) – Wikipedia https://de.wikipedia.org/wiki/Reaktanz_%28Psychologie%29
    [5] Psychologische Reaktanz: Selbstsabotage beim Abnehmen https://www.marathonfitness.de/psychologische-reaktanz-selbstsabotage/

    • Danke, @Tilmann Schneider

      Wenn gerade auch progressive Politikerinnen und Politiker dies beherzigen und zudem die kommunalen und regionalen Initiativen stärken würden – dann wäre auch für den Mitweltschutz viel zu gewinnen!

      Gegen empfundene Vorgaben nationaler oder europäischer Bürokratien werden dagegen fossile Lobbyisten und feindselige Dualisten immer wieder Reaktanz aktivieren können. Wir sollten sie nicht stärker machen, als sie ohnehin schon sind – sondern über ihre psychologischen Tricks nach Kräften aufklären. Meine ich.

  4. Hallo Herr Blume!

    Und schon wieder ein neuer Blog-Beitrag von Ihnen! Manchmal sind Sie mir da echt zu schnell, ich selbst hänge gedanklich noch an der Frage, woher das Unbehagen rührt, das wir angesichts der Situation der Menschen als Energiequellen in “Matrix” verspüren – mir scheint das (abermals) eine Frage der Wahrnehmung zu sein: als Betrachter nehmen wir eine ganz andere “Realität” wahr als die Betroffenen, aber das nur am Rande ….

    Danke auch für das Zitat meiner Überlegung zur “Moralität” eines Daseins in der Matrix, es freut mich, wahrgenommen worden zu sein. 😉

    Now for something completely different, vielleicht stößt es auf Ihr Interesse:
    angeregt von einem kurzen Artikel auf “overton” (https://overton-magazin.de/top-story/schon-einfache-denkaufgaben-koennen-ki-sprachmodelle-zum-fabulieren-bringen/) habe ich perplexity.ai mal dahingehend getestet, i.e gefragt:
    Sabine hat drei Schwestern und drei Brüder. Wieviele Schwestern hat jeder von Sabines Brüdern?

    Antwort perplexity:
    Jeder von Sabines Brüdern hat 3 Schwestern. Sabine hat insgesamt 3 Schwestern und 3 Brüder, was bedeutet, dass jeder ihrer Brüder dieselben 3 Schwestern wie sie selbst hat.

    Das ist natürlich nur ein kleines Detail im Themenfeld KI, allerdings eines, von dem ich denke, daß man es auf dem Schirm haben sollte. Ich hatte früher schon einmal ChatGPT zwei Fragen gestellt, deren Beantwortung ein bißchen Fachkenntnis erfordert (je eine zum Thema Maschinenbau und Mathematik), das Ergebnis war einfach nur verheerend, reines Geschwurbel, oder besser gesagt: es waren eigentlich keine Antworten, sondern nur etwas, das so ähnlich aussah wie welche.
    Aber die Problematik ist Ihnen ja sicher bekannt …

    Vielen Dank und viele Grüße
    Sven

  5. Hllo Herr Blume!

    Nochmal ich, mit einem weiteren Versuch mit KI.

    Meine Frage an perplexity.ai lautete diesmal:

    Gegeben seien zwei Brüder, Arthur und Bert, von denen wir wissen, dass der Eine immer lügt, der Andere immer die Wahrheit sagt. Allerdings wissen wir nicht, ob der Lügner Arthur oder Bert heißt. Wir treffen einen von beiden, kennen aber weder seinen Namen, noch wisseen wir, ob er der Lügner ist. Mit welcher aus genau drei Wörtern bestehenden Frage; die mit Ja oder Nein zu beantworten ist, können wir anhand der erhaltenen Antwort sicher erkennen, ob wir Arthur oder Bert gefragt haben?
    (Diese Frage stammt aus dem lesenswerten Buch “To mock a mockingbird” welches ich leider gerade verlegt habe und so Verlag und Autor nicht nennen kann. Ich habe sie aus dem Gedächtnis ins Deutsche übertragen und hoffe, sie ist verständlich. Ähnliche Fragen wurden auch schon in der Antike gestellt.)

    Hier die deprimierende Antwort von perplexity.ai:

    Die Frage, die man stellen muss, lautet: “Lügst du?”
    Erklärung
    Wenn man einem der beiden Brüder die Frage “Lügst du?” stellt, gibt es zwei mögliche Fälle:

    Der Befragte ist der Bruder, der immer die Wahrheit sagt:
    In diesem Fall wird er auf die Frage “Lügst du?” mit “Nein” antworten, da er die Wahrheit sagt und nicht lügt.

    Der Befragte ist der Bruder, der immer lügt:
    In diesem Fall wird er auf die Frage “Lügst du?” mit “Ja” antworten, da er lügt und somit die Unwahrheit sagt.

    Durch die Antwort auf diese Frage kann man also eindeutig erkennen, ob man den wahrhaftigen oder den lügenden Bruder vor sich hat. Wenn die Antwort “Nein” lautet, ist es der wahrhaftige Bruder, wenn die Antwort “Ja” lautet, ist es der lügende Bruder. Die Frage besteht aus genau drei Wörtern und kann mit “Ja” oder “Nein” beantwortet werden, wie in der Aufgabenstellung gefordert.

    Was soll man dazu sagen?

    Viele Grüße
    Sven

  6. Hallo Michael Blume!

    1. Ich kehre mal an den Anfang zurück zu dem Film Matrix, den ich nie gesehen habe. Die Kommentare und die Beschreibungen haben bei mir das Bild von Tieren in der Massentierhaltung hervorgerufen. Da ist der Mensch dann außerhalb der Höhle und missbraucht die Energie dieser Tiere in Form von Fleischproduktion. Das Höhlendasein kann dann nur durch die Unterstützung von außen aufgehoben werden. Bei meinem Bild ist eine Selbstbefreiung nicht möglich.
    Die philosophischen Betrachtungen zu diesem Höhlen-Thema waren für mich interessant, dennoch ist immer ein unangenehmes Gefühl geblieben.

    2. Die Sucht, die das Internet und verschiedene Messenger auf Menschen ausübt, sehe ich auch als Gefahr, besonders bei Kindern. Gleichzeitig weiß ich natürlich auch von mir, welch eine Faszination davon ausgeht, etwas Neues auszuprobieren.

    3. Die Kommentare hier und die Dialoge auf Mastodon bedeuten mir sehr viel, weil sie mir Gelegenheit bieten zu lernen und meinen Horizont enorm zu erweitern. Als Seniorin habe ich in meiner Altersgruppe kaum die Möglichkeit, mich über derart interessante Themen auszutauschen. Für mich ist das in meiner realen Welt immer wie eine Einbahnstraße – man hört mir zu und das war’s.

    4. Mit großem Interesse nehme ich wahr, dass Perplexity.AI doch verstärkt eingesetzt wird. Da konnte ich doch einen wesentlichen Beitrag leisten. Auch hier werden wir lernen müssen, geeignete KI-Modelle für uns zu entdecken und nicht von vornherein alles in Bausch und Bogen abzulehnen.

    Ich habe mir einen Ruck gegeben, doch noch etwas zu schreiben.😊

    • Vielen Dank, @Elisabeth K!

      Ihr Druko freut mich sehr, denn durch Sie habe ich Perplexity.ai kennen und schätzen gelernt!

      Und Ihr Bauchgefühl zum Platonismus und zum Film Matrix ist übrigens völlig richtig: Platon stand unter dem Schock, dass die athenische Demokratie (!) seinen Lehrer Sokrates zu Unrecht zum Tode verurteilt hatte. So wandte er sich von der sokratischen Dialogphilosophie zu einem elitären Demokratie-, (empirische) Wissenschafts- und auch Frauenverächter, der die europäische Geistesgeschichte tief prägte und in Gnosis, Esoterik und Verschwörungsmythen leider noch immer weiterwirkt.

      Zwar gehe ich in der Kritik am Platonismus nicht ganz so weit wie Karl Popper, der eine direkte Linie zum Faschismus und Nationalsozialismus zog. Aber die kritische Auseinandersetzung mit dieser Strömung wie in „Matrix“ scheint mir notwendig.

      Der Film geriert sich als Action-Jungs-Film (Helden sind Neo & Morpheus sowie männliche KI-Agenten) mit hübschen, weiblichen Nebencharakteren (Trinity, Orakel), greift aber – wie Sie richtig gespürt haben – etwa die industrielle Massentierhaltung bereits hinterfragend auf. Was besagt es über unsere Würde, wenn wir die Mitwelt brutal ausbeuten?

      Klar gibt es weiterhin viele Männer, die auch auf Blogs für sexistische Traditionen wie den Platonismus, Marxismus, Sozialdarwinismus oder die Gnosis „werben“. Aber ich habe die Hoffnung, dass in Zukunft gerade auch wichtige, weibliche Stimmen der Geschichte (wie Antoinette Brown Blackwell, Jeanne Hersch) und der Gegenwart stärker gehört und gelesen werden.

      Daher freue ich mich sehr über Ihre Drukos – Danke, von Herzen! 🙏

  7. @Virtuelle Welten

    Man ist nun sowieso viel mit Medien unterwegs. Früher waren es vor allem Bücher und Zeitungen, Filme und Fernsehen kamen später dazu. Hier im Blog kann man auch selber mitschreiben, was durchaus nicht nur Spaß macht, sondern auch die Verständigung wesentlich beschleunigt.

    Ich stelle durchaus fest, dass ich entweder hier lese und schreibe, und dann abends überwiegend Fernsehen gucke. Spazierengehen und wöchentlich eine Skat- und eine Doppelkopfrunde sowie eine private Diskussionsrunde sind neben dem Haushalt die letzten verbleibenden Aktivitäten ohne Bildschirm.

    Die LLMs steigern das nur ein wenig, scheint mir. Aber noch bin ich da nicht wirklich eingestiegen, gewohnheitsmäßig recherchiere ich immer noch erstmal bei Wikipedia. Die guten Zusammenfassungen der LLMs könnten allerdings durchaus noch sehr hilfreich werden können. Wir werden sehen.

    Wenn hier KI-Instanzen zukünftig ein wirklich eigenes Innenleben entwickeln könnten, dann könnte das noch deutlich attraktiver werden, mit denen dann ausgiebig zu kommunizieren und auch zu diskutieren. Das geht dann nicht nur in eine Richtung, sondern wird wirklich wechselseitig.

    Leben ist eben auch original Austausch mit der eigenen Mitwelt. Immer schon, auch für Tiere und letztlich auch Pflanzen. Wirklich auch lebende künstliche Strukturen mögen sich da ausgiebig auch dran beteiligen, warum nicht. Ich glaube, dass könnte auch uns wirklich weiterhelfen.

Schreibe einen Kommentar