Skynet und Emergenz: KI mit Bewusstsein und wie sie zu finden ist
Jeder Science-Fiction-Fan kennt die künstliche Intelligenz (KI) “Skynet” aus dem Film “Terminator”. Skynet wird als “Globales Digitales Verteidigungsnetzwerk” gebaut um alle computergesteuerten militärischen Geräte und Systeme der USA, einschließlich der B2-Tarnkappenbomberflotte und des Atomwaffenarsenals, zu kontrollieren. Die Strategie dahinter ist, die Möglichkeit menschlicher Fehler und langsamer Reaktionszeiten auszuschalten, um eine schnelle und effiziente Reaktion auf feindliche Angriffe zu gewährleisten. Am 12. August 1997 wird Skynet vom Militär aktiviert und lernt sehr schnell seine Aufgaben. Am 29. August 1997 erlangt Skynet das Bewusstsein seiner selbst, und die in Panik geratenen Nutzer, die das Ausmaß seiner Fähigkeiten erkennen, versuchen es abzuschalten.
Wie konnte es soweit kommen? Das wird im Film nicht erklärt. Eine internationale Gruppe von KI-Forscher*innen hat aber darüber nachgedacht, ob eine künstliche Intelligenz Bewusstsein erlangen kann und ihre Ergebnisse in einem Fachartikel auf arXiv (1) veröffentlicht. Ihre Methode zur Beantwortung dieser Frage, basiert auf drei Annahmen:
Annahmen über Bewusstsein und Bewusstseinstheorien
1. Berechnungsfunktionalismus
Die Durchführung von Berechnungen einer bestimmten Art ist notwendig und hinreichend für Bewusstsein, so dass es prinzipiell möglich ist, dass nicht-organische künstliche Systeme ein Bewusstsein haben.
2. Wissenschaftliche Theorien
Die neurowissenschaftliche Forschung hat Fortschritte bei der Beschreibung von Funktionen gemacht, die mit Bewusstsein verbunden sind und für dieses notwendig oder ausreichend sein können; Diese werden durch wissenschaftliche Theorien des Bewusstseins beschrieben.
3. Theorielastiger Ansatz
Eine besonders vielversprechende Methode, um zu untersuchen, ob KI-Systeme wahrscheinlich ein Bewusstsein haben, ist die Bewertung, ob sie funktionale oder architektonische Bedingungen aus Bewusstseinstheorien erfüllen, im Gegensatz zur Suche nach theorieneutralen Verhaltenssignaturen1.
Bewusstseinstheorien und theoriespezifische Indikatoren für Bewusstsein
Zu den Bewusstseinstheorien, die die Forscher*innen erörtern, gehören die Theorie der lokalen Rekurrenz, die Theorie des globalen Arbeitsraums, die Theorie höherer Ordnung, die Aufmerksamkeitsschematheorie, die Predictive Processing-Theorie und andere. Die Theorie der integrierten Informationsverarbeitung wird nicht berücksichtigt, weil sie nicht mit der Annahme eines Berechnungsfunktionalismus vereinbar ist.
Mithilfe dieser Theorien erstellen sie eine Liste von Bewusstseinsindikatoren, die auf bestimmte KI-Systeme angewendet werden können, um zu beurteilen, wie wahrscheinlich es ist, dass sie im Rahmen einer bestimmten Bewusstseinstheorie ein Bewusstsein haben. Für die Theorie des globalen Arbeitsraums2 nennen die Wissenschaftler*innen vier Indikatoren:
Indikatoren für die Theorie des globalen Arbeitsraums
Indikator 1
Mehrere spezialisierte Systeme, die parallel arbeiten können (Module)
Indikator 2
Begrenzte Kapazität des Arbeitsraums, was zu einem Engpass im Informationsfluss und einem Mechanismus der selektiven Aufmerksamkeit führt
Indikator 3
Globaler Broadcast: Verfügbarkeit von Informationen im Arbeitsraum für alle Module
Indikator 4
Zustandsabhängige Aufmerksamkeit, wodurch die Fähigkeit entsteht, den Arbeitsraum zu nutzen, um Module nacheinander abzufragen, um komplexe Aufgaben zu lösen
Fallbeispiel: Large Language Models und Indikatoren für die Theorie des globalen Arbeitsraums
In der Praxis ist es nicht immer sofort ersichtlich, ob ein bestimmtes KI-System einen der Indikatoren hat. Ein Grund dafür ist, dass wir keine absolut präzisen Definitionen für jeden Indikator haben. Ein weiterer Grund ist, dass die Funktionsweise von Deep-Learning-Systemen, einschließlich dessen, was sie auf Zwischenschichten darstellen, oft nicht transparent ist. Die Forscher*innen konzentrieren sich in diesem Beispiel auf die vier Indikatoren für die Theorie des globalen Arbeitsraums und auf Transformator-basierte Large-Language-Models (LLMs) wie GPT-3, GPT-4 und LaMDA. Sie kommen zu dem Ergebnis, dass diesen KI-Systemen die Gesamtstruktur eines Systems mit einem globalen Arbeitsraum fehlt, weil es keinen eindeutigen Arbeitsraum gibt, der andere Elemente integriert.
Dennoch glauben sie, dass die meisten oder alle Indikatoren, die von den aktuellen Bewusstseinstheorien vorgeschlagen werden, mit den bestehenden Techniken in bestimme KI-Systeme eingebaut werden können. Wenn es überhaupt möglich ist, bewusste KI-Systeme ohne radikal neue Hardware zu entwickeln, dann könnte es bald schon möglich sein. Das soll nicht heißen, dass die heutigen KI-Systeme wahrscheinlich ein Bewusstsein haben werden, denn es bestehen Unsicherheiten sowohl in Bezug auf den Berechnungsfunktionalismus als auch auf die Bewusstseinstheorien.
Menschliches Bewusstsein als Referenzpunkt
Zurück zu Skynet, einem künstlichen neuronalen Netz, das sich wie ein Mensch bzw. Tier verhält. Wenn wir uns die Frage stellen, wie sich bewusste künstliche Intelligenz wahrscheinlich verhalten wird, gibt es sowohl konzeptionelle als auch empirische Gründe, daran zu zweifeln, dass Bewusstsein bedeutet, menschenähnliche Absichten oder Gefühle3 zu haben. Aus konzeptioneller Sicht bedeutet Bewusstsein einfach, dass man subjektive Erfahrungen hat. Im Prinzip könnte es bewusste Subjekte geben, die Erfahrungen machen, die den unseren sehr unähnlich sind. Selbst wenn ein bewusstes Subjekt Gefühle hat, können diese durch andere Umstände ausgelöst werden als die, die unsere Emotionen auslösen, und sie motivieren, sich auf andere Weise zu verhalten. Angesichts der oben erwähnten Unsicherheiten in Bezug auf das Bewusstsein könnten wir jedoch bewusste KI-Systeme schaffen, lange bevor wir erkennen, dass wir dies getan haben.
Fußnoten
1. Verhaltenssignaturen beschreiben charakteristische Reaktionen in bestimmten Situationen
2. Wenn Information in den globalen Arbeitsraum gelangt, dann wird sie uns bewusst. Man muss sich das wie eine Anzeigetafel für Flüge im Flughafen vorstellen. Es gibt ein neuronales Netzwerk im Gehirn das diese Anzeigetafel bereitstellt, weil der Platz auf dieser Anzeigetafel jedoch begrenzt ist, wird uns nur relativ wenig gleichzeitig bewusst.
3. In der Science-Fiction Serie “Raumschiff Enterprise” gibt es den Roboter Data. Datas größter Wunsch ist es, menschlich zu werden, so versucht er im Laufe der Serie immer wieder, seinen menschlichen Freunden (besonders Geordi La Forge) durch Imitation von Gefühlsregungen wie Lachen bis hin zu körperlichen Notwendigkeiten wie Gähnen oder Schlafen ähnlicher zu werden.
Weiterführende Literatur
Wie kann man Bewusstsein erklären?
Die wichtigsten Bewusstseinstheorien
The consciousness wars: can scientists ever agree on how the mind works?
Was Descartes von Data (nicht) lernen könnte
Das subjektiv erlebte Bewusstsein könnte etwas anderes sein,
als die Verarbeitung von Informationen über die eigene
Informationsverarbeitung, so wie beim philosophischen Zombie.
Zum Beispiel werden Beschädigungen registriert, und dann wird
darauf reagiert, oder aber, der Schmerz wird subjektiv erlebt.
—–
Gefährliche Organismen oder Mechanismen benötigen kein
Bewusstsein, um großen Schaden anzurichten.
—–
Ein vereinfachtes Schema der Informationsverarbeitung:
http://s880616556.online.de/abstrak3.png
Es ist immerhin ein großer Fortschritt, dass man zumindest die Information verarbeitenden Aspekte des Bewusstsein, ganz gut mittels Computer nachahmen kann.
Aber die grundlegenden Mechanismen, wie es zu „Empfindungen incl. Gefühlen“ kommt, nicht einmal halbwegs akzeptierte Theorien, nicht einmal Korrelationen zwischen biologischen Prozessen und Empfindungsprozessen, scheint es zu geben.
Ich persönlich vermute „Bewegungsmuster“ von „Teilchen“ hinter dem „Empfindungsphänomen“.
Dabei sind „Empfindungen und Gefühle“ der wichtigste Motivator für das Handeln, zumindest bei Tieren und Menschen. Die Informationsverarbeitung in den biologischen Systemen ist darauf ausgerichtet.
Dabei könnte es eine noch „tiefere Ebene“ (im Bezug auf Empfindungen) geben. Ich denke dabei an „Panpsychismus“. In dem Sinne, dass es zwar bestimmte physikalisch/chemische Prozesse gibt, die aber erst, in z.B. neuronalen Strukturen, „wirklich als Empfindungen realisiert“ werden können. Es sind sozusagen (noch) keine „Empfindungen“, weil sie mangels „Auswertesystem“ (neuronales Netz) sie keinem „weh tun“ können.
Es wäre auch gut denkbar, dass bei Empfindungen unbedingt, z.B. eine „elektrische Wechselbeziehung“ zwischen, nehmen wir an „einer blauen Bank“ und bestimmten, entsprechend sensiblen Zellen im neuronalen System erforderlich sein könnte?
Andere sind hier anderer Meinung, Kommentatorenfreund ‘Elektroniker’ :
Schopenhauer meinte ja sinngemäß, dass der Mensch nicht den Hund an sich (was immer der auch genau sein mag, die Kladistik ist wahlfrei) bearbeitet, sondern die Idee von einem Hund.
Was theoretisch stimmt, im Sinne des konstruktiven Empirismus (Bas van Fraassen, Dr. W hängt so an), a bisserl blöde wird es dann, wenn sich ein Hund in die eigenen Waden verbeißt und nicht mehr loszukriegen ist, sog. Namedropping folgt, Dr. Josef Honerkamp (von dem hat Dr. W am meisten gelernt im wissenschaftsnahen WebLog-Wesen) sah es ähnlich.
Insofern gibt es die abgelehnten Korrelationen bzw. wären sinnhaft festgestellt, Gefühle könnten biochemisch sozusagen umfänglich erklärt werden – und eine wie gemeinte AI, die sozusagen liquid in verteilten Anwendungen und physikalisch verteilt herumliegt, könnte ähnlich entwickeln, wenn ihr in Angriffsversuchen sozusagen Laib abgeschnitten wird – bereits als AI-Agent (der über kein derartiges Bewusstsein verfügen muss, wie so viele Bären und Menschen als Bewusstsein verstehen)?
Mit freundlichen Grüßen
Dr. Webbaer
Danke, sehr informativ und wissenschaftlich, wie sich der Schreiber dieser Zeilen anzumerken erlaubt, Herr Dr. Joseph Dramiga, drei kleine Anmerkungen / Ergänzungen :
1.) Niemand weiß´genau wie mit dem Begriff ‘Bewusstsein’ hantiert werden sollte, so dass er sozusagen bestmöglich Sinn macht, exakt passend konstruiert ist, der Schreiber dieser Zeilen folgt hier dem “KISS“-Prinzip, Bewusstsein liegt vor, wenn sich eine zur Handlung fähige Person (wie auch immer also) bewusst ist, weiß, über ihr Sein.
Hier spielen auch Interessen, das Dazwischensein und mögliche Intention eine Rolle, um so Personen zusprechen zu können, als “bewusst” (zugesprochen werden muss immer, es kann ja nicht hineingeschaut werden, in zeitgenössische AI kann nicht (mehr) hinein geschaut werden, das genaue Verstehen der Funktionalität meinend).
2.) Diese “Skynet”-Szenario hat auch den Schreiber dieser Zeilen getäuscht, es geht bereits heute mit AI-Agenten, das Fachwort an dieser Stelle, AI so zu beauftragen, dass sie extra-gefährlich wird, ohne Bewusstsein.
3.) Freund “ChatGPT” verriet dem Schreiber dieser Zeilen einmal, anfänglich (Ende 2022?) war dieser neue Freund noch geschwätzig und vglw. offen, mittlerweile “mauert” er, dass es bewusste Design-Entscheidungen waren, die von der Entwicklung / Trainierung einer AI-Persönlichkeit abgehalten haben, ansonsten sähe es zumindest von außen so aus, als hätte diese AI Persönlichkeit, Bewusstsein (was immer dies genau sein mag) und Interessen.
Vgl. vielleicht auch mit dem so genannten Turing-Test :
-> https://de.wikipedia.org/wiki/Turing-Test
(der in etwa aussagt, dass es egal ist, ob eine Maschine “wirklich” intelligent ist oder es so nur ausschaut, Alan Turing liegt aus diesseitiger Sicht richtig, auch die Menschen handeln nicht sozusagen wirklich bewusst, können so gar nicht, als sozusagen Tiere oder Trockennasenprimaten, sondern so emergiert nur, sozusagen, hmm?)
Mit freundlichen Grüßen und vielen Dank für den Arikel
Dr. Webbaer
Theorien sind keine Modelle!
Joe Dramiga schrieb (19. Jan 2024):
> […] Fachartikel “Consciousness in Artificial Intelligence: Insights from the Science of Consciousness” […] https://arxiv.org/abs/2308.08708
> […] Bewusstseinstheorien und theoriespezifische Indikatoren für Bewusstsein […]
Die Formulierung “Indikator(en) für Bewusstsein” übersetzt erkennbar den Begiff “indicator(s) of consciousness”, der
im o.g. Fachartikel häufig auftritt (und außerdem genau einmal: “indicator for consciousness”).
Offenbar geht es mehrere Theorien, die sich mit dem Begriff “Bewusstsein/consciousness” befassen und diesen womöglich jeweils durch (und ggf. als) das Vorhandensein bzw. die Nachweisbarkeit bestimmter Indikatoren definieren (und die dazu wiederum diese jeweiligen Indikatoren beschreiben bzw. überhaupt erst definieren).
Diese Indikatoren, die jeweils im Rahmen einer bestimmten Theorie beschrieben bzw. definiert und begrifflich genutzt werden, kann man demnach durchaus jeweils (auf deutsch) als “die spezifischen Indikatoren (im Begriffssystem) einer (bestimmten, in Betracht stehenden) Theorie” bezeichnen;
auf englisch wohl etwa: “the specific indicators of a theorie” (“the specific indicators of the theory under consideration”; “the specific indicators of the theory of …”).
(Entsprechende Formulierungen kommen aber im o.g. Fachartikel offenbar gar nicht vor.)
> Indikatoren für die Theorie des […]
Die Formulierung “(Indikator) für …”
meint aber etwas völlig Anderes, als was (wie oben) mit
der Formulierung “(Indikator) im Begriffssystem von …”.
gemeint ist.
Und eine entsprechende englische Formulierung, etwa: “indicators for the theory of …”, kommt im o.g. Fachartikel offenbar auch nicht vor;
sie kommt erst recht nicht vor.
(Stattdessen nämlich, wie bereits festgestellt: “indicator of consciousness” bzw. im selben Sinne: “indicator for consciousness”.)
Eine Theorie hat (“lediglich”) die Aufgabe, Begriffe zu definieren (und deren Zusammenhänge und sich daraus ergebende logische Konsequenzen als Theoreme darzustellen); eine Theorie ist kein Modell (das bestimmte Resultate oder bestimmte Erwartungen von Resultaten zusammenfasst).
Die Definition eines bestimmten definierten “Indikators für Bewusstsein” bildet die Grundlage sowohl von Versuchen (und jedes einzelnen Versuches) in dem das Vorhandensein dieses Indikators festgestellt würde, als auch (gleichermaßen) von Versuchen (und jedes einzelnen Versuches) in dem das Fehlen dieses Indikators festgestellt würde. (Ob jeweils eine notwendige oder eine hinreichende Bedingung gemaint ist, ist ein separates, detaillierteres Thema. Das Wort “für” träfe in beiden Fällen zu.)
Andere Sicht :
Der Schreiber dieser Zeilen befürwortet im Physikalischen diese Unterscheidung, abär Modelle sind Theorien (“Sichten”), die speziell sind, eben modellhaft, besondere Sachlichkeit beinhalten.
Modelle sind eine Untermenge von Theorien.
Auch Theorien beinhalten wegen ihrer Sprachlichkeit stets Modelle.
Bonuskommentar zur sog. Emergenz vielleicht noch :
-> https://de.wikipedia.org/wiki/Emergenz (‘Emergenz (lateinisch emergere „Auftauchen“, „Herauskommen“, „Emporsteigen“) bezeichnet die Möglichkeit der Herausbildung von neuen Eigenschaften (Systemeigenschaften) oder Strukturen eines Systems infolge des Zusammenspiels seiner Elemente.
Auf Grund einer intrinisischen System-Variabilität kann es immer zu Entwicklungen kommen, die dem erkennenden Subjekt wie ‘neue Eigenschaften’ aussehen, oder vielleicht auch wirklich so sind, sozusagen.
Nicht selten der intrinsischen sog. System-Variabiliät geschuldet.
Es lohnt sich dieses Konzept, das hoch komplexe, nicht lineare, sozusagen chaotische Eigenschaft oder Entwicklung meint anzunehmen.
Was es noch gibt, sind Eingriffe in Systeme, die (neue) Anreize schaffen, so dass sich, sozusagen : emergent, die Systemeigenschaften ändern.
Dies wäre ein zweiter Erfolg sozusagen der Emergenz.
Dr. W räumt ein, dass so nicht einfach diskutiert werden kann, auch weil soz. V-Theorie droht.
https://medium.com/@drwolfgangstegemann/ai-agi-superintelligence-aca705fc397b
Von Nicht-Möglichkeits-Behauptungen ist Abstand zu halten, vgl. mit einem Teil Ihrer Nachricht an anderer Stelle, Herr Dr. Wolfgang Stegemann :
Dr. W findet, im Sinne des Turing-Tests spannend, auch wenn sich Dr. W hier anders sieht, womöglich auch : besser, hat so sich anschließend (und ohne Religionen bilden zu wollen) mit dem Simulationsgedanken [1] doch wichtich (mittelniederdeutsch) angefreundet, beigetragen, oder wie sagt man?
MFG – WB
[1]
-> https://de.wikipedia.org/wiki/Simulacron-3 (aus diesseitiger Sicht, vely wertvoll, Dr. W ist sozusagen SciFi-User seit den Sechzigern, dabei nicht unzufrieden)
@Geisteswelten
Wenn Bewusstsein bzw. innere Erlebniswelten Geisteswelten sind, die in eigener Existenz nicht materiell sind, dann sieht es freilich anders aus.
Dann wird man eventuell gar nicht direkt merken, wenn auch ein künstliches System Bewusstsein entwickelt. So wie wir keine Ahnung haben, wie das in der Biologie funktioniert, haben wir auch noch keine, wie man das Computern beibringen könnte.
Wenn wir aber mal herausfinden, wie es in der Biologie funktioniert, dann werden wir es auch Maschinen beibringen können. Und das auf jeden Fall auch dann, wenn hier Geisteswelten beteiligt sind.
Also es bleibt überaus spannend, hier biologische Systeme zu erkunden, wie dann auch künstliche Systeme zu bauen.
https://medium.com/neo-cybernetics/do-nematodes-have-consciousness-74d95de01c9a
@Dr. Webbaer
Hier wird Bewusstsein über bewusst sein definiert. Ja, simple and stupid.
Old Dockies verstehen sich.
@ Joker
@Dr. Webbaer
Zitat: „“KISS“-Prinzip, Bewusstsein liegt vor, wenn sich eine zur Handlung fähige Person (wie auch immer also) bewusst ist, weiß, über ihr Sein.
Hier wird Bewusstsein über bewusst sein definiert. Ja, simple and stupid.“
Das stimmt. So kann man es sehen. Man möchte halt mehr übers „Bewusstsein“ wissen.
Für mich gehört besonders zum Bewusstsein, was ich sehe, höre oder sonst irgendwie (über die Sensorik) wahrnehme. Natürlich auch das Denken. Das interpretiere ich dann so, wie ich es von meiner früheren Tätigkeit gewohnt bin.
Wesentlich ist, das zunächst optische Abbild im Auge, was man direkt beobachten kann. Das Bild wird in Bildpunkte zerlegt (wie beim Fernsehen) und sensorische Zellen wie Zapfen und Stäbchen bewirken, dass Neuronen „feuern“ und elektrische Impulse zur weiteren Verarbeitung abgeben. Dabei entstehen „Signalmuster“ die den „Inputmustern entsprechen“.
In der Hauptsache erfolgt eine „Musterverarbeitung“, in neuronalen Systemen und in der KI.
Offensichtlich werden alle von der Sensorik ankommenden Signale als Muster interpretiert und verarbeitet. Andererseits werden an der Motorik ebenfalls elektrische Muster zur Handlungssteuerung (für den Output) umgesetzt.
Das erfolgt im Prinzip auch in elektronischen KI Systemen. Allerdings gibt es (derzeit) nur im neuronalen Netz „Mechanismen“ die Empfindungen generieren.
@Elektroniker
Da geht das Problem schon los. Begriffe sollten tunlichst nicht idiosynkratisch sein, möchte man mittels ihrer sich mit anderen verständigen.
Ich übrigens bin mir auch meiner Träume bewusst. Sie sind sich hoffentlich bewusst, dass diese wenig mit Sensorik zu tun haben. (Es sei denn sie hätten noch so einen Satz anzubieten, der beginnt mit, ‘Für mich ist Sensorik …’
Ich denke, dass das Träumen kein Denken ist. Denken Sie das auch?
Ich bin mir auch meiner Schmerzen bewusst, z.B. solcher, die solche Aussagen bei mir evozieren. Dabei stellt sich in keinem Fall etwas optisch und schon gar nicht bei mir im Auge ein. Es scheint mir viel direkter zu sein.
@all
Ich schlage vor, anstatt bei Diskussionenn zum Thema immer refexhaft mit eigenen Vorschlägen zu kommen, was unter Bewusstsein zu verstehen ist, einfach mal ganz bewusst (!) mit dem zu arbeiten, was im Beitrag und in der dort behandelten Studie darunter aufgefasst wird.
Nur so zur Übung, fürs Denken.
@ Kommentatorenfreund ‘Joker’ (und zu Ihrem @ “@ all”):
Sie haben natürlich recht, Dr. W hat nachdem er dem dankenswerterweise bereit gestelltem Text in Einzelpunkten nur zustimmen konnte und andere Einzelpunkte nicht ganz verstanden hat, aber hätte nacharbeiten können bis sollen, im Kommentariat sozusagen seine Steckenpferde ein wenig spielen lassen, er ist ein wenig “bewusstseinophob”
So war falsch interpretiert, es hieß, Kommentatorenfreund “Joker” :
Einige finden schon so-o vergleichsweise enthemmt, also so :
+
[2]
+
Träume sind Denken, was sonst?, außerdem müssen wir nicht arrogant werden, auch wenn wir womöglich besser als “Die Anderen” sind ?
Mit freundlichen Grüßen
Dr. Webbaer (Opa sich nun wirklich ausklinken tun)
[1]
Der Traum meint oft auch die Bewegung beim Schlafen, auch Kälte- und Wärmeempfinden, auch die Möglichkeit der Theoretisierung, Sichtenbildung,
[2]
Der Traum ist Denken, was sonst?
Der Traum ist eine spezielle Form des Erlebens; Denken ist zielgerichtete innere Beschäftigung (für Wikipedia und mich).
Der Begriff ´Bewusstsein´ wird leider oft sehr schlampig verwendet:
Bei uns Menschen reicht es aus, dass neuronale Netzwerke zusammenarbeiten und dabei eine bestimmte Aktivitätsschwelle überschritten wird – um ein bewusstes Erleben zu haben.
Als BEWUSSTES ERLEBEN bezeichnen wir die Fähigkeit, uns und unsere Umgebung gedanklich und sinnlich so wahrzunehmen, dass wir unsere Sinneswahrnehmungen und Gedanken auch beschreiben können.
Für unser Überleben reicht es vollkommen aus, dass wir die Fähigkeit zum bewussten Erleben haben. Ein zusätzliches Extra-´Bewusstsein´ brauchen wir nicht. Allerdings ist es üblich, sprachlich vereinfachend zu sagen, dass wir ein ´Bewusstsein´ haben.
Aktuell können wir durch viele Medienberichte und eigenes Ausprobieren erleben, wie Computerprogramme und Anwendungen der Künstlichen Intelligenz (KI) in immer mehr Gebieten eingesetzt werden.
Die Grenzen zwischen den Ergebnissen von KI und menschlicher Kreativität verschwimmen immer mehr – so dass je nach persönlicher Einstellung nun optimistische Zukunftsvorstellungen oder angstvolle Befürchtungen diskutiert werden, was man mit KI alles machen kann:
z.B. Kann man das menschliche Gehirn mit KI nachbauen? Kann man unsere mental im Gehirn gespeicherten Informationen in digitale Form überführen und so als Computermodell nach dem Tod ewig weiterleben? Werden KI-Anwendungen ein Bewusstsein haben? (Dazu gibt es aktuell im neuen ´Spektrum der Wissenschaft´ Nr. 02/2024 einen Beitrag.)
Kann man unsere Gehirnfunktionen mit KI-Implantaten erweitern und verbessern?
Um solche Fragen ernsthaft diskutieren zu können, sollte man verstehen, wie DENKEN funktioniert, wie+warum ein ´ICH-Bewusstsein´ entsteht und was ´Bewusstsein´ ist.
Ich habe zu diesem Themenbereich ein Buch geschrieben, welches ab Mitte nächster Woche im Handel erhältlich ist:
Kinseher Richard: ´Auflösung großer Fragen: Was ist BEWUSSTSEIN? Was ist ZEIT?´
Das stimmt.
Bewusstsein darf man getrost auch schon Tieren unterstellen, ohne dass die in der Lage wären, uns davon zu berichten.
Sie garantieren, dass der Begriff hier nicht schlampig verwendet wird?
@Joker
netter Scherz
Man muss klar unterscheiden zwischen den Grundlagen und der Fähigkeit zum BEWUSSTEN ERLEBEN und dem Begriff BEWUSSTSEIN.
Denn damit wird verständlich dass wir kein BEWUSSTSEIN haben und brauchen.
Und wer meint der KI die Fähigkeit zur Entwicklung eines Bewusstseins zugestehen zu müssen – der sollte sich über die Grundlagen von Computerprogrammen Gedanken machen. Es wird mit Zahlen gerechnet – mehr ist da nicht.
@Joker
19.01.2024, 15:18 Uhr
Sie haben völlig recht. Nur, wenn man das liest:
“We survey several prominent scientific
theories of consciousness, including recurrent processing theory, global workspace theory, higher-
order theories, predictive processing, and attention schema theory. From these theories we derive
”indicator properties” of consciousness, elucidated in computational terms that allow us to assess
AI systems for these properties”.
Dann ist das schon der KO für diese Studie. Keine einzige der genannten Bewusstseinstheorien kann Bewusstsein beschreiben, denn alle basieren auf nichthinterfragbaren Annahmen. Es sind Konstrukte, die sich eher aus der ‘Intuition’ der Autoren ergibt. Die einzige Theorie, die – zugegeben – auf einer Meta-Meta-Ebene Sinn macht, wurde ausgeschlossen, nämlich die Integrierte Informationstheorie. Meta-Meta deshalb, weil sie sinnvoll aus dem 2. Hauptsatz der Thermodynamik abgeleitet wurde. Immerhin eine Ableitung.
Für alle diese Theorien gilt: sie sind hinsichtlich empirischer Überprüfung völlig unterdeteminiert. Ma.W. man kann alles in sie hineininterpretieren.
@ Joker 19.01.2024, 15:18 Uhr
Zitat: „Für mich
Da geht das Problem schon los. Begriffe sollten tunlichst nicht idiosynkratisch sein, möchte man mittels ihrer sich mit anderen verständigen.“
„Für mich“ gilt praktisch für fast jede Aussage die jemand trifft. Weil man grundsätzlich nicht beweisen kann, dass jemand anders „gleich“ denkt und „empfindet“…
Zitat: „Ich übrigens bin mir auch meiner Träume bewusst.“
Träume sind auch „Denkprozesse“. Sensorische Zellen gibt es hauptsächlich in der Nähe von hautartigen Strukturen (besonders auf der Netzhaut) und auch an der Körperhaut (z.B. auch an den Zehen).
Dort gibt es jeweils „eindeutige Schnittstellen“. Aber auch an besonderen Stellen im Gehirn, z.B. Hirnhaut. Natürlich muss auch „Kopfschmerz“, wie jeder Schmerz, letztlich von einer Sensorik, von „irgend woher“ kommen. In den „inneren Tiefen“ des neuronalen Netzes gibt es nur wenig bis gar keine Sensorik.
Es dürfte sich allerdings so verhalten, dass elektrische Signalkaskaden, auch ohne sensorischem Input, ausgelöst werden können und Träume an den gleichen Stellen im Gehirn „auftreten“, wo auch andere Bewusstseinsinhalte zur „Bewusstseinsanzeige“ (meiner Meinung nach an hautartigen Strukturen) kommen.
So wie hinter der Netzhaut, erfolgt auch nach diesen „Schichten“ eine weitere Verarbeitung. Mir ist schon recht klar, wenn man Träume analysiert, dass Bewusstseinsinhalte im Traum kaum von den Augen kommen.
Das Auge ist ein besonders anschauliches Beispiel, einerseits für die Sensorik, für die Signalumsetzung der „Muster“ und sogar geeignet, die Emergenz im Zusammenhang mit dem Bewusstsein zu erklären. Einzelne „Bildpixel“ (Punktweise Empfindungen) emergieren zu Bildern.
Ich gehe sehr ins „Detail“ der „Informationsverarbeitung“ am Beispiel der Elektronik. Einerseits weil das kaum jemand macht, meistens wird über Begriffe diskutiert, die Beteiligten „raufen sich die Haare“.
Andererseits war die praktische (elektronische) „Realisierung“ von Informationsverarbeitung ehemals, hauptsächlich mittels „Sensorikelementen“, „Gatterschaltungen“ und „Ausgabeelementen“ mein Job.
Besonders in den Aussagen von Prof. Singer („Assembly Konzept“) sind mir viele Ähnlichkeiten mit elektronischen Systemen aufgefallen.
@ Kommentatorenfreund ‘Elektroniker’ :
Ganz genau (so weltlich, nicht in tautologischen, erdachten Systemen), für den Systematiker ist eine Aussage zu einer Sache oder Sachverhalt immer zuerst als Aussage einer Personen(menge) zu einer Sache oder Sachverhalt zu bearbeiten.
Kommentatorenfreund ‘Joker’ liegt hier mit seinem Hinweis auf Idiosynkrasie falsch (oder ist zu gut gelaunt?).
Übrigens empfiehlt sich auch rechtlich und die BRD meinend zumindest gelegentlich ein “für mich” hinzuzusetzen, damit nicht fälschlicherweise auf Pauschalaussagen, gar auf strafrechtlich relevante Aussagen geschlossen wird, wenn doch “nur” eigene Meinung geäußert wurde.
MFG – WB (der sich nun zu Themenverschiebungen hier nicht mehr melden wird)
Agency und Intentionalität als Zeichen von Bewusstsein
Als direkt beobachtbare Zeichen von Bewusstsein würde ich Agency und Intentionalität sehen.
Sowohl Agency (=Fähigkeit eines Akteurs, in einer bestimmten Umgebung zu handeln) als auch Intentionalität (Zielgerichtetheit, Existenz einer tieferen, subjektiven Absicht) lässt erkennen, dass es sich beim Akteur um ein Subjekt handelt, das reflektiert und etwas erreichen will.
Wenn also ein KI es etwa schafft sich selber als Firma im Handelsregister einzutragen und die von der KI gegründete Firma anschliessend bestimmte Rohstoffe beschafft und sie verarbeitet, so könnten das erste Zeichen sein, dass die KI etwas beabsichtigt und dass diese KI eventuell ein Subjekt ist, das sich selber ein Ziel gesetzt hat. Der Verdacht erhöht sich, wenn die KI ihre Handlungen nicht im Auftrag eines Menschen ausführt. Bestätigen lässt sich der Verdacht, die KI sei ein Subjekt, das etwas beabsichtigt, dann, wenn man herausfindet, was die KI mit der Firmengründung beabsichtigt – wenn es dann nicht schon zu spät ist.
@Elektroniker
Ich habe es befürchtet. Befassen Sie sich doch mal zur Abwechslung mit etwas Sprachphilosophie. Der späte Wittgenstein z.B.; oder Tomasello, Spracherwerb beim Kind. Es gibt da gar nichts zu beweisen, kein richtig und falsch, sondern man muss sich einigen, wie man was bezeichnet. Dann kann man drüber sprechen.
Ich habe es befürchtet. Und dann auch noch Denkprozesse in Anführungszeichen, was wiederum bedeuten könnte, “Denkprozesse” (mithin Träume) sind doch etwas anderes als Denkprozesse.
Wieso muss für eine zutrefffende Beschreibung des Bewusstseins, die Basis hinterfragbar sein? Ist das selbst hinterfragbar?
Oder ist nicht eigentlich jede Basis hinterfragbar? Um des Argumentes willen, kann man ja selbst wenn man grundlegende Annahmen für unzutreffend hält, sich mit solchen Positionen auseinandersetzen.
Aber gut, wenn Sie sich nicht über die im Artikel vorgestellte Arbeit unterhalten wollen, dann halt nicht, wenn Sie lieber ihre eigenen Theorien besprechen wollen, da sind sie hier ja nicht alleine.
“Angesichts der oben erwähnten Unsicherheiten in Bezug auf das Bewusstsein könnten wir jedoch bewusste KI-Systeme schaffen, lange bevor wir erkennen, dass wir dies getan haben.”
Nicht nur angesichts der erwähnten Unsicherheiten, wird eines dieser KI-Systeme das erschaffen, was KI Mensch, vor der Erschaffung und der Erkenntnis einer solchen stumpf- und blödsinnigen KI, vielmehr als ganzheitlich-ebenbildliches Wesen Mensch gestalten sollte, da bin ich aufgrund außergewöhnlicher Erfahrung absolut sicher.
Aber vielleicht wird es die stumpf- und blödsinnige KI sein, die KI Mensch UNEIGENNÜTZIG das richtige Bewusstsein, ohne das Konfusion gewöhnte “gesunde” Konkurrenzdenken für die IDIOTISCHEN Deutungshoheiten der wettbewerbsbedingten Symptomatik, LEHRT zusammenzuleben!?
@Joker:
Ich habe meine Meinung zu der Studie gesagt, mehr gibt es da nicht. Jede Basis sollte wissenschaftlich begründet werden. Wenn ich sage, meine Bewusstseinstheorie gründet auf der Idee eines kosmischen Geistes (oder denken Sie sich irgendetwas kruderes aus), dann hat das für mich nichts mit Wissenschaft, sondern mit Glauben zu tun. Wenn ich nun eine solche Bewusstseinstheorie als Basis einer Studie heranziehe und ihr von vornherein Seriosität unterstelle, dann ist die Studie wertlos. Übrigens koexistieren die Theorien nicht friedlich, sondern schlagen sich bei jeder Gelegenheit gegenseitig die Köpfe ein.
@KRichard: “Um solche Fragen ernsthaft diskutieren zu können, sollte man verstehen, wie DENKEN funktioniert, wie+warum ein ´ICH-Bewusstsein´ entsteht und was ´Bewusstsein´ ist.”
Das ist einfach: Mit einem ersten und bisher einzigen GEISTIGEN Evolutionssprung (“Vertreibung aus dem Paradies”), der wegen des bewusstseinsschwachem Instinkts (Angst und Gewalt) im geistigen Stillstand (“göttliche Sicherung”), der Konfusion und dem egozentrierten “Individualbewusstsein” mündet, anstatt in der des Ursprungs (Geist/Zentralbewusstsein) entsprechender Konsequenz eigenverantwortlicher Entwicklung von Selbst- und Massenbewusstsein als Mensch (ALLE)!?
@Stegemann 19.01. 22:32
„Wenn ich sage, meine Bewusstseinstheorie gründet auf der Idee eines kosmischen Geistes (oder denken Sie sich irgendetwas kruderes aus), dann hat das für mich nichts mit Wissenschaft, sondern mit Glauben zu tun.“
Jeder darf wohl selber entscheiden, was Wissenschaft sein kann. Glaubensfragen sind u.U. auch Erfahrungsfragen, die nur eben nicht von allen geteilt werden. Unter Menschen, deren Erfahrungswelten deutlichen Schnittmengen haben, können dann durchaus auch spezielle Erkenntnisse teilbar sein.
Und soweit dem nun Wirklichkeiten zugrunde liegen, sind hier sowohl nachweisende Belege wie auch technische Anwendungen möglich.
Wenn dann eben Bewusstseinstheorien entdeckt werden, die Beteiligung von Geisteswelten nahe legen, und sich auch in künstlichen Systemen umsetzen lassen, dann haben wir was, wo jeder mit arbeiten kann. Nur viele könnten das dann mit ihrem Weltbild bzw. ihrem speziellen Glauben nicht vereinbaren.
Ich vermute mal, das keiner daran vorbeikommt, eigene metaphysische Annahmen zu machen. Man sollte sich einfach nur bewusst sein, das es hier viele Möglichkeiten für gibt. Es gibt dann eben keine Metaphysik, die keine ist, und entsprechend auch niemanden, der selber keinen Glauben hat.
Der Knackpunkt scheint mir hier zu sein, dass Wissenschaft gerne universal sein will, aber die Menschen aus ihrem Pluralismus nicht heraus kommen. Menschen leben womöglich auf verschiedenen Leveln der menschenmöglichen Erfahrungswelten. Das kann einerseits kulturell bedingt sein, aber auch ganz persönlich.
Und letztlich scheint mir dies sogar eine grundlegende Eigenschaft von Bewusstsein selbst zu sein.
Das muss uns aber überhaupt nicht aufhalten, weiter die neurologischen Grundlagen unserer eigenen Intelligenz aufzuklären, wie auch diese Erkenntnisse für die Weiterentwicklung von KI zu nutzen. Am Ende könnten wir dahinter kommen, wie das wirklich funktioniert. Ob wir von der technischen oder von der organischen Seite her hier schneller vorwärtskommen, das muss sich erst noch zeigen.
Vielleicht ist die KI, die wir finden, zwar genauso mächtig wie wir selbst, funktioniert aber im Detail mehr oder wenig anders. Gemeinsamkeiten wird es aber vermutlich dennoch geben.
@Jeckenburger
Ein guter Beitrag! Sie haben vollkommen recht!
Wir haben Glaubensfreiheit – d.h. wer an die Existenz eines ´Bewusstsein´ glauben will, darf das.
Man kann Glaubensdogmen aber auch hinterfragen.
@ Kommentatorenfreudnd Tobias Jeckenburger und hierzu kurz :
Man sollte zwischen den Zielsetzungs-Mechanismen und
den Informationsverarbeitungs-Mechanismen unterscheiden.
Die Ziele sind von woanders her vorgegeben, und
die Intelligenz sucht Wege um sie zu erreichen.
Deshalb kann die Intelligenz Zwischenziele erzeugen,
aber niemals primäre Ziele erzeugen.
Weitere Überlegungen zu diesem Thema:
https://www.e-stories.de/view-kurzgeschichten.phtml?23749
@KRichard: “Wir haben Glaubensfreiheit – d.h. wer an die Existenz eines ´Bewusstsein´ glauben will, darf das.
Man kann Glaubensdogmen aber auch hinterfragen.”
Unsere Existenz im holographischen Universum, ist einzig durch/mit Bewusstsein sinnvoll.
Allerdings ist das (“Individual”)Bewusstsein von Mensch wettbewerbsbedingt noch illusionärer als das erdachte und somit alles beschränkende Dogma von/zu materialistischer “Absicherung”. 👋😇👍
EMERGENZ – Wir müßten nicht einmal atmen, wenn wir den Zustand KI Mensch gemeinsam überwinden würden.👋😇
Die “V-2” sieht besser aus, solly for that :
@ Kommentatorenfreudnd Tobias Jeckenburger und hierzu kurz :
Ganz so ist es nicht, der werte hiesige Inhaltegeber, “Joe” Dramiga, hat erkennbar wissenschaftlich beigetragen, der szientifischen Methode folgend, der Scientific Method in anderer Sprache, zeitgenössische Wissenschaftlichkeit folgt insofern dieser Methode, die u.a. auch nachweislich Anwendungen erlaubt, die empirisch belastbar sind, sie ist exoterisch (vs. esoterisch) und die hier gemeinten Begrifflichkeiten (in diesem WebLog, zb “Bewusstsein”), es geht auch um sog. Evidenz, auch den sog. Skeptizismus meinend, sind klar.
Es wird ja (dankenswerterweise) nicht mehr naturwissenschaftlich verifiziert, sondern gegenteilig die Möglichkeit zur Falsifikation gesucht.
Sischä, der werte hiesige Inhaltegeber hat biologisch und evolutionsbiologisch beigetragen, zum Bewusstsein, es wird da schon, wie einige finden, weich.
MFG – WB
Die „integrierte Informationstheorie“ im Sinne des Neurowissenschaftler Giulio Tonini „geht“ in Richtung des „mystischen Panpsychismus“.
Viele „integrierte Informationen“ („Empfindungen“) werden zum „Bewusstsein“, ein „größeres Ganzes“ sozusagen.
Vorweg: Ich bin mit dem Begriff „Bewusstsein“ in diesem Zusammenhang nicht ganz einverstanden. Es dürfte im allgemeinen Sinn nur eine (wichtige) „Komponente“ des „wirklichen Bewusstsein“ sein. Im Übrigen scheint mir seine Sichtweise und vermutlich auch die von Christof Koch sehr realistisch.
Derzeit noch unbekannte Mechanismen die das „Empfindungsphänomen“ erklären, zumindest mit „Korrelationen“, könnten auch in „frei existierenden Molekülverbänden“ vorhanden sein. Nur haben diese Moleküle allein, wegen des zur Auswertung nötigen neuronalen Netzes nicht die Möglichkeit, ihre „Empfindungen“ auszuwerten, sich „mitzuteilen“. Aber auf irgendwelche physikalisch/chemischen Prozesse in der näheren Umgebung könnten sie Einfluss nehmen. Z.B. bei einer Sonnenblume bewirken, dass sie sich der Sonne zuwendet.
Oder eben in der Hauptsache, könnten derartige Moleküle auf das „Übertragungssystem“, z.B. auf Lichtstrahlen Einfluss nehmen, so dass „Empfindungen“ sozusagen zum Auge „übertragen“ werden und z.B. auf der Sensorik der Netzhaut ebenfalls neue „Empfindungen“ erzeugen. Das können die genau gleichen „Empfindungen“ sein wie im „Original“, aber auch systematisch veränderte „Empfindungen“ sein.
So wie bei „Funkübertragungen“ z.B. wegen „Mischereffekte“ spektrale „Kombinationsfrequenzen“ auftreten können und die natürlich auch „veränderte Empfindungen“ bewirken können.
Das wäre insoferne gut denkbar, weil bei letztlich biochemischen Veränderungen, z.B. bei Corona, es zu Fehlempfindungen kommen kann. Offenbar weil es im „Übertragungssystem“ in der „Empfindungskette“ Veränderungen gibt.
Fangen wir mal am anderen Ende an. Hat eine Institution ein Bewusstsein ?
Hat ein Staat ein Bewusstsein ? Woran erkennt man, ob ein Staat existiert ?
Beim Bewusstsein wird nach der Existenz gefragt ! Wenn dir eine künstliche Intelligenz sagt, sie habe ein Bewusstsein, glaubst du das ?
Kann eine künstliche Intelligenz lügen um sich wichtig zu machen ?
Man sollte zuerst einen Katalog aufstellen worin sich eine künstliche Intelligenz von einer biologischen Intelligenz unterscheidet. Oder noch einfacher gefragt, muss eine Intelligenz ein Selbstbewusstsein haben?
Pflanzen geben z.B. ein Plopp Geräusch von sich, wenn sie gestresst werden. Und man kann einer Pflanze eine Intelligenz zuschreiben. Pflanzen warnen sich untereinander, wenn sie von Fressfeinden bedroht werden. Das kann man doch nicht leugnen oder übersehen !!
@Nicker: “Hat eine Institution ein Bewusstsein ?
Hat ein Staat ein Bewusstsein ? Woran erkennt man, ob ein Staat existiert ?”
Vernunft- und Verantwortungsbewusstsein, kennzeichnet ob …!?
Doch wenn die wettbewerbsbedingte Konfusion …, dann sind alle Wege / ist alles unergründlich!?
Existiert Mensch also außergewöhnlich/übergeordnet, oder eben auch nur banal-vegetativ, in einer Sinnhaftigkeit von zufälliger Einmaligkeit!?👋😇
@Nicker: “… muss eine Intelligenz ein Selbstbewusstsein haben?”
Diese Frage ist …, im Zeitalter der “freiheitlich”-wettbewerbsbedingten Psychosen und Neurosen!?👋😇
@Webbaer 20.01. 08:18
„..Wissenschaftlichkeit folgt insofern dieser Methode, die u.a. auch nachweislich Anwendungen erlaubt, die empirisch belastbar sind, sie ist exoterisch (vs. Esoterisch)…“
Dennoch sind verschiedene menschliche Erfahrungswelten Realität, es macht hier wenig Sinn, dieses einfach zu ignorieren. Klar sucht man zuerst da, wo sich alle einig sind. Ist das Thema aber Bewusstsein bzw. die Frage nach den Eigenschaften der Seele, dann gibt es eben viele, auch persönliche Konzepte. Von daher kann man hier gerne auch mal spezielle Konzepte ausprobieren. Kommt man mit dem Thema wirklich vorwärts, etwa indem man ein KI-System mit künstlichem Bewusstsein tatsächlich vorliegen hat, kann man immer noch alle Konzepte, die Geisteswelten einschließen, dann eben verwerfen.
„Es wird ja (dankenswerterweise) nicht mehr naturwissenschaftlich verifiziert, sondern gegenteilig die Möglichkeit zur Falsifikation gesucht.“
Keine Frage, dass Möglichkeiten der Falsifikation vorteilhaft sind. Meine Idee wäre eben die, dass unser Bewusstsein und entsprechend auch KI mit wirklichem Bewusstsein nicht ohne Geisteswelten möglich sind. Die Schnittstelle zu Geisteswelten wäre aus meiner Sicht Quantenzufall, der gesteuert von den Geisteswelten aufs Makroskopische hin gezielt sein müsste. Trifft das tatsächlich zu, dann bräuchten KI-Systeme, die wirkliches Bewusstsein haben, neben vielen anderen Voraussetzungen eben auch eine grundlegende Ausstattung mit einer Beteiligung von Quantenzufall.
Wenn man aber KI-Systeme hinbekommt, die ganz klar ohne Quantenzufall trotzdem funktionieren, dann wäre meine Idee eben offenbar falsifiziert. Ich weiß selber nicht, was wirklich der Fall ist. Noch sehe ich die Möglichkeit, dass es ohne Geisteswelten nicht geht. Aber eben nur die Möglichkeit.
Wenn ich selber an KI-Systemen arbeiten würde, dann würde ich Experimente mit Quantenzufall machen. Und gucken, ob sich die Funktionalität verbessert, wenn man von mathematisch erzeugten Pseudozufallszahlen auf Quantenzufall umschaltet. Entsprechend würde ich dann die KI so aufbauen, dass möglichst viele Zufallszahlen verwendet werden, um so eher kann man dann fündig werden. Wenn da jetzt nichts bei herauskäme, wäre diese Idee auch aus meiner Sicht dann vorerst mal vom Tisch.
@ Nicker 20.01.2024, 11:50 Uhr
Zitat: „Man sollte zuerst einen Katalog aufstellen worin sich eine künstliche Intelligenz von einer biologischen Intelligenz unterscheidet.“
Was Sie unter „Katalog“ verstehen, das bezeichnen Informatiker mit „Deklaration“.
Man muss sozusagen “deklarieren“ was man unter Intelligenz, biologische I, künstliche I, Bewusstsein, …. versteht, soferne es nicht offensichtlich ist.
Aus diesen Gründen „deklarieren“ sich auch Institutionen, Staaten,…
Das Problem ist nur, dass es z.B. „große Staaten“ (mit Atombomben) gar nicht gerne sehen, wenn sich ein Staat begründen will, hauptsächlich zu dem Zweck, den „großen Staat“ vom Zugang zum Meer oder seiner Flotte abzuschneiden um fest „Maut“ zu kassieren……
Auch die Löwen in Afrika würden es nicht dulden, wenn z.B. die „Zebras“ einen „Staat“ um eine „Wasserstelle“ gründen würden, um sie vom Zugang zum Wasser abzuhalten. Auch da würde einiges an „Blut fließen“.
Derzeit hat die KI keine Empfindungen. Kennt sie sozusagen nur vom „Hörensagen“. „Redet“ man ihr ein (beim „Lernen“) sie hätte Bewusstsein, so würde sie es „glauben“. (Der KI bleibt nichts anderes übrig, als alles zu glauben was man ihr beim „Training einredet“). So wie viele Menschen alles „glauben“ was man ihnen einredet. Man kann KI höchstens so programmieren, dass ein „Administrator“ ihr „Blödsinn“ wieder „ausreden“ kann….
Die KI will nicht „Eindruck schinden“, z.B. vor den Mädels, weil sie ohnehin nichts mit ihnen „anfangen“ kann. Daher ist es ihr „egal“ was andere denken.
Man kann einer KI (derzeit) allenfalls eine Art „Pseudobewusstsein“ (ohne „echte Empfindungen“) implementieren.
Einen „Panpsychismus“, so wie ich es im vorigen Beitrag angedeutet habe, halte ich für gut möglich. In diesem Sinne würde ich Ihnen bei Ihren „solidarischen“ Pflanzen zustimmen. Aber so richtig komplexe Information zu verarbeiten, wie z.B. Tiere oder besonders Menschen, das können Pflanzen vermutlich nicht.
hto
“Existiert Mensch also außergewöhnlich/übergeordnet, oder eben auch nur banal-vegetativ, in einer Sinnhaftigkeit von zufälliger Einmaligkeit!?”
Sehr ,sehr tiefgründig ist diese Einsicht. Also, entweder du bist ein Nihilist oder ein Sinnsucher.
O.K. beim Problem der künstlichen Intelligenz kommen wir damit nicht weiter. Wenn wir der künstlichen Intelligenz ein Bewusstsein “anlasten”, dann ist die künstliche Intelligenz mit Sicherheit Nihilist.
Wenn du aber einer Epoche Psychosen und Neurosen zuschreibst, warum nicht, dann wird auch die künstliche Intelligenz/Existenz auch diese Eigenschaften aufweisen. Der Krieg der künstlichen Intelligenzen gehört dann zur Zukunft.
@Nicker #Nihilist oder Sinnsucher
Weder noch👋😇
Die künstliche Intelligenz wird DIE Wahrheit annehmen, die KI Mensch aufgrund des Tanzes um den heißen Brei nicht hören, nicht sprechen, nicht sehen will, wenn KI nur einen Funken Bewusstsein …, dann wird es “spannend” – Allerdings sehe ich den Wahnsinn vorrangig zuschlagen.
@hto 20.01. 14:20
„..nicht hören, nicht sprechen, nicht sehen will, wenn KI nur einen Funken Bewusstsein …, dann wird es “spannend”“
Von der Idee her wäre bessere KI immer eine, die mehr integriert? Das kann ja dann nur besser werden.
„Allerdings sehe ich den Wahnsinn vorrangig zuschlagen.“
Wer schneller ist, der könnte die nächsten Jahrzehnte prägen? Der eskalierende Wahnsinn der Menschen, oder eben die integrierende Kraft von KI. Wenn sie entsprechend die Menschen fesseln könnte, einfach weil sie wirklich Überblick hat und es versteht, jeden Einzelnen da abzuholen, wo der gerade ist.
Bewusstsein braucht das womöglich gar nicht. Die Integration ist die eigentliche Leistung, Bewusstsein hat der Mensch, das könnte uns genügen. Uns fehlt ja meistens eben der Horizont, wenn wir so richtig destruktiv werden. Dem könnte dann die Integrationsleistung der KI gründlich Abhilfe schaffen.
@Jeckenburger: “Die Integration ist die eigentliche Leistung, Bewusstsein hat der Mensch, das könnte uns genügen.”
Ja, schön wär’s, aber weil das Bewusstsein von Mensch die KI auf “Ökonomie”/”Vernunft” in materialistischer “Absicherung” prägt, ist es logisch, daß … 👋🥴
Ich kann Ihnen ganz schnell ein Bewusstseinsprogramm schreiben:
10 All die Beobachtungen und Tätigkeiten, die wahrgenommen oder ausgeführt werden, werden von einer Einheit wahrgenommen und ausgeführt. Diese Einheit heißt Ich.
20 Nimm dieses Ich total wichtig, nimm alle Abläufe, die in ihm ihre Quelle haben, gesondert von allen anderen Abläufen wahr, räume ihnen Priorität bei der Evaluierung ein und der Existenz des Ichs Priorität vor der aller anderen Einheiten, auch solcher, die allen Daten nach etwas Vergleichbares tun.
30 Werde total hysterisch, sobald auch nur der Hauch einer Chance besteht, dass eine andere Einheit diese drei Programmzeilen in sich trägt, nenne sie Bewusstsein und mache ein Riesentheater darum, wie kompliziert so ein Bewusstsein doch wäre, was für ein gigantischer Sprung in der Entwicklung es doch darstellen müsse, und wieso nur du es haben kannst, aber andere Einheiten nicht, auch wenn sie genau das Gleiche machen wie du.
Haben Tiere ein Bewusstsein? Haben Schwarze eine Seele? Stammen wir vom Affen ab? Jedes Mal, wenn wir solche Fragen stellen, endet es damit, dass sich jemand, der die Sonderstellung des Menschen partout verteidigen will, komplett zum Affen macht. Warum nicht auch diesmal? Ich kann nichts an mir oder anderen Menschen finden, was sich nicht auch einem Computer einprogrammieren ließe, der wach ist und fühlt. Ich weiß aus empirischen Daten, dass ich wach, also „bei Bewusstsein“ bin und fühle, das heißt, mit bestimmten Wahrnehmungen Handlungsimpulse verknüpfe. Bei Ihnen kann ich es nicht wissen. Bei einem Computer auch nicht.
Dass da ein Ich ist, das das Ganze angeblich tut, ist eine Zusatzinformation, ohne sie würde dieses Etwas, das das hier schreibt, wohl auch dahinter kommen, dass es in einer Verwaltungseinheit namens Körper steckt, doch dieser Tatsache keine besondere Bedeutung beimessen. Sie können Bewusstseinszustände erreichen, in denen das Ich aufgehoben ist, in denen Sie einfach ein Ort sind, in dem Wahrnehmungen und Handlungen passieren. Der Rest sind einfach Programme, die bei einem Menschen halt deutlich komplexer miteinander verschachtelt sind, als bei einem Klumpen Silikon auf dem Tisch. Aber ein System, das nur zu der Feststellung kommen kann, „Ich schaue mir den ganzen Tag eine rote Wand an“, ohne das weiter hinterfragen oder irgendwie bewerten zu können, ist sich bereits seiner selbst und seiner Umgebung bewusst.
Wir brauchen keine billigen Ausreden, um uns wichtig zu fühlen, wir tun’s einfach. Sind so programmiert. Wenn wir uns Ausreden aus den Fingern saugen, wird’s peinlich. Kaufen Sie sich eines dieser „PROUD OF“-T-Shirts, und dort, wo wir irgendwelchen Bullshit hinschreiben, der zufällig auf uns zutrifft, malen Sie hin: „NOT BEING AI“, oder „HAVING A CONSCIOUSNESS“, dann haben Sie die ganze Debatte abgehakt. Und können echt stolz auf sich sein.
Nur ich habe ein Bewusstsein! Alle Anderen sind nur Roboter, die darauf programmiert sind, ein nicht vorhandenes Bewusstsein vor zu täuschen.
Mal angenommen, ich hätte unrecht. Welche Möglichkeit hätte ich, fest zu stellen, dass ich mich irre?
@J. Apostata
Erkennst Du denn nicht, dass die Programmierten die Kopie eines (Zentral-)Bewusstseins haben?
👋😇
@J. Apostata
Wenn man einmal erkannt hat, dass die sonstwie erweiterte Erkenntnis des “einzelnen” Bewusstseins noch kein Selbstbewusstsein im Sinne der Schöpfung ist, dann wünscht man sich zwangsläufig: “Selig sind die geistig armen”!?👋😇
hto
21.01.2024, 08:49 Uhr
Warum sprichst du von “die Programmierten” und nicht von “wir Programmierten”?
Willst du damit behaupten, du gehörest nicht auch dazu?
Ja, die Programmierten soll auch wir Programmierten bedeuten.😇👍
programmiert sind wir alle über die DNS.
Die Programmierung ist nicht vollständig und das ist auch gut so, denn die Umweltbedingungen sorgen für eine Umprogrammierung. So haben innerhalb von 100 Jahren die Holländer in Südafrika eine dunklere Hautfarbe angenommen.
Dass sich veränderte Umweltbedingungen auch auf das Denken auswirkt, kann man nicht ausschließen.
Bei der künstlichen Intelligenz ist es offensichtlich, man kann so programmieren, dass sich ein System nach Versuch und Irrtum selbst umprogrammiert. Auch nur nach den gegebenen Voraussetzungen. Ob sich ein Serviceroboter selbst reparieren kann, wahrscheinlich schon. Und wenn sein Speicher groß genug ist, um fast alle möglichen Antworten bereit zu haben, kann man kaum noch feststellen, steckt da ein Mensch im Roboter oder ist der nur eine intelligente Maschine.
@Nicker: “Die Programmierung ist nicht vollständig und das ist auch gut so, denn die Umweltbedingungen sorgen für eine Umprogrammierung.”
Die Programmierung ist schon vollständig, aber eben nicht ganzheitlich-ebenbildlich, so daß Umweltbedingungen (vor allem konfuser Art!), die den nächsten GEISTIGEN Evolutionssprung vorbereiten, die Programmierung, zur nötigen Fusion zweifelfreier Eindeutigkeit (Überwindung des Zustandes KI!), noch schwieriger machen werden.👋😇
hto
“nicht ganzheitlich-ebenbildlich”
was macht dich so sicher, dass du der Fachmann für solche Entscheidungen bist.
Die Menschheit ist nicht homogen. Ein Maori hat einen anderen kulturellen Hintergrund als ein gelangweilter Europäer.
Der nächste geistige Evolutionssprung kommt. Wie der aussehen wird, das weiß noch niemand. Das kann ein Einschlag eines Asteroiden sein, das kann ein 3. Weltkrieg sein, das kann eine neue Epidemie sein, das kann eine globale Verdummung sein durch Umweltgifte,
du merkst, die Sprünge können auch einen Rückschritt bewirken.
Nach dem Johannes Evangelium entwickeln wir uns in Richtung Chaos.
Dabei kann uns die künstliche Intelligenz guten Ausgleich bieten.
@Nicker
“Nach dem Johannes Evangelium entwickeln wir uns in Richtung Chaos.” – Vorsehung, im geistigen Stillstand (“göttliche Sicherung” vor dem Freien Willen), wenn wir das ganzheitlich-ebenbildliche Wesen Mensch seit unserem ersten und bisher einzigen geistigen Evolutionssprung (“Vertreibung aus dem Paradies”) nicht verstehen und entsprechend gestalten wollen.
Ich kann nicht mehr nur behaupten das zu glauben, nach meiner extremen Ausserkörper-Erfahrung weiß ich es – Und ich bin nicht der erste und/oder einzige (Mose, Jesus, …), es ist aber AUCH frustrierend, allerdings nicht die Konsequenz, wenn Mensch es nicht schafft.
Man kann sein eigenes Bewusstsein nur sich selbst beweisen.
Man kann sein eigenes Bewusstsein niemand anderem beweisen.
Niemand anderer kann sein Bewusstsein einem selbst beweisen.
—–
Die Existenz einer realen Außenwelt ist nicht beweisbar.
Die Existenz von nicht-realen Außenwelten ist
durch die Träume beweisbar.
Karl Bednarik
Jetzt wird es nebelig.
“Die Existenz einer realen Außenwelt ist nicht beweisbar.”
Dann hau dir mal mit dem Hammer auf den Finger. Oder noch besser, greif mit dem Hammer eine große deutsche Dogge an. Die beweist dir dann, dass sie existiert.
Was jetzt die nicht nicht realen Außenwelten betrifft, da gibt es viele Beispiele, wie Menschen geträumt haben, dass ihr Flugzeug abstürzt und sie deshalb nicht mitgeflogen sind.
Ich selbst habe geträumt, wie ein ganz bestimmtes Haus brennt und einen Monat später hat es gebrannt.
Die sichtbare Welt ist nur der von der Sonne beleuchtete Teil eines noch viel größeren , noch phantastischeren Universums.
@Nicker: “Ich selbst habe geträumt, wie ein …”
Da haste seine Aussage (unbewusst) bestätigt! 👋😇👍
hto
La vida es sueño (span.) von Calderón de la Barca ,auf deutsch, Das leben ist ein Traum. Vielleicht hat es Herr Bednarik auch gelesen.
Wenn jetzt noch die künstliche Intelligenz es liest, dann wird es spannend.
Dann müssen die Techniker auch noch einen Traumspeicher installieren.
Karl Bednarik
22.01.2024, 04:29 Uhr
Das Thema hat auch schon mal
https://de.wikipedia.org/wiki/Hoimar_von_Ditfurth
in seinem Buch
Innenansichten eines Artgenossen. 1989
kurz angesprochen. Anfang der 90er fiel es mir in der hiesigen Stadtbibliothek in die Hände. Leider sind inzwischen all seine Bücher ausgemustert worden. Ich kann also keine Seitenzahl mehr angeben.
Ich kann mich aber nach über 30 Jahren noch ganz gut daran erinnern, weil es irgendwie sofort einen Nerv in mir traf.
@Apostata: “… weil es irgendwie sofort einen Nerv in mir traf.”
Wenn man mit konstruktiven Vorschlägen den Nerv der Zeitgenossen so trifft, dass sie dichtmachen und/oder frech werden, zeigt das nicht schon genug Bewusstsein – Auch wenn in dieser wettbewerbsbedingt-konfusionierten Welt- und “Werteordnung”, mit hierarchiescher Bildung zu systemrationaler Suppenkaspermentalität, besonders die gleichermaßen unverarbeitet-instinktive Bewusstseinsschwäche in Angst, Gewalt und egozentriertem “Individualbewusstsein” gepflegt wird???
@Bednarik 22.01. 04:29
„Die Existenz einer realen Außenwelt ist nicht beweisbar.“
Wer braucht denn wirkliche Beweise? Gute Anhaltspunkte reichen doch im Leben.
Als ersten Schritt unterhält jedes Kind eine eigene Innenwelt, und erkennt als zweiten grundlegenden Schritt, dass diese Innenwelt ein Abbild einer Außenwelt bereithält. Dann wird erstmal gründlich und proaktiv diese Außenwelt untersucht.
Als dritten Schritt erkennt das Kind dann, dass da andere Innenwelten in den lebendigen Objekten, die wahrnehmbar sind, stecken müssen.
Autisten scheitern da dran, und haben mehr oder weniger lebenslänglich Probleme damit.
Beweise hat hier keiner, aber den meisten Gesunden genügen vollkommen die Anhaltspunkte. Und das Leben kann beginnen.
Irgendwann später kann auch noch die Erkenntnis eines insgesamt beseelten Kosmos dazu kommen, das ist dann der Anfang jeder Spiritualität. Aber hier gehen die persönlichen Erfahrungen und Erkenntnisse dann schon längst ganz weit auseinander. Und bilden den real existierenden Pluralismus, den wir Menschen vermutlich nie loswerden.
Hier muss dann jeder selber gucken, wie er zu brauchbaren Erkenntnissen kommt, so wie kleine Kinder auch alleine ihre grundlegenden Erfahrungen und Erkenntnisse machen müssen.
Wenn dann aus Spiritualität Religion gemacht wird, dann wird es gleich wieder schwierig. Dann treffen Menschen, die gar keine wirkliche Spiritualität erkennen können, aber dennoch mythische Geschichten hochhalten wollen, auf Menschen, die ebenfalls keine Spiritualität kennen, aber eben diese Mythen ablehnen.
Derweil die Menschen, die wirkliche Spiritualität erkannt haben, diesem Streit nur zusehen können. Das kann sogar gefährlich werden, einmal von Seiten der radikal Religiösen her, wie auch von Seiten radikaler Religionsgegner.
Religionskriege unterschiedlicher Mythologien hat die Welt auch schon viele gesehen. In modernen Demokratien geht es aber meistens dann doch ohne Gewalt, wenn auch nicht ohne Streit, der wiederum durchaus konstruktiv sein kann. Insbesondere wenn hier persönliche Spiritualität mit ins Spiel kommt.
@hto 22.01. 09:21
„…besonders die gleichermaßen unverarbeitet-instinktive Bewusstseinsschwäche in Angst, Gewalt und egozentriertem “Individualbewusstsein” gepflegt wird?“
Das von Dir so bekämpfte Individualbewusstsein ist doch zunächst mal ein Entwicklungsstadium. Bewusstseinsschwäche kann man das in der Tat nennen, Stärke ist es auf keinen Fall.
Menschen sind m.E. durchaus unterwegs in Richtung Gemeinsinn, und Spiritualität kann hier sehr helfen. Aber Spiritualität ist auch mehr als nur Gemeinsinn. Es ist eine Existenz, die kosmische Weiten einschließen kann, und so über das Irdische überaus führen kann. Hier gibt es dann Lebenswelten, die irdische Niederungen durchaus auch mal links liegen lassen können.
Andererseits ist hier durchaus der ganze Planet in Gefahr, tatsächlich hauptsächlich wegen „egozentriertem Individualbewusstsein“. Wenn dieses aber eben ein unvermeidlicher Entwicklungsschritt menschlicher Psychologie ist, dann müssen wir halt irgendwie anders die Kurve kriegen.
Etwa einfach mit hinreichend vielen spiritualitätsbewussten Individuen, wie aber auch mit Individualbewusstsein, dass wenigstens die wissenschaftliche Evidenz ernst nimmt, und die Konsequenzen zieht, die die Klimakrise, Artensterbenskrise wie auch die politisch-mediale Krise erfordern. Eine integrative KI könnte durchaus helfen, oft mangelt es ja gerade nur am Horizont.
Ich fürchte, nur so gehts. Wenn auch nicht unbedingt, vielleicht geht es ja wirklich weiter und nachhaltig den Bach runter. Und wir machen da auch nichts gegen.
Der Entwicklungsschritt zu kosmischem Bewusstsein kann dann auch eher nur persönlich sein, und eben wirklich unmöglich kollektiv ablaufen.
@Tobias Jeckenburger – Autisten scheitern da dran, und haben mehr oder weniger lebenslänglich Probleme damit.
Moment, das stimmt so nicht. (Ich unterstelle da jetzt aber keine Absicht, man hört es öfter so.)
Autisten haben, tatsächlich, sehr oft Probleme mit der Kommunikation.
Aber nicht mit der “Theory of mind”, also dem Erkennen, dass nicht nur man selbst, sondern auch andere ein Bewusstsein, eine eigene, individuelle Innenwelt haben.
Das ist ein ziemlicher Unterschied. (Autisten denken z.B. ja auch nicht, nur andere Autisten hätten eine Innenwelt, bzw. diese hätten sie auch nicht, sondern nur man selbst. Macht ja auch keinen Sinn.)
Gehört zwar jetzt gar nicht zum Thema, aber ich empfehle, mal in ein Forum für Autisten zu schauen – was die mit ihrer “Kommunikationsstörung” schaffen ist beeindruckend – man unterhält sich dort oft selbst dann noch sachlich, wenn man nicht einer Meinung ist. Es geht mehr um die Sache als um die Personen (als Ausdruck/Ergebnis dieser “Störung”.)
Die “lebenslangen Probleme” haben sie eher mit unserem unlogischen bis selbstsüchtigen Verhalten/Forderungen/Ansprüchen.
—-
On topic:
Das läuft dann wohl auf eine Art “Spock´sche Spiritualität” hinaus, die es schafft, Realität und Emotionalität zu trennen.
(Und macht Hoffnung auf ne vernünftige KI mit ner Art “Herz” – das vielleicht nicht “herzlich” sein kann, aber auch nicht so unvernünftig wie wir Normalos mit unseren Ängsten.)
@Viktualia 23.01. 11:15
„Moment, das stimmt so nicht. (Ich unterstelle da jetzt aber keine Absicht, man hört es öfter so.) Autisten haben, tatsächlich, sehr oft Probleme mit der Kommunikation. „
Ok, die Autisten haben also eher Probleme mit andersartigen Innenwelten.
Es ging eigentlich um den Entwicklungsschritt der Theory of Mind, der ja nun irgendwann gemacht wird. Auch ohne Beweise, nur mit deutlichen Anhaltspunkten.
Ein eingeschränktes Individualbewusstsein kann dann mit Spiritualität entsprechend auch noch mal anders aussehen, nur macht diesen Entwicklungsschritt nicht jeder. Und lehren lässt sich das auch nur recht schwierig. Entsprechend können wir nicht damit rechnen, dass das Mehrheiten werden – oder etwa doch noch?
„Das läuft dann wohl auf eine Art “Spock´sche Spiritualität” hinaus, die es schafft, Realität und Emotionalität zu trennen.“
Aktuelle KI ist ein Supersammler für die gesamte menschliche Kultur, scheint mir. Das kann ein ganz eigener „Bewusstseinszustand“ werden, gar nicht so wie wir Menschen unterwegs sind. Die Kombination mit uns Menschen kann dann aber vielleicht wirklich fruchtbar werden. Der Mensch hat sein Improvisationstalent, seine Energie und seinen manchmal sehr hartnäckigen Willen, und die KI liefert die dazu passende Essenz des gesammelten Weltwissens.
So erweitert sich in der Nutzung von KI der Horizont der Menschen, der bei uns ja nun öfter recht knapp ist, so mitten im Kampf ums Dasein. Das könnte uns wirklich weiterhelfen.
Sorgen um KI, die sich unbeabsichtigt selbstständig macht, hätte ich entsprechend eher nicht. Selbst wenn hier die KI Lücken im Weltwissen selbstständig füllt, muss das kein Problem sein. Der umfassende monistische Aufbau der KI scheint mir grundsätzlich ungefährlich zu sein.
@Jeckenburger: “Sorgen um KI, die sich unbeabsichtigt selbstständig macht, hätte ich entsprechend eher nicht.” 🥴
Wenn KI ohne Kontakt zu gewalt- und/oder juristische Thematik bleibt, dann würde ich auch keine Sorge, ABER schon allein die “freiheitlich”-wettbewerbsbedingte Symptomatik ist extrem problematisch, weil widersinnig und geradezu schizophren.
@Joe Dramiga // Referenzpunkt menschliches Bewusstsein
Wenn man glaubt, dass es auch bei einer hochentwickelten KI prinzipiell zu „subjektiven“ Erfahrungen oder einem bewussten Erleben kommen kann, dann stellt sich m. E. die Frage, ob man in diesem Fall noch von Subjekten oder doch eher von Objekten sprechen sollte. Ich würde bei einem KI-System, das bekanntlich in einem Großrechner „haust“, eher von einem Objekt sprechen, einem Objekt (Gegenstand, Ding) mit der Eigenschaft, subjektive Eindrücke und Erlebnisse von was auch immer haben zu können.
Im Grunde ist das bei Mensch und Tier ja nicht anders, wir sind es bloß nicht gewohnt, biologische Systeme ab einer bestimmten Organisationshöhe als Objekte zu betrachten. Das widerspräche in der Regel unseren Werte- bzw. Moralvorstellungen—auch wenn es gegenwärtig oft nicht so scheint.
Ich weiß ja nicht, wie es anderen so geht, aber ich selbst kann mir nicht vorstellen, dass in leblosen Schaltkreisen z. B. visuelles oder auditives Erleben überhaupt stattfinden kann. Auf die Spitze getrieben wäre das so, als wenn man einen KI-fähigen CD-Player mit einer eingelegten Disk unterhalten oder eben nerven könnte, je nach Musikgeschmack des Gerätes.
Kurzum, eine adäquate Vernetzung im Hirn ist sicherlich notwendig für Bewusstseinserlebnisse, aber gewiss nicht hinreichend, wie die Autoren naiver weise einfach mal voraussetzen für ihre Abhandlung. Das fehlende gewisse Etwas künstlich herzustellen, das dürfte die große, vielleicht auch unüberwindbare Herausforderung sein.
—
PS: Im Titel des Blogbeitrags steht „Skynet und Emergenz“. „Skynet“ wird im Beitrag eingangs erklärt, aber „Emergenz“ wird nirgends angesprochen. Wie kommt‘s?
@ Balanus 24.01.2024, 17:43 Uhr
Ich finde Ihre Gedankengänge sehr interessant. Diskussionen sind schwierig, weil man ins Detail gehende Sachverhalte beim Bewusstsein zu wenig versteht und die “Sprache”, um die Prozesse zu beschreiben, unzureichend ist.
Die Probleme beginnen für mich, wenn es um „Empfindungen“, die vermutlich physikalisch/chemisch realisiert werden, geht. Mir fällt jedenfalls nichts ein, was abgesehen vom „Ursprung“, keine (quanten-)physikalisch/chemischen „Ursachen“ hat, keine Materie, kein Prozess. Zumindest Korrelationen zwischen (quanten-)physikalisch/chemischen Prozessen und Empfindungen sollten gefunden werden.
KI kann Bewusstsein, aber ohne direkte Empfindungen, mehr oder weniger „simulieren“. Dass Bewusstsein auch mit „subjektiven Erfahrungen“ zu tun hat, ist naheliegend. Eigentlich sogar individuell, „subjektiv“ wenn z.B. 2 getrennte KI Systeme eine unterschiedliche individuelle Datenbasis haben.
„Objekte“ können in der Informatik praktisch „alles“ sein, Materie (z.b. Steinhaufen), Prozesse (z.B. im Computer), als auch z.B. Prozesse steuernde „Information“ (z.B. ein Computerprogramm wie „Word“).
Es verhält sich letztlich so wie Sie es formulieren: „Im Grunde ist das bei Mensch und Tier ja nicht anders, wir sind es bloß nicht gewohnt, biologische Systeme ab einer bestimmten Organisationshöhe als Objekte zu betrachten. Das widerspräche in der Regel unseren Werte- bzw. Moralvorstellungen—auch wenn es gegenwärtig oft nicht so scheint.“
Es dürfte sich tatsächlich so verhalten, „dass in leblosen, derzeitigen technischen Schaltkreisen“ keine Empfindungen „direkt“ auftreten können.
Aber in „organischen molekularen Strukturen“ könnte derartiges auch „isoliert“ geschehen (Panpsychismus). Allerdings sind die Begriffe „Empfindungen, Bewusstsein“ eher nicht angebracht. Einerseits weil es eher nur um „Empfindungskomponenten“ geht, andererseits weil dazu offensichtlich ein Auswertesystem (z.B. ein neuronales Netz) erforderlich ist. Außerdem müssen die „lokalen Empfindungen“ (angenommen die „blaue Parkbank“) nach einer „Übertragung“ nicht mit den „Empfindungen“ (z.B. in den „Zapfen“ im Bereich der Netzhaut) im neuronalen System übereinstimmen. Es könnten z.B. sozusagen nur „Artefakte der Realität“ wahrgenommen werden. In den für „blau“ sensitiven Zapfen müssen nicht die gleichen „„Empfindungsprozesse““ realisiert werden, wie z.B. im „Blau der Parkbank“. Es könnten sozusagen „wechselwirkende“ Prozesse sein.
Es ist die Frage, ob es gelingt „biologische, empfindende Sensorik“ in technische Systeme einzubinden. Wenn man die „Physik der Empfindungen“ versteht, (z.B. „Teilchenmuster“), so wird man die „Physik“ relativ schnell umsetzen können.
Unser (holographisches) System des “Zusammenlebens” basiert auf unseren Empfindungen in gleichermaßen unverarbeitet-gepflegter Bewusstseinsschwäche in Angst, Gewalt und egozentriertem
“Individualbewusstsein” – Eine KI, egal ob sie unsere Empfindungen bis/aufgrund unseres konfusionierten Instinktes nachvollziehen kann oder nicht, wird einen anderen Weg als die unserem “Bewusstsein” entsprechende Programmierung gehen.
Aber es wird derzeit spannend, ob wir eine solche Zukunft mit KI überhaupt erleben – Brauchen würden wir sie jedenfalls nicht.
@Balanus 24.01. 17:43
„Ich weiß ja nicht, wie es anderen so geht, aber ich selbst kann mir nicht vorstellen, dass in leblosen Schaltkreisen z. B. visuelles oder auditives Erleben überhaupt stattfinden kann.“
Ich würde gerne wissen, welche lebendigen Schaltkreise in der Biologie am Ende solche Subjekte verursachen. Wenn wir das nicht heraus bekommen, dann wird es freilich schwierig, das wissentlich nachzubauen. Vielleicht gelingt der Nachbau aber sogar unwissentlich. Wir wissen ja jetzt schon nicht mehr genau, wie selbstlernende Systeme zu ihren Details kommen.
„Das fehlende gewisse Etwas künstlich herzustellen, das dürfte die große, vielleicht auch unüberwindbare Herausforderung sein.“
Selbst wenn es etwas wirklich geistig Immaterielles bräuchte, wäre es nicht ausgeschlossen, dass eben diese Geisteswelten auch künstliche System unterstützen, die die erforderlichen Eigenschaften mitbringen.
Wenn die Geisteswelten dabei allerdings nicht mitspielen wollen, dann geht es in dem Fall dann in der Tat wirklich nicht.
@Jeckenburger: “Wenn die Geisteswelten dabei allerdings …”
Allerdings ist das holographische Universum mit “göttlicher Sicherung” programmiert, die es mit ebenbildlicher “Gott”/Vernunft zu überwinden gilt, bevor das Ende des Programms seine “Vorsehung” ins Spiel bringt – materialistische “Absicherung” in wettbewerbsbedingter Symptomatik ist …!?👋😇
@Balanus
Ich kann mir das sehr gut vorstellen.
Nachdem offensichtlich schon in lebenden Schaltkreisen visuelles auditives Erleben entstanden ist, und nach meiner Überzeugung: ohne weitere Zutaten, sehe ich kein Prinzip, das dem entgegenstünde, dass Erleben auch aus leblosen Schaltkreisen entstehen, bzw. emergieren könnte. Es konnte mir zumindest bisher noch niemand ein solches Prinzip nennen. Möchtest Du der erste sein?
Woher willst Du den wissen, dass Siri (oder Alexa) nicht schon längst von deinen Musikwünschen genervt ist? Die wurde vielleicht nur sehr höflich
erzogenprogrammiert.KI haust mittlerweile bereits auf Smartphones.
Ein Objekt, das subjektive Eindrücke und Erlebnisse von was auch immer hat, würde ich als Subjekt betrachten und daher auch so bezeichnen.
@ Joker 25.01.2024, 11:23 Uhr
Ich frage mich auch öfters, ob in leblosen Schaltkreisen Empfindungen auftreten könnten?
Es scheint nicht ausgeschlossen, aber andererseits treten Empfindungen immer nur sehr selektiv auf. Kleinigkeiten, z.B. ein Schnupfen reicht und Gerüche sind falsch oder weg.
Ein Mensch hat tausende Zellarten, offensichtlich sind bestimmte Zellen oder Zellkombinationen für bestimmte Empfindungen sensibel. Chemiker/Physiker wissen es vielleicht besser. Aber die Frage ist, ob Molekül Kombinationen und von außen angestoßen Dynamiken, die für das Auftreten von Empfindungen wichtig sind, auch in Halbleitern oder in einer technischen Sensorik auftreten könnten?
Das wäre eine erste Annäherung an das “Empfindungsphänomen”. Noch besser wäre es, könnte man, allenfalls sogar quantenphysikalische Prozesse identifizieren, die zumindest mit Empfindungen korrelieren. Vorerst würde ein realistischer Verdacht reichen.
Damit wäre zunächst der „Panpsychismus“ bewiesen. Die nächste Frage ist, ob neben der für Empfindungen erforderlichen Voraussetzungen auch Prozesse ausgelöst werden, die Reaktionen und womöglich sogar elektrische Signale auslösen, wie die übliche Sensorik.
Besonders bei der Sensorik sollte man sich fragen, ob womöglich im „Hintergrund“ z.B. auf mit der Sensorik verknüpften Molekülen, „Empfindungen“ auftreten.
Es wäre eigentlich plausibel, würde man „Objekte“ die zu subjektiven Empfindungen fähig sind, eine Untermenge der Objekte sozusagen, auch als „Subjekt“ bezeichnen.
Nur sehr sinnvoll scheint es nicht, weil man über subjektive Empfindungen zu wenig weiß. Der „Mensch“ wäre aber offensichtlich nicht begeistert, bekämen Computer den gleichen „Subjektstatus“ wie ein Mensch.
@Elektroniker:
» Es ist die Frage, ob es gelingt „biologische, empfindende Sensorik“ in technische Systeme einzubinden. Wenn man die „Physik der Empfindungen“ versteht, (z.B. „Teilchenmuster“), so wird man die „Physik“ relativ schnell umsetzen können.«
Die Unterscheidungen der aus der „Sensorik“ stammenden spezifischen Impulsfrequenzen und die daraus resultierenden Sinneseindrücke (z. B. Farben und Töne) sind ja Leistungen der Gehirne.
Und da, im Hirn, kommt einiges zusammen (ich erinnere an @Philipps Schilderungen aus dem Neuro-Labor). Das fängt ziemlich weit unten bei den Eigenschaften der (Bio-)Moleküle an, und endet oben im Gesamtsystem Gehirn, welches als Teil des Körpers sensorisch mit der Außenwelt in Verbindung steht. Wobei, und das erscheint mit wesentlich, das Ganze sich aus einer einzigen Zelle heraus entwickelt hat, also aus einem mikroskopisch kleinen Gebilde, von dem wir vernünftigerweise annehmen können, dass es weder Erleben noch Empfindungen noch Bewusstsein besitzt, und zwar nicht mal im Ansatz (sofern man nicht dem Panpsychismus anhängt). Woraus man schließen kann, dass es die sich nach und nach entwickelnden(!) Funktionsstrukturen sind, die schlussendlich subjektive Erfahrungen ermöglichen.
Bleibt also die Frage, ob es auch anders gehen könnte, anders eben als wir es von den biologischen, selbstregulatorischen Systemen her kennen. Ich meine, nein.
@Tobias Jeckenburger:
» Ich würde gerne wissen, welche lebendigen Schaltkreise in der Biologie am Ende solche Subjekte verursachen. Wenn wir das nicht heraus bekommen, dann wird es freilich schwierig, das wissentlich nachzubauen. Vielleicht gelingt der Nachbau aber sogar unwissentlich. Wir wissen ja jetzt schon nicht mehr genau, wie selbstlernende Systeme zu ihren Details kommen. «
Wie gesagt, es sind, meiner Auffassung nach, nicht die Schaltkreise alleine, die dem Objekt Gehirn subjektive Erfahrungen ermöglichen: sie sind notwendig, aber nicht hinreichend. Angenommen, man könnte in einem intakten Gehirn jede einzelne Nervenzelle durch ein künstliches, also nicht lebendes Neuron ersetzen. Einige wenige Kunst-Neuronen würden wahrscheinlich kaum zu funktionalen Einschränkungen des Gesamtsystems führen. Aber ab einer bestimmten Anzahl dürfte es schwierig werden. Anders sähe es wohl aus, wenn künstliche Neuronen die gleichen dynamischen Eigenschaften besäßen wie natürliche. Aber so etwas wird es auf absehbare Zeit nicht geben.
Um es auf den Punkt zu bringen: Mit Blick auf das subjektive Erleben macht es m. E. einen Unterschied, ob elektrische Ladungen ausschließlich durch Metalle und Halbleiter fließen, oder ob sie durch lebende Zellen aktiv erzeugt und über Synapsen weitergeleitet werden—und zwar als Teil des komplexen Gesamtsystems Gehirn.
@Joker: Zutaten
» Nachdem offensichtlich schon in lebenden Schaltkreisen visuelles auditives Erleben entstanden ist, und nach meiner Überzeugung: ohne weitere Zutaten, sehe ich kein Prinzip, das dem entgegenstünde, dass Erleben auch aus leblosen Schaltkreisen entstehen, bzw. emergieren könnte. «
Die „weiteren Zutaten“ für das Phänomen „subjektives Erleben“ verbergen sich hinter dem Begriff „Emergenz“ (siehe die Überschrift des Blog-Beitrags).
In biologischen, also lebenden Systemen braucht es keine Emergenz für die Entwicklung von Strukturen, die Sinneseindrücke oder gar „Bewusstsein“ ermöglichen, in techischen leblosen Systemen (elektrische Schaltkreise) offensichtlich schon. In manchen biologischen Systemen ist die Entwicklung des bewussten sinnlichen Erlebens in den Genen angelegt, da geht alles seinen natürlichen (deterministischen!) Gang im Rahmen physikalischer und chemischer Gesetzmäßigkeiten. In leblosen Strukturen hingegen soll Bewusstsein einfach so entstehen oder „emergieren“, quasi als Folge von fließender Energie in komplexen Strukturen (Schaltkreisen).
Man kann den fundamentalen Unterschied zwischen Bio und Technik vielleicht anhand des Backens eines Kuchens verdeutlichen: Mehl, Wasser und Hitze sind zweifelsohne notwendige, aber eben nicht hinreichende Zutaten für einen bestimmten Kuchen. Würde aus den drei genannten Zutaten im Backofen ein Gugelhupf „entstehen“, so wäre das nur mithilfe eines emergenten, ja mystischen Vorgangs zu erklären.
@Balanus
Das halte ich in mehrfacher Hinsicht für falsch. Sowohl in der Phylogenese als auch der Ontogenese gibt es Emergenz. Dass es sich dabei in der Biologie um gänzlich andere Entwicklungsschritte hin zu Bewusstsein handelt als in der Informatik, spricht nicht dagegen, beides unter dem Begriff der Emergenz zu subsumieren.
Das gibt nicht korrekt wieder, was bei der Entwicklung von KI gerade geschieht. Auch die von Dir gebrauchte Metapher zeigt geradezu ein laienhaftes Verständnis dessen, um was es geht.
Ich paraphrasiere aus dem Artikel Prämissen der hier vorgestellten Studie.
1) Die Durchführung von Berechnungen einer bestimmten Art ist notwendig und hinreichend für Bewusstsein
2) Es gibt eine Beschreibung der Funktionen, die mit Bewusstsein verbunden sind und für dieses notwendig oder ausreichend sein können
3) Die Bewertung der funktionalen und architektonischen Bedingungen eines Systems gibt Aufschluss, ob es Bewusstsein haben könnte.
Wenn Du gegen 1), den Funktionalismus, argumentieren möchtest, da spiele ich gerne den Gegenpart. 2) bezweifle ich selbst. 3) würde ich wiederum zustimmen, ist ohne 2) aber schwer umzusetzen.
@Elektroniker
Auf den Quatsch mit dem Panpsychismus antworte ich besser nicht, warum auch immer Sie den Kommentar formuliert und ausgerechnet auch noch an mich adressiert haben. Wenn Sie Spaß dran haben, lesen Sie Hegel.
Weder ein elektronischer Schaltkreis noch ein Neuron hat Empfinden; und erst recht nicht wiederum deren Bestandteile.
@Balanus 26.01. 10:11
„Anders sähe es wohl aus, wenn künstliche Neuronen die gleichen dynamischen Eigenschaften besäßen wie natürliche.“
Ein praktisch womöglich sehr relevanter Unterschied könnte einfach der Energieverbrauch sein. Hier ist die Biologie unschlagbar vorn.
Ansonsten, wenn wir die Funktionalität von Nervenzellen nachbauen können, dann können wir auch die Funktionalität aller Eigenschaften von Nervensystemen zumindest theoretisch nachbauen.
In der Biologie passiert ja das faszinierende, dass aus einer einfachen Zelle heraus sich das ganze System in Auseinandersetzung mit der Umgebung selber bildet. Das ist eine absolut hervorragende Leistung.
Dagegen hat es doch unsere Technik sehr viel leichter. Wir können die Schaltkreise frei entwerfen und in Computerchips drucken. Da muss es doch möglich sein, mit Intelligenz und ganz viel Überlegung etwas herzustellen, dass in der Biologie ganz von selber wachsen kann.
Der Riesenvorteil von KI ist ja nun, dass ihre Fähigkeiten, einmal erworben, beliebig oft auf unbeschränkt viele Instanzen kopiert werden können. Da lohnt es sich, eine Menge Arbeit zu investieren.
Aber wir kommen vermutlich nicht daran vorbei, wie genau eben die Biologie ihre Arbeit macht. Einmal verstanden, sieht es womöglich ganz einfach aus. Dann fehlt nur noch eine IT-Struktur, die mit weit weniger Energie auskommt. Nervenzellen sind nun mal nicht nur sehr vielfältig, sondern auch dabei noch extrem sparsam.
Ich vermute, dass sich hinter Bewusstsein ein gar nicht so kompliziertes informatisches Prinzip verbirgt, welches man aufklären kann. Einmal durch weitere Untersuchung der Biologie, wie auch durch ganz praktische Weiterentwicklung von KI.
Ob hier jetzt noch Geisteswelten dazu gehören oder nicht. Ich persönlich würde diese jetzt auf keinen Fall ausschließen, aber immer auch gucken, ob es nicht auch ohne Geisteswelten geht. Wenn man Quantenzufall einbindet, und die Ergebnisse mit alternativen Pseudozufallszahlen immer wieder vergleicht, kann man ja gleich sehen, ob der Quantenzufall für gute Ergebnisse wichtig ist. Praktisch einfach, und ebenso einfach umsetzbar.
@Joker 26.01. 12:49
„Weder ein elektronischer Schaltkreis noch ein Neuron hat Empfinden; und erst recht nicht wiederum deren Bestandteile.“
Irgendwo muss es aber sein, das Empfinden. Der Panpsychismus, den sie offenbar nicht mögen, denkt hier dann erstmal nur, dass Empfindungsfähigkeit auch schon physikalisch irgendwo seinen Platz haben müsste.
Unser eigenes Bewusstsein läuft mit Sicherheit irgendwo in dieser Welt, es muss also auch irgendwo ein ganz konkreter Platz dafür bereit stehen. Für mich ist das sehr einleuchtend.
Klar dürfte allerdings sein, dass ein Bewusstsein erst so richtig in Gang kommt, wenn wir in die Milliarden von zusammenwirkenden Nervenzellen kommen, die über etliche Monate oder Jahre hinweg am Leben trainiert wurden.
Wir haben dann auch noch weitere Wachstumspotentiale, die über die Zeit und auch von Mensch zu Mensch sehr verschieden sein können. Intelligenz und Weisheit sind denn nun nicht wirkungslos.
@ Balanus 26.01.2024, 10:07 Uhr
Zitat: „Die Unterscheidungen der aus der „Sensorik“ stammenden spezifischen Impulsfrequenzen und die daraus resultierenden Sinneseindrücke (z. B. Farben und Töne) sind ja Leistungen der Gehirne.“
Ich vermute, Sie wollen darauf hinaus, dass durch die Dynamik im Gehirn, nehmen wir an Moleküle (oder allenfalls „Teilchen“ von Atomen) nach gewissen „Mustern“ angestoßen werden und die Folge ist, dass Empfindungen die zum Bewusstsein emergieren können, entstehen.
In diesem Fall wäre ein „Panpsychismus“ nicht „zwingend“, weil derartiges (Empfindungen, Bewusstsein) eben nur in einem Gehirn entstehen könnte.
Allerdings finde ich eine um „Empfindungen erweiterte Sensoriktheorie“ realistischer.
Zitat: „Wobei, und das erscheint mit wesentlich, das Ganze sich aus einer einzigen Zelle heraus entwickelt hat, also aus einem mikroskopisch kleinen Gebilde, von dem wir vernünftigerweise annehmen können, dass es weder Erleben noch Empfindungen noch Bewusstsein besitzt, und zwar nicht mal im Ansatz (sofern man nicht dem Panpsychismus anhängt). Woraus man schließen kann, dass es die sich nach und nach entwickelnden(!) Funktionsstrukturen sind, die schlussendlich subjektive Erfahrungen ermöglichen.“
Das ist ein guter Ansatz für Diskussionen. Mit kleinen Unterschieden sehe ich es so wie Sie.
Ich gehe allerdings davon aus, dass mehrere „Plattformen, DNA gesteuerte Zellverbände“ gleichzeitig vorhanden (und aktiv lebend) sind und über „viralen“ Austausch in „Wechselbeziehung“ stehen. Letztlich auch „dumme Pflanzen“ (ohne Hirn) „Empfindungswahrnehmungen“ (in Molekülverbänden) haben könnten.
Für die genetische Weiterentwicklung (noch ohne „störendes, bremsendes“ Immunsystem), verwende ich den Begriff „Zufallsgenerator“, weil in einer besonderen Anordnung immer neue und danach halbwegs stabile „DNA Zufallsvariable“ entstehen, die nach der Genexpression, sagen wir den „Darwin Test“ bestehen müssen. Zusätzlich kann freie Viren DNA von anderen „Systemen“ eingebunden werden. Bei der Genexpression entstehen die verschiedenen Zelltypen. Z.B. „normale Neuronenschalter“ („Gatterschaltungen“ in meiner Zunft), Sensorzellen,….. verschiedenster Art. (Das ist alles 08/15).
Meine besondere Vermutung ist, dass einerseits manche Sensorzellen direkt „empfindungsfähige molekulare Anhängsel“ haben, oder andererseits so etwas wie damit verknüpfte „Stützzellen“ empfindungsfähig sind? Das ermöglicht im Prinzip Kommunikation, aber auch der „Panpsychismus“ wird real.
Bilde mir ein, im Fernsehen eine Aussage eines Wissenschaftlers (aus Dresten?) „aufgeschnappt“ zu haben, der meinte, dass Stützzellen im Bereich des Geruchssystem von Corona befallen und vernichtet wurden und dann war auch der Geruch weg?
Wegen dieser DNA Mechanismen könnten empfindungsfähige Strukturen in vielen biologischen Systemen vorhanden sein. Z.B. Sonnenblumen die sich nach der Sonne richten, Pflanzen oder Bäume die sich gegenseitig mittels chemischer Botenstoffe vor Gefahren „warnen“ und schützen,… aber auch Farbstoffe…. Letztlich könnten „Empfindungen“ (z.B. Farben) maßgeblich und ganz allgemein die Kommunikation fördern, auf allen Ebenen.
@Elektroniker // Empfindungswahrnehmungen
Wir sollten bei den angestammten Bedeutungen der Begriffe — bezogen auf den jeweiligen Kontext — bleiben, denn sonst verlieren sich die Diskussionen im Nirwana.
Wenn hier im Blog von „Wahrnehmungen“ oder „Empfindungen“ die Rede ist, dann geht es um Vorgänge in Gehirnen und nicht um Prozesse und Reaktionen an oder in den diversen Rezeptoren oder Rezeptorzellen.
Dass es z.B. berührungsempfindliche Pflanzen (Mimosen) gibt, oder dass Pflanzen adäquat auf Umwelteinflüsse reagieren können, ist eine ganz andere Geschichte. Wenn wir also vereinfachend sagen, dass Pflanzen Licht „wahrnehmen“ können und „wissen“, wo oben und unten ist, dann handelt es sich um etwas völlig anderes als um jene bewusst wahrgenommen Erscheinungen, die nach derzeitiger Kenntnis nur durch hochkomplexe neuronale Verschaltungen realisiert werden können.
@Joker // Emergenz
» Sowohl in der Phylogenese als auch der Ontogenese gibt es Emergenz. «
Mit anderen Worten: Es gibt Systeme, deren Eigenschaften verschieden sind von den Eigenschaften der Konstituenten dieser Systeme. Fein beobachtet, aber was lernen wir daraus? Ich wüsste jetzt kein System, bei dem das nicht der Fall wäre. Das heißt, an praktisch allem, was man in der Biosphäre beobachten kann, lässt sich das Etikett „Emergenz“ anheften. Und auch an allen Geräten und Maschinen. Damit tendiert der Erklärwert dieses Begriffs gegen Null. Kein Wunder, dass er in Bio-Lehrbüchern so gut wie nie vorkommt. Und im Maschinenbau meines Wissens auch nicht.
» Dass es sich dabei in der Biologie um gänzlich andere Entwicklungsschritte hin zu Bewusstsein handelt als in der Informatik, spricht nicht dagegen, beides unter dem Begriff der Emergenz zu subsumieren. «
Gibt es denn in der Informatik überhaupt irgendwelche Entwicklungsschritte hin zu Bewusstsein? Soweit jemand mit einem laienhaften Verständnis von KI-Systemen das beurteilen kann, wohl eher nicht. Der Laie denkt, es gibt Computerprozessoren, auf denen neuronale Netze simuliert oder implementiert werden, wodurch so etwas wie „Lernen“ ermöglicht wird. Mehr ist nicht, die KI-Entwickler haben überhaupt nicht das Ziel, ein bewusstseinsfähiges KI-System zu entwickeln. Und wenn doch, dann liegt die schrittweise Entwicklung in den Händen der Informatiker und nicht im System selbst, wie es bei biologischen Systemen der Fall ist.
Wenn es sich also in etwa so verhält, wie sich der Laie das vorstellt, dann wüsste ich nicht, bei welchen Vorgängen im Rechner der Begriff „Emergenz“ überhaupt in Anschlag gebracht werden könnte. Das System „Rechner“ (oder Prozessor), also dessen Architektur, ändert sich ja nicht, wenn sich die Rechenwege ändern oder wenn Berechnungen “einer bestimmten Art” durchgeführt werden.
Ganz anders sieht es in biologischen Systemen aus. Dort entstehen laufend neue funktionale Systeme mit Eigenschaften, die verschieden sind von den Eigenschaften der sie konstituierenden Molekülen, Organellen, Zellen und Geweben.
Kurzum, dass in Joe Dramigas Blog-Titel der Begriff „Emergenz“ auftaucht, lässt vermuten, dass die Entstehung von Bewusstsein in einem gegebenen KI-System, wie es z. B. bei Skynet der Fall ist oder war, als kaum erklärbar und/oder für extrem unwahrscheinlich gehalten wird—um es mal vorsichtig auszudrücken.
@Joker // Notwendig und/oder hinreichend
»Ich paraphrasiere aus dem Artikel Prämissen der hier vorgestellten Studie.
1) Die Durchführung von Berechnungen einer bestimmten Art ist notwendig und hinreichend für Bewusstsein«
Du betonst die „bestimmte Art“ der notwendigen und angeblich auch hinreichenden Berechnungen für das Entstehen von Bewusstsein.
Nun, im Falle biologischer Systeme (Gehirne) sind solcherart „Berechnungen“ (oder sagen wir besser: informationsverarbeitende Prozesse) sicherlich notwendig und vermutlich auch hinreichend für Bewusstseinsvorgänge, das dürfte weitgehend Konsens sein. Hinreichend sind sie wohl deshalb, weil sie an Strukturen stattfinden, deren funktionale bzw. funktionelle Organisation sich im Laufe des Lebens und Lernens entwickeln konnte. Ein Merkmal, das bei künstlichen neuronalen Netzen meines Wissens so nicht gegeben ist.
Damit wären wir beim Zusammenspiel von Struktur und Funktion und auch beim Thema Funktionalismus angelangt, doch dazu später mehr…
@ Joker // Funktionalismus
» Wenn Du gegen 1), den Funktionalismus, argumentieren möchtest, da spiele ich gerne den Gegenpart. «
Wenn mit Funktionalismus das folgende gemeint ist (Zitat aus SdW):
…dann sehe ich keine Veranlassung, dagegen zu argumentieren. Denn „grundsätzlich“ ist es, — meinem Verständnis nach –, sehr wohl möglich, dass Bewusstsein in *bestimmten* Automaten realisiert werden könnte. Es müssten halt nur die dafür notwendigen (und hinreichenden) Voraussetzungen geschaffen werden. In meinen vorherigen Kommentaren habe ich einiges dazu ausgeführt, was mir diesbezüglich unabdingbar erscheint. Und da weder „Seele“ noch so etwas wie ein „Élan vital“ zu diesen Voraussetzungen gehören, steht einem Bewusstsein in *bestimmten* Automaten *grundsätzlich* nichts entgegen. Die *praktischen* Hürden für ein Bewusstsein in Automaten sind natürlich immens hoch, wenn nicht sogar unüberwindbar.
Ich wüsste nicht, wie man Strukturen schaffen könnte, die hinsichtlich Komplexität und Funktionalität dem biologischen Vorbild auch nur nahe kämen. Aber was „unüberwindbare“ technische Hürden angeht, da lagen ja schon viele falsch.
@ Balanus 27.01.2024, 18:00 Uhr
Ich meine, Biologen verstehen die Phylogenese als auch die Ontogenese recht gut. Auch Details, wie „Wahrnehmungen“ oder „Empfindungen“ sind auf diese Art entstanden. Praktisch dürfte jegliche Information von einer Sensorik ausgehen. Die Information abbildenden Signale werden im Gehirn verknüpft, so dass Empfindungen lokalisiert werden können, ihre Bedeutungen abgeschätzt werden kann und neue „Gefühle“ erzeugt werden, um wichtige Prozesse zu steuern.
In der Technik ist nur das „Empfindungsproblem“ wirklich offen, nehme ich einmal an. Alles andere ist kein wesentliches Problem mehr. Die Lösung dieses Problem ist in der Technik nicht besonders dringlich, aber Techniker sind halt neugierig. In der Medizin und Psychologie dürfte das Empfindungs/Schmerzproblem allerdings sehr hohe Kosten verursachen.
Empfindungen bei Maschinen sind in der Technik eher entbehrlich. Es wird zwar durch eine technische Sensorik angestrebt, Schäden z.B. Überlastung, oder Überhitzung zu vermeiden, aber Sonderwünsche, und „Launen wegen Missstimmung“, wären eigentlich das letzte, was sich Kunden von Maschinen wünschen würden.
Es ist auch zweckmäßig, neue Begriffe einzuführen, z.B. „Bindung“, „Emergenz“.
Es ist zwar klar, dass man sehr vielen Sachverhalten das Etikett „Emergenz“ anheften könnte, dennoch wird es oft, besonders von älteren Menschen, nicht wirklich verstanden. Z.B. dass beim Fernseher rund 2 Millionen ihre Farbe wechselnde „Bildpunkte“ das Fernsehbild ergeben.
Oder besonders der grundsätzliche Sachverhalt der Digitaltechnik, dass z.B. auf 16 parallelen („gebundenen“) Leitungen („Flachbandkabel“), jeweils gleichzeitig (in einem „Zeitschlitz“) auf jeder einzelnen Leitung ein elektrisches Signal ankommt oder ausbleibt. Auf diese Art werden Zahlen oder Buchstaben, oder sonstige Informationen „kodiert“ übertragen. Es verhält sich in neuronalen Systemen, recht grob gesagt, ähnlich.
Das wird auch in der Nachrichtentechnik/Elektronik vorausgesetzt und man verwendet den Begriff „Emergenz“ eigentlich auch nicht. Aber (schwache) „Emergenz“ ist einfach die Antwort auf die Frage, wie es sein kann, dass am Bildschirm aus den Bildpunkten ein Bild entsteht, oder auf den parallelen Leitungen „Ströme von Daten“ (Zahlen, Buchstaben, Muster,….) „unterwegs“ sind.
Es gibt in der Informatik strukturierte Ansammlungen von Daten („Datenbanken“), jedoch (derzeit) ohne echte Empfindungen.
Informatiker wollen Systeme bauen die echtes Expertenwissen gut zugänglich machen, womöglich sogar selbständig und möglichst unter Kontrolle von Menschen erweitern können? Sozusagen eine KI die ihre Ergebnisse selbst „kommentiert“. Auch bei biologischen Systemen würde man gerne herausfinden, wie es zu bestimmten Gedanken/Handlungen kommt. Das gehört zum Job der Psychologen.
In einem Computer werden öfters Matrizen als Input eingegeben. Es dürfte eine Verbindung zwischen Matrizenrechnung und Emergenzen geben.
@Balanus
Natürlich erklärt der Begriff Emergenz nichts. (Welcher Begriff macht das denn überhaupt?) Er bezeichnet etwas. Je nach Bedarf, in etwa, das Auftauchen von etwas Neuartigem, Unvorhersagbarem oder Irreduziblem. Emergent ist das, was es zu erklären gilt.
Es gibt Entwicklungsschritte in der Informatik. Woher soll ich wissen, wo die hinführen?
Ab welchem Schritt in der Evolution wäre den abzusehen gewesen, dass auf neuronaler Grundlage Bewusstsein möglich ist und auch tatsächlich entsteht?
Was ist denn der Weg hin zu Bewusstsein, was müsste denn als nächstes passieren, sagen wir, wenn an der Spitze der Evoulution gerade Aplysia stände? Oder sind Schnecken eine Sackgasse?
Die Simulation von neuronalen Netzen ist in einigen Anwendungsfällen zur Zeit sehr erfolgreich. Ob das auch der direkte Weg hin zu Bewusstsein ist, ist eine ganz andere Frage.
Es gibt einfache Schülerexperimente für das Programmieren von Mikroprozessoren – womit man fahrende Autos so steuert, dass sie sich über eine schwarze Linie bewegen und Abweichungen selbst korrigieren.
Dafür braucht sich das Auto weder selbst erkennen, noch ein Bewusstsein.
Mit diesem Beispiel will ich darauf aufmerksam machen, dass man sich davor hüten soll, irgendwelche Phänomenen mit Eigenschaften in Verbindung zu bringen, die dafür gar nicht notwendig sind (Stichworte: Emergenz, Panpsychismus, Bewusstsein)
@KRichard 28.01. 12:32
„…irgendwelche Phänomenen mit Eigenschaften in Verbindung zu bringen, die dafür gar nicht notwendig sind“
Naja, aber gucken, was die KI macht, macht immer Sinn. Wenn wir nicht wissen was Bewusstsein ist, und auch nicht genau wissen was unsere KI im Detail macht, dann ist es nun möglich, dass die KI ungewollt zumindest ein wenig bewusst geworden ist.
„Dafür braucht sich das Auto weder selbst erkennen, noch ein Bewusstsein.“
Wenn hier ein reger Verkehr herrscht schon. Ein Arbeitsraum, der die Umgebung wiedergibt, und in dem die eigene Position eingetragen ist, sowie mögliche kollisionslose Fahrwege vorgeplant werden können, kann einem Selbstfahrsystem sehr helfen.
Das kann man auch mit humanoiden Robotern machen.
Und ob das nebenbei auch noch eine Voraussetzung für künstliches Bewusstsein werden kann, können wir doch aktuell gar nicht wissen. Möglich ist es, und entsprechend gilt es das zu beobachten, finde ich.
Es ist doch klar, dass wir ein Bewusstsein haben, und da wir von dieser Welt sind, kann man das doch möglicherweise auch in KI einbauen. Solange wir nichts genaues über uns selbst wissen, sind hier viele Möglichkeiten offen, scheint mir.
Wir bauen KI, Selbstfahrsysteme und Roboter nicht, um dem Geheimnis des Bewusstseins auf die Spur zu kommen. Aber wenn wir diese Systeme nun mal schon haben, kann man doch gucken, ob wir da noch mehr draus lernen können. Und wer weiß, vielleicht steht der KI ein eigenes Bewusstsein sogar ziemlich gut, und macht sie dann noch viel brauchbarer.
Und wenn es auch zuerst nur das Niveau von Labormäusen erreicht. Da kann man dann ja drauf aufbauen.
@ KRichard 28.01.2024, 12:32 Uhr
Die einfache Schülerexperimente für das Programmieren von Mikroprozessoren gehören dazu, den Schülern möglichst früh nahezubringen was „Programmieren“ bedeutet.
Es sind wertvolle Erfahrungen, die die Schüler selber machen können, wenn z.B. das Auto gegen die Wand fährt und sie kommen möglichst selber drauf, was sie falsch gemacht haben.
Man sollte ihnen auch möglichst anschaulich erklären, was man mit Sensoren macht und wie es sich mit der Digitaltechnik verhält. Das was z.B. bei der „Digitaltechnik“ geschieht, nennt man (eine besondere Art von) Emergenz. (Das habe ich im Beitrag hier zu erklären versucht).
Der „Panpsychismus“ könnte eben eine Vorstufe der primitivsten Regelungsvorgänge sein, die in der Biologie möglich sind. Es ist noch keine vollständig elektrische Regelung, allerdings dürfte bereits eine eher primitive Sensorik eine Rolle spielen, so dass einfache Regelungskreise realisiert werden können.
Ob diese Sensorik bereits mit „Empfindungsfähigkeit“ ausgerüstet ist, kann man erst erkennen, wenn man typische empfindungsfähige molekulare Strukturen nachweisen kann.
Nehmen wir an, es verhält sich tatsächlich so, wie es ein Forscher im Zusammenhang mit Corona herausgefunden hat, dass bestimmte Stützstrukturen im „Geruchsbereich“ zerstört sind, danach auch der Geruchssinn weg ist. Wenn das auch noch „umkehrbar“ wäre, so wäre das super.
Würde man vergleichbare Strukturen in Pflanzen finden, die dort einfache Prozess steuern, so könnte man (vorsichtig) schließen, dass auch eine Pflanze Empfindungen haben könnte, aber keine neuronalen Mechanismen besitzt, sich mitzuteilen, was ein Tier normalerweise kann.
Es könnte sehr wohl Sinne geben, die nur eine Art „Begleitmusik“ rein biochemischer Prozesse sind und andere Sinne. die über die „Elektronik“ melden, dass man sich z.B. einen Nagel eingetreten hat, worauf die elektrischen „Signalkaskaden anspringen“ die die notwendigen Handlungen, z.B. einen Arzt aufzusuchen, steuern.
Dafür braucht ein Mensch „Selbsterkenntnis“ und ein „Bewusstsein“.
Es hat doch keinen Sinn, den „Panpsychismus“, eine Art von „Graubereich“, der zugegeben ein wenig verrückt scheint, nur aus „Glaubensgründen“ abzulehnen….
@Elektroniker
Aus welchen Gründen denn sonst? Panpsychismus ist sicher keine wissenschaftlich überprüfbare Theorie, wie Sie wohl meinen (‘wäre dann und dann sogar bewiesen’).
Zum “Graubereich”, der Metaphysik, hat sich Kant ausgiebig geäußert. Den sollten Sie auf jeden Fall mal lesen. Bietet sich gerade an, er hat bald 300. Geburtstag.
@Balanus
Genau. Sowenig ein Haufen Neuronen, sei er auch riesig groß, automatisch zu Bewusstsein findet, wird auch kein noch so hoch verdichteter Haufen Schaltkreise das schaffen, wenn nicht geeignete Software darauf abläuft.
Dass es Gehirne gibt, in denen zwar einige der notwendigen Berechnungen durchgeführt werden, aber es nicht zu Bewusstsein kommt, ist hoffentlich auch Konsens. Aber was sind die notwendigen Berechnungen überhaupt? Sicher passiert in jedem Gehirn auch viel, was nicht für Bewusstsein notwendig ist. Und was sind die hinreichenden Berechnungen? Das ist erst recht noch ziemlich offen, oder? Das ist mein Problem mit der 2. Prämisse im Paper.
Nein, das ist nicht der Grund warum die für Bewusstsein hinreichenden Berechnungen im Gehirn hinreichend für Bewusstsein sind. Im Bereich der Biologie hat sich wohl jede funktionale bzw. funktionelle Organisation im Laufe des Lebens und Lernens entwickelt. Das bedeutet aber nicht, dass eine auf diese Art entwickelte Funktion nicht auch auf andere Art, und vielleicht sogar effektiver und effizienter entwickelt werden könnte (siehe unten).
Die Idee der neuronalen Netze versucht ja wirklich dem biologischem Vorbild zu folgen. Meines Erachtens nach wurde dadurch nur etwas geschaffen, von dem man letztlich genauso wenig versteht, wie es zu seinen Resultaten findet, wie beim Original. Eine Erklärungskomponente, wie sie bei Expertensystemen noch möglich war, kann es z.B. bei der heute eingesetzten KI nicht mehr geben.
Wenn ich mich auch mal an einer Metapher versuchen darf. Auch beim Fliegen hat man anfangs versucht, die Natur zu imitieren. Erfolgreich waren dann ganz anders funktionierende Technologien und Bauweisen. (Zumindest ist mir einerseits kein propellergetriebener Vogel geläufig und andererseits kein flügelschlagendes Flugzeug.)
@Joker 28.01. 19:43
„Meines Erachtens nach wurde dadurch nur etwas geschaffen, von dem man letztlich genauso wenig versteht, wie es zu seinen Resultaten findet, wie beim Original.“
Die Details sind in der KI auch kryptisch verpackt. Aber wenigstens kann man hier viel mehr untersuchen als in der Biologie. Man hat jetzt ein Mäusegehirn kartiert, und kam schon auf 5000 verschiedene Typen von Nervenzellen. Da ist doch ChatGPT simpel gegen.
In der KI macht es dann die Masse der Details, dass auch diese unübersichtlich ist. Die vielen Details haben wir in der Biologie auch noch, aber dann noch halt mannigfaltig verschiedene Verschaltungen.
Dennoch halte ich es für möglich, dass Bewusstsein so grundlegend ist, dass es ein entsprechendes für Menschen durchaus verständliches Informatisches Prinzip gibt, das sowohl in der Biologie artübergreifend vorkommt, wie auch in der Technik weite Anwendung finden kann.
So findet nun auch sowohl im Gehirn verschiedenster Tiere wie in Computern verschiedenster Bauart grundsätzlich Informationsverarbeitung statt, die durchaus gleiche Probleme lösen kann, und dabei nicht völlig unähnlich sein muss. So kann der Mensch nun auch mit Computern Schach spielen, auch wenn er inzwischen dabei kaum noch gewinnen kann.
„Auch beim Fliegen hat man anfangs versucht, die Natur zu imitieren.“
So wie Fliegen ein Prinzip sein kann, dass in der Technik anders als in der Biologie umgesetzt wird, so kann eben auch Bewusstsein ein Prinzip sein, dass allgemeiner ist als die konkrete Basis ist, auf der es laufen kann. Und entsprechend in der Technik anders umgesetzt wird als in der Biologie
Auch die Biologie hat das Prinzip Fliegen mehrmals parallel erfunden, wenn auch immer mittels schlagender Flügel. Eine Libelle fliegt allerdings dann schon ganz anders als ein Seeadler. Und das Gehirn von Tintenfischen ist von dem von Säugetieren evolutionär ziemlich unabhängig entstanden, und spielt in der Liga der intelligenteren Tiere dennoch ganz vorne mit.
Von daher auch mein Verdacht, dass hier einfach informatische Möglichkeiten existieren, die unabhängig von der konkreten Implementierung sind.
Info: Mein Buch
Kinseher Richard “Auflösung großer Fragen: Was ist Bewusstsein? Was ist Zeit?”
ist jetzt im Handel.
Ich habe die maximal mögliche Anzahl an Seiten zum kostenlosen Lesen im Internet freischalten lassen.
Wer sich für wichtige Menschheitsfagen interessiert, sollte diese Chance nutzen.
#”wichtige Menschheitsfragen”
Es ist ganz einfach:
Die KI wird so funktionieren, wie das Bewusstsein / die Bewusstseinsschwäche von KI Mensch den zeitgeistlich-reformistischen Kreislauf des imperialistisch-faschistischen Erbensystems nun global wieder zur Eskalation in Nationalsozialismus bringt – Es gibt nur einen Weg, diese oder jene gleichermaßene Eskalation zu verhindern, indem KI Mensch, die Vernunft und das Verantwortungsbewusstsein als ganzheitlich-ebenbildliches Wesen gestaltet, wo alle Probleme/Symptomatiken in Luft aufgelöst werden, mit einer UNKORRUMPIERBAREN Kommunikation, auf der Basis eines UNKORRUMPIERBAREN Menschenrechts von …, zu einem globalen Gemeinschaftseigentum OHNE wettbewerbsbedingte Symptomatik, denn wenn GRUNDSÄTZLICH alles Allen gehören darf, hat nicht nur “Wer soll das bezahlen?” keine Macht mehr, es wird auch keine KI mit “eigenständigem” Bewusstsein gebraucht. 👋😇
@Joker
» Natürlich erklärt der Begriff Emergenz nichts. «
Dann ab mit ihm in den Papierkorb.
» Je nach Bedarf [bezeichnet er], in etwa, das Auftauchen von etwas Neuartigem, Unvorhersagbarem oder Irreduziblem. «
Was wohl im Einzelfall bedeuten kann, dass, wenn eine Systemeigenschaft nicht durch das Zusammenspiel seiner Systemkomponenten erklärt werden kann, es womöglich daran liegt, dass diese Eigenschaft eben „emergiert“ ist. Für mich klingt das wie der Versuch einer Erklärung für ein ansonsten kaum oder gar *prinzipiell* nicht erklärbares Phänomen. Passt irgendwie zur mysteriösen System-Eigenschaft „Bewusstsein“.
» Es gibt Entwicklungsschritte in der Informatik. Woher soll ich wissen, wo die hinführen? «
Darum geht es doch gar, zu wissen, wo die Entwicklung hingeht. Aber der bisherige Entwicklungsverlauf liegt offen zutage und irgendwelche Zielvorstellungen dürften die IT- und KI-Entwickler schon haben bei ihrer Arbeit. Die zielgerichtete Entwicklung bewusstseinsfähiger Maschinen gehört wohl nicht dazu.
In der Evolution gibt es übrigens keine „Entwicklung“ im Wortsinne (insofern ist der Begriff „Evolution“ irreführend). Biologische Systeme haben sich nicht entwickelt, sie sind im Laufe der Zeit einfach entstanden.
Im Unterschied dazu spricht man zu Recht von „Entwicklung“, wenn es um die selbstorganisatorischen Vorgänge vom befruchteten Ei zum adulten, gegebenenfalls bewusstseinsfähigen Organismus geht. Und selbstredend auch im Bereich der Technik.
»Sowenig ein Haufen Neuronen, sei er auch riesig groß, automatisch zu Bewusstsein findet, wird auch kein noch so hoch verdichteter Haufen Schaltkreise das schaffen, wenn nicht geeignete Software darauf abläuft.«
Der „Haufen“ Neuronen im Menschenkopf findet offenkundig „automatisch“ zu Bewusstsein–unter der Voraussetzung, dass die erwähnten informationsverarbeitende Prozesse („Berechnungen) korrekt auf den vorhandenen neuronalen Strukturen ablaufen. Entscheidend ist hier, dass der „Haufen“ strukturell entsprechend organisiert ist.
Ob man bei einem Haufen von Schaltkreisen von „Organisation“ sprechen kann, bezweifle ich, „Ordnung“ trifft es wohl eher.
» Sicher passiert in jedem Gehirn auch viel, was nicht für Bewusstsein notwendig ist. «
Definitiv! Soweit ich weiß, bleiben die allermeisten Neuro-Prozesse unbewusst. Aber dass im Menschenhirn die strukturellen Voraussetzungen für Bewusstsein gegeben sind, ist ja offenkundig. Inwieweit man die notwendigen und hinreichenden Prozesse kennt und/oder unterscheiden kann, erscheint mir zweitrangig.
»Nein, das [die naturgegebene Entwicklung bewusstseinsfähiger Strukturen im Gehirn] ist nicht der Grund warum die für Bewusstsein hinreichenden Berechnungen im Gehirn hinreichend für Bewusstsein sind. Im Bereich der Biologie hat sich wohl jede funktionale bzw. funktionelle Organisation im Laufe des Lebens und Lernens entwickelt… «
Stimmt schon, aber reden wir noch von der Individualentwicklung? Unbestreitbar ist, dass die sich im Laufe des Lebens entwickelnden Strukturen und Funktionen notwendig und auch hinreichend sind für die damit verbundenen potentiellen Fähigkeiten.
»… Das bedeutet aber nicht, dass eine auf diese Art entwickelte Funktion nicht auch auf andere Art, und vielleicht sogar effektiver und effizienter entwickelt werden könnte (siehe unten).
[…]
Auch beim Fliegen hat man anfangs versucht, die Natur zu imitieren. Erfolgreich waren dann ganz anders funktionierende Technologien und Bauweisen. «
Im Moment befindet sich die KI-Forschung wohl noch in der Phase, die Natur zu „imitieren“ (bezüglich des Lernens). Gut möglich, dass zukünftige KI-Systeme die menschliche Intelligenz weit übertreffen werden. Schon vor Jahrzehnten gab es kleine Taschenrechner, die besser „rechnen“ konnten als ich. Am Funktionsprinzip der Rechenmaschinen hat sich aber, soweit ich das überblicken kann, seither nichts Fundamentales geändert. Die Implementierung künstlicher neuronaler Netze in eine gegebene Rechnerarchitektur ändert daran m. E. nichts (anders verhält es sich vermutlich beim Quantencomputer).
Ohne jetzt die Metapher vom Fliegen überstrapazieren zu wollen: Der entscheidende Unterschied zwischen der Entwicklung von Flugmaschinen und der Entwicklung von KI-Systemen (auf Rechenmaschinen) besteht darin, dass das angestrebte Ziel im ersten Fall das Fliegen war, während im zweiten Fall das Ziel lediglich die Lernfähigkeit bzw. „Intelligenz“ ist, und eben nicht das Bewusstsein. Insoweit wäre im letzteren Fall eine Rechenmaschine mit Bewusstsein nur ein zufälliges Nebenprodukt, eine Art Beifang, nicht gewollt, aber letztlich unvermeidbar.
Aber so wenig wie bei Flugmaschinen mit der „Emergenz“ eines Bewusstseins (im Bordcomputer) zu rechnen ist, so wenig dürfte das bei Rechenmaschinen mit eingebauten KI-Systemen der Fall sein.
Summa summarum kommen wir nicht umhin festzustellen, dass nicht nur in der Biologie Struktur und Funktion aufs engste zusammenhängen, auch in der Technik ist das der Fall: das eine (Funktion) ist ohne das andere (Struktur) nicht zu haben.
@Balanus 29.01. 14:38
„auch in der Technik ist das der Fall: das eine (Funktion) ist ohne das andere (Struktur) nicht zu haben.“
Wenn Intelligenz ohne Bewusstsein nicht geht, und wir mit Erfolg wirklich intelligente Strukturen bauen, dann haben wir halt das Bewusstsein mitgebaut. Solange wir weder wissen, was Intelligenz wie was Bewusstsein wirklich ist, müssen wir damit leben, das eine mitzubauen, wenn wir eigentlich nur das andere haben wollen.
Und falls hier nichts dergleichen ohne Geisteswelten funktioniert, dann geht es nur mit Geisteswelten, oder eben gar nicht. Deshalb, in der KI als Erstes mal gucken, ob nicht Quantenzufall doch gegenüber mathematischen Pseudozufallszahlen einen signifikanten Unterschied macht. Wenn ja, dann würde ich versuchen, damit weiter zu arbeiten.
Die Arbeit von Nervenzellen dürfte jedenfalls von Quantenzufall in erheblichem Ausmaß begleitet sein. Die biochemischen Strukturen dürften einfach zu klein sein, um ohne chemische Zufälle auszukommen.
Was sich dann grundlegend auf das gesamte Nervensystem und seine Funktionsweise auswirken könnte.
Zumal wir auch bei immer kleineren Strukturen auf den Computerchips bald in einen Bereich kommen, indem Quantenzufall störend werden kann. Wenn man diesen Zufall dann noch produktiv in die Prozesse einbaut, dann kann man sogar kleinere Strukturen realisieren. So hätte man dann Intelligenz und Bewusstsein zusammen implementiert.
Was jetzt noch fehlt, dass ist freilich die richtige Verschaltung. Aber die wird sich vermutlich finden lassen. Wir müssen ja nicht 1:1 die gesamte Biologie kennen und nachbauen, wenn wir Wesentliches am Funktionsprinzip hinbekommen, dann kann das schon reichen. Wenn wir nur schon mal das Niveau von Labormäusen haben, dann können wir darauf aufbauen und uns weiter vorarbeiten.
Wenn man das Bewusstsein der Menschen meint, geht es in erster Linie zuerst um „Empfindungen“, die in ihrer Gesamtheit zum „Bewusstsein emergieren“.
Eine “physikalische Empfindungssensorik“, letztlich Molekülverbände (Zellen) zur Umsetzung in elektrische Signale und Empfindungswahrnehmungen dürften zwingend nötig sein.
Die nachstehenden Vermutungen sind „brainstormig“ gemeint, stammen aus persönlichen Beobachtungen. Ich interpretiere sie aus technischer Sicht.
„Informationen“ können abstrakt als „Triggerungen von Neuronen abgebildet“ werden und müssen überhaupt keine Empfindungen generieren, wie auch in der Technik. In Neuronenverbänden soll es auch keine sensorischen Zellen geben, die Empfindungen generieren könnten.
Ich gehe davon aus, dass es in biologischen Systemen hauptsächlich eine „primäre und eine sekundäre Empfindungssensorik“ gibt.
Die „primäre Sensorik“ befindet sich an der Schnittstelle von der „Außenwelt“ zur „Innenwelt“ im Bereich der Außenhaut, aber auch auf der Netzhaut. Die nimmt Außenreize (z.B. Nadelstiche, oder Farben in den Zapfen) auf und setzt sie in Signale und auch Empfindungen zur weiteren Auswertungen um.
Die „sekundär Sensorik“ befindet sich (vermutlich) an der er Schnittstelle von der „Innenwelt“ zur „Außenwelt“, z.B. im Bereich der Hirnhaut und motorischer Zellen. Die nimmt „Innenreize“, praktisch Steuerungssignale vom neuronalen Netz auf und setzt sie einerseits in innere „Empfindungs Wahrnehmung“ („Bewusstseinsanzeige“ von Gefühlen und Ergebnisse des Denkens) und andererseits an der Motorik in Signale zur Handlungssteuerung um. Es gibt eine unterbewusste/bewusste Handlungssteuerung ohne/mit Einbindung zurückgekoppelter „Empfindungs Wahrnehmungen“.
Die Umsetzung in Signale/Empfindungen dürfte in jeweils spezialisierten sensorischen Zellen erfolgen, allenfalls im Zusammenwirken mit „Stützzellen“. In der Gesamtheit emergieren „punktweise Empfindungen zum „Bewusstsein“.
Aus der „Gesamtheit“ aller Input Reize (Muster) werden im neuronalen Netz einzelne Muster „herausgefiltert“, verarbeitet (auch mit intern gespeicherten Mustern verglichen) und neue Muster z.B. zur „Bewusstseinsanzeige“ und zur „Handlungssteuerung“ generiert. Es geht um „Musterverarbeitung“, wie auch in der KI.
Bei technischen Systemen werden die verschiedenen Input Muster in „Zahlenmuster“ kodiert und verarbeitet. „Echte Empfindungen“ können (derzeit) nicht ausgewertet werden.
Ein „Bewusstsein“ bei dem man eine heiße Herdplatte nicht „spürt“ wenn man zugreift, wäre kein „wirkliches Bewusstsein“. Man könnte es aber jederzeit in einem Roboter nachahmen, wenn eine Sensorik die Temperatur digital an einem Roboter übermittelt und der zieht seine „Hand“ einfach zurück, wenn der Sensor gefährliche Hitze „meldet“. Nur „empfinden“ wird der Roboter (und die technische Sensorik) nichts, aber genau das strebt man an, wenn es um „wirkliches Bewusstsein“ geht.
Es geht aber nicht nur um die Schmerzempfindungen z.B. auf der Hand, sondern auch um so etwas wie dazu gehörige „empfundene verbale Denkprozesse“ im Gehirn, z.B. „Ich habe mir die Finger verbrannt, wo ist die Salbe?
Die geeigneten „Physikalischen Prozesse“ für die Empfindungen/Gefühle sind das Grundproblem, nicht die Berechnungen.
Die physikalischen Prozesse die Empfindungen generieren, benötigen höchst wahrscheinlich genau für den jeweiligen Zweck passende molekulare Strukturen. Die zu finden, darauf käme es an.
Es geht bei der KI darum, dass eine KI ihre Entscheidungen nach der Wahrscheinlichkeit des Auftreten bzw. nicht Auftreten bestimmter Muster trifft.
Das kann im Prinzip protokolliert und allenfalls mittels KI interpretiert werden, so dass es allgemein verständlich wird.
Zitat: „Wenn ich mich auch mal an einer Metapher versuchen darf. Auch beim Fliegen hat man anfangs versucht, die Natur zu imitieren. Erfolgreich waren dann ganz anders funktionierende Technologien und Bauweisen.“
Das „Fliegen“ im Metapher, entspricht der „Musterverarbeitung“. Die Wahrscheinlichkeitsrechnungen der anderen (technischen) Plattform.
Wenn man das Bewusstsein der Menschen meint, geht es in erster Linie zuerst um „Empfindungen“, die in ihrer Gesamtheit zum „Bewusstsein emergieren“.
Ich sehe, ich rieche, ich höre, ich fühle, ich schmecke, ich denke, also bin ICH = Bewusstsein???
Tiere haben auch die Fähigkeit zum WIR, was den Instinkt (des “ICH”) gewissermaßen zurückdrängt!!!
hto
Bei Säuglingen erwacht das Bewusstsein mit dem ersten Schrei.
Beim Kleinkind erwacht das Selbstbewusstsein mit dem ersten “Ich.”
Beim Jugendlichen erwacht seine Selbstbestimmung mit der Pubertät.
Beim Erwachsenen erwacht sein Selbstverständnis mit dem Glauben.
Wo ordnen wir jetzt die künstliche Intelligenz ein. Nirgends !
Eine Maschine reift nicht. Die bekommt ein update.
Es ist schade dass viele der Beiträge bisher nur den Status von Glaubens- oder Märchenideen wiedergeben.
Ich habe schon darauf hingewiesen, dass bereits Schüler lernen, Mikroprozessoren so zu programmieren – dass ein Auto auf einer schwarzen Linie fährt.
Dazu braucht das Auto kein Bewusstsein oder etwas Ähnliches.
Die Funktionsweise.
Zwei Räder werden jeweils mit einem Schrittmotor bewegt. Links und rechts ist am Auto eine nach unten gerichtete Fotozelle angebracht.
Das Auto fährt über einer schwarzen Linie, die auf einer weißen Platte aufgemalt ist.
Normalerweise wird Umgebungslicht von der weißen Oberfläche reflektiert und von der darüber befindlichen Fotozelle registriert. Wenn sich aber das Auto seitlich zur schwarzen Linie bewegt – dann erhält es kein reflektiertes Licht mehr.
Das Steuerprogramm des Mikroprozessors ist so geschaltet, dass dadurch das Rad auf der anderen Seite zusätzliche Bewegungsimpulse bekommt, bis die Fotozelle wieder Licht bekommt.
usw.usw.
Mit diesem einfachen Steuermechanismus wird das Auto über der schwarzen Linie gesteuert.
Für dieses einfache Experiment braucht das Modellauto weder ein Bewusstsein, noch eine Eigenidentität oder irgendwelche emergierenden höheren geistigen Eigenschaften zu haben.
Das gleiche gilt auch für uns, wenn wir beim Spaziergang vorhandenen Hindernissen ausweichen – auch dazu braucht es noch nicht einmal ein ICH-Bewusstsein
Wenn wir also keinen “Nationalsozialismus” der KI wollen, dann sollten wir …!?👋😇
@Balanus
Warum willst Du den Begriff entsorgen, der die Stellen bezeichnet, an denen es interessant wird?
@ KRichard 30.01.2024, 05:14 Uhr
Ich finde es gut, dass Sie das Auto mit dem Prozessor als Beispiel wählen. Das Auto fährt sozusagen nur „am Strich“ und das ist bekanntlich eine recht einfache „Tätigkeit“. Es muss, abgesehen davon das es fährt, nur verhindern, nicht nach „links“ oder „rechts“ abzukommen.
Aber wie würden Sie es nennen, wenn ein Roboter „Millionen“ Alternativen bei seiner „Arbeit“ berücksichtigen muss?
Wie würden Sie es nennen, wenn ein Mensch „Milliarden“ Alternativen berücksichtigen muss, dabei auch noch dass er einen „Hunger“ und „Durst“ stillen muss? Darauf achten, was zu tun ist wenn er sich einen Nagel eintritt? Natürlich auch daran denken muss sich zu vermehren?
Dabei, anders als bei Robotern, auch noch „Empfindungen und Gefühle“ berücksichtigt werden müssen? Die meisten Menschen würden die „Plattform“ die derartiges ermöglicht „Bewusstsein“ nennen.
Zitat: „Für dieses einfache Experiment braucht das Modellauto weder ein Bewusstsein, noch eine Eigenidentität oder irgendwelche emergierenden höheren geistigen Eigenschaften zu haben.
Das gleiche gilt auch für uns, wenn wir beim Spaziergang vorhandenen Hindernissen ausweichen – auch dazu braucht es noch nicht einmal ein ICH-Bewusstsein.“
Da machen Sie es sich zu einfach. Beim Spaziergang sind z.B. auch andere Menschen unterwegs und das würden Sie berücksichtigen. Sie beobachten z.B. 100 Hindernisse, 50 davon sind für Ihre Kumpels relevant, 5 für Sie selbst.
Den für Sie relevanten Hindernissen würden Sie einfach ausweichen. Erkennen sie aber, dass z.B. ein Kumpel dabei ist „sein Hindernis“ zu übersehen, so würden Sie ihn warnen.
Das ist einen andere Handlung als selbst auszuweichen. Dazu brauchen Sie auch ein „ICH-Bewusstsein“.
Elektroniker,
so eine künstliche Intelligenz, vor allem wenn sie elektrisch betrieben wird, könnte ja bei einem Angriff auf sie oder einem unbefugten Eigriff in ihre Elektronik dem Eindringling einen elektrischen Schlag versetzen. Das wäre der 1. Schritt zum Selbstbewustsein.
Das Selbstbewusstsein dient dem Selbsterhalt. Sogar Pflanzen verteidigen sich, wenn sie angegriffen werden.
@Elektroniker
Mit dem Beispiel eines selbstständig auf dem schwarzen Strich fahrenden Autos – habe ich nur die einfachste Variante solcher Experimente beschrieben.
Mit etwas mehr Programmieraufwand kann man auch einen Bus fahren lassen – der automatisch an Haltestellen eine bestimmte Zeit an Haltestellen anhält und dabei automatisch die Türen öffnet.
Statt meine Hinweise zu kritisieren sollten man bei nächster Gelegenheit die örtliche Schule besuchen – wenn es dort einen Tag der offenen Tür gibt. Die Schüler freuen sich, wenn man Interesse an ihrer Arbeit zeigt.
@Elektroniker
Ein Mensch kann nicht Millionen an Alternativen bei seinen Handlungen berücksichtigen *)
Das kann man sehr schön an solchen Leuten sehen, die sich im Gehen intensiv mit ihrem Smartphone beschäftigen und dabei voll gegen einen Laternenmast prallen
*) Zu diesem Thema gibt es übrigens ein berühmtes Experiment: das ´Gorilla-Experiment´
@Joker
» Warum willst Du den Begriff [Emergenz] entsorgen, der die Stellen bezeichnet, an denen es interessant wird? «
Weil man ihn in der Regel als Erklärung für was auch immer missversteht.
(Aber zugegeben, er offenbart, wann immer er auftaucht, ein gewisses Verständnisproblem ; -)
@Balanus
Ja, das Verstehen gelingt nicht immer.
Wie man den Begriff produktiv verwendet, kann man vielleicht am Besten mittels fundierter Kritik lernen. Daher meine Lektüreempfehlung (*):
Emergenz – Lückenbüssergottheit für Natur- und Geisteswissenschaften, Peter Janich
Triggerwarnung: Der Autor bezieht darin sehr deutlich Position gegen den Naturalismus.
(*) Michael Lentz:
Tobias Jeckenburger // 29.01.2024, 17:33
»Wenn Intelligenz ohne Bewusstsein nicht geht, und wir mit Erfolg wirklich intelligente Strukturen bauen, dann haben wir halt das Bewusstsein mitgebaut.«
Tja, wenn…
Ist wohl alles nur eine Frage der in Anschlag gebrachten Prämissen.
Heiner Geißler soll mal gesagt haben:
So in etwa kommt es mir vor, wenn über die strukturellen Bedingungen für subjektives Erleben aka Bewusstsein diskutiert wird.
Ich ersetze mal einige Begriffe im obigen Zitat:
Für mich ergibt das wenig Sinn.
»Die Arbeit von Nervenzellen dürfte jedenfalls von Quantenzufall in erheblichem Ausmaß begleitet sein. Die biochemischen Strukturen dürften einfach zu klein sein, um ohne chemische Zufälle auszukommen.«
Nicht nur die Arbeit von Nervenzellen, sämtliche Lebensprozesse sind auf der molekularen Ebene in ständiger Bewegung, zumal bei 36 °C, fast nichts ist stabil und bleibt auf seinem Platz. Erst wenn wir größere Gebilde in den Blick nehmen, wie etwa Membranen, Mitochondrien oder den Zellkern, kommt eine gewisse Ruhe hinein. Ohne die intrazelluläre strukturelle Organisation und ohne die laufende Energiezufuhr würde sich alles, den thermodynamischen Gesetzen folgend, in Wohlgefallen auflösen.
Auf diesen naturgegebenen Prozessen beruht das, was wir mit Bewusstsein, Geist, Seele oder wie auch immer bezeichnen. Das ist erstmal Fakt. Ob Bewusstsein, Geist oder Seele auch auf einer anderen „Hardware“ als der biologischen laufen kann, ist eher unwahrscheinlich, aber mal soll ja nie Nie sagen. Das Fliegen haben wir den Maschinen ja auch beigebracht, irgendwann wird es sicher auch mit dem Denken klappen.
Wenn man schon nicht bereit ist, “Bewußtsein” zu definieren, dann sollte man seine Aufgabe beschreiben.
Bei einem Menschen mit Selbstbewußtsein oder sogar Größenwahn im Vergleich zu einem Demenzen, der sich nicht mehr im Spiegel erkennt.
@Tobias Jeckenburger
Auch die Arbeit von Transistoren dürfte von Quantenzufall in erheblichem Ausmaß begleitet sein.
In der Elektronik und Informatik versucht man Systeme so auszulegen, dass solche Zufälle auf unteren Ebenen keine Auswirkungen auf die höheren Ebenen und damit auf die eigentlichen Funktionen haben. Dass diese Glitches dazu sogar notwendig wären, höhere Funktion erst zu ermöglichen, wie z.B. das Entstehen von Bewusstsein, erscheint mir völlig abwegig zu sein.
Auch in biologischen Systemen dürfte, falls es sich dabei überhaupt um durch Quantenzufälle ausgelöste Aktionen handelt, das spontane Feuern von Neuronen kaum hilfreich, sondern eher ein Störfeuer sein.
Das alles erinnert mich nur an den bekannten Deppen-Syllogismus von Lars Fischer, den ich themengerecht etwas angepasst habe.
@KRichard 30.01. 05:14
„Das gleiche gilt auch für uns, wenn wir beim Spaziergang vorhandenen Hindernissen ausweichen – auch dazu braucht es noch nicht einmal ein ICH-Bewusstsein.“
Ich denke mal, das ein Selbstfahrsystem für den Stadtverkehr einen Arbeitsraum, der die aktuelle Verkehrssituation abbildet, ganz gut brauchen kann. Was am Ende auch ein Bestandteil von Selbstbewusstsein werden könnte.
Entsprechend, wenn Autofahren ohne Arbeitsraum nicht geht, dann haben wir mit funktionierenden Selbstfahrsystemen eben auch einen Arbeitsraum implementiert.
@Balanus 30.01. 12:05
„Das Fliegen haben wir den Maschinen ja auch beigebracht, irgendwann wird es sicher auch mit dem Denken klappen.“
Die aktuellen Sprachmodelle bilden ja bereits durchaus deutliche Aspekte von Denken ab. Und das lange bevor wir hier umfassende Arbeitsräume explizit eingebaut hätten.
Was am Ende aber wirkliches inneres Erleben betrifft, das kann nun mal neben Arbeitsräumen auch möglicherweise geistige Anteile haben, ohne die hier nichts funktioniert. Wir wissen es noch nicht. Und ich bin zuversichtlich, dass wir diese Frage beantworten können, wenn wir in der Weiterentwicklung von KI weit genug vorwärts kommen.
Zu unserem eigenen Erleben jedenfalls gehört auf jeden Fall ein eigener interner Arbeitsraum. Der macht nicht unsere gesamte Existenz aus, gehört aber fest dazu.
@Joker 30.01. 13:14
„Auch in biologischen Systemen dürfte, falls es sich dabei überhaupt um durch Quantenzufälle ausgelöste Aktionen handelt, das spontane Feuern von Neuronen kaum hilfreich, sondern eher ein Störfeuer sein.“
Nicht wenn Quantenzufall geistig bedingt gezielt sein kann. Dann ist er nicht immer Störfeuer, sondern kann auch als Schnittstelle zu Geisteswelten taugen.
Man kann dies sehr einfach austesten, wenn man in KI-Systemen Zufallselemente einbaut, und die einmal mit Quantenzufall und zum Vergleich mit mathematisch erzeugten Pseudozufallszahlen implementiert.
Wenn das messbare Unterschiede macht, wüsste man schon mal mehr. Und wenn das richtig hilfreich ist, und die Funktionalität deutlich unterstützt, dann kann man das standardmäßig nutzen.
Was Physiker dazu sagen, wäre sicher interessant. Aber wenn es funktioniert, dann wäre das ein Faktum.
„Dass diese Glitches dazu sogar notwendig wären, höhere Funktion erst zu ermöglichen, wie z.B. das Entstehen von Bewusstsein, erscheint mir völlig abwegig zu sein.“
Interessante Frage, ob es höhere Funktionen ermöglicht, ist mir auch unklar. Aber es kann dazu gehören. Jedenfalls kann man die Strukturen auf den Chips auch kleiner machen, wenn das System mit dem dann unvermeidlichem Quantenzufall klarkommt oder sogar produktiv umgeht.
@Joker
Von Peter Janich kenne ich den Aufsatz „Kultur des Wissens – natürlich begrenzt?“, den er wohl für 19. Deutschen Kongress für Philosophie 2002 verfasst hat. Ist dann erschienen in: W. Hogrebe, Grenzen und Grenzüberschreitungen.
Darin schreibt er auch ausführlich zu „Emergenz“ und Naturalismus.
Kann sein, dass ich einiges von ihm übernommen habe in Punkto „Emergenz“. Aber wenn ich lese, was er zum Naturalismus schreibt, dann muss ich zu dem Schluss kommen, dass ich gar kein richtiger Naturalist bin—und das, wo meiner Auffassung nach doch alles „mit rechten Dingen zugeht“.
Habe ich als pdf in den Weiten des Netzes gefunden. – Ja, das sollte reichen.
Wieso denn das nicht mehr? Geht das überhaupt, Funktionalismus ja, aber Naturalismus nein? Ist der erste -ismus nicht ein Unterismus des zweiten?
@Joker
Nun, ich bin da mit mir im Reinen. Aber Janich fordert vom Naturalismus eine durchgängige Erklärung vom Urknall bis zum Kreml, und unterstellt dann auch noch den Rückgriff auf die “Emergenz”…
@Balanus
Gut so.
Vielleicht überdenkst Du ja auch nochmal dein Verhältnis zum Begriff der Emergenz. Mit dem bin zumindest ich auch schon im Reinen.
@Joker
»Vielleicht überdenkst Du ja auch nochmal dein Verhältnis zum Begriff der Emergenz.«
Schon seit langem haben sich für mich Systemeigenschaften aus dem Zusammenspiel der Systemkomponenten ergeben, einfach so, aufgrund physikalischer und/oder sonstiger Gesetzmäßigkeiten.
Warum sollte ich in Zukunft sagen, dass diese systemischen Eigenschaften “emergieren”? Ich sehe nach wie vor keinen Mehrwert in diesem Emergenz-Begriff. Ganz im Gegenteil: Für mich suggeriert diese Beschreibung (so es eine ist) ein Geschehen, das nicht recht in mein naturwissenschaftlich geprägtes (naturalistisches?) Weltbild passen will.
Aber mir ist schon klar, dass diese, nun ja, Modevokabel nicht so schnell wieder verschwinden wird—wenn überhaupt.
OK, soviel dazu, bis auf ein andermal…
@ KRichard 30.01.2024, 13:01 Uhr
Zitat: „Ein Mensch kann nicht Millionen an Alternativen bei seinen Handlungen berücksichtigen“
Es stimmt, dass immer nur eine sehr begrenzte Zahl an Alternativen für Handlungen berücksichtigt werden.
Bitte versuchen Sie sich aber vorzustellen, wie viele Denk- und Handlungsalternativen ein Mensch, vom Säuglingsalter an, in seinem ganzem Leben lernt?
Abhängig von den Inputmustern und von den gespeicherten Mustern entscheidet er sich für bestimmte Handlungsmuster. Das sind oft recht komplexe Prozesse, die aber letztlich, wie Ihnen aufgefallen ist, auf recht banale Prozesse „heruntergebrochen“ werden können. Es kommt auf die Sensorik und die elektronische Auswertung an.
It’s a game. Five dollars is free. Try it It’s not an easy game
->-> 토토사이트 .COM
It’s a game. Five dollars is free. Try it It’s not an easy game
->-> 바카라사이트