Superkommunikation

Offen zugängliche “Daten” wie das eigene Gesicht oder das Sprachverhalten lassen heute weitreichende Schlüsse auf Lebensweise, Stimmung und Persönlichkeit eines Menschen zu. Maschinell durchgeführte Analysen übertreffen die menschlichen Fähigkeiten darin bei weitem. Stehen einem der Beteiligten an einem Gespräch solche Analysen zur Verfügung, kommt es zu einer Verschiebung des kommunikativen Kräfteverhältnisses, wodurch ein Freiraum für manipulative Einflussnahmen entsteht. Übertragen auf die Mensch-Maschine-Kommunikation zeichnet sich eine “Superkommunikation” ähnlich der “Superintelligenz” ab, wie sie Nick Bostrom beschrieben hat.

Kürzlich machten Berichte[i] Furore, Stanford-Forscher hätten ein maschinelles Klassifikationssystem entwickelt, mit dem die sexuelle Orientierung eines Menschen allein aus einem Foto seines Gesichts abgeleitet werden kann. Michal Kosinski und Yilun Wang beschreiben ein Verfahren, mit dem es möglich ist, diese Zuordnung automatisiert mit einer Genauigkeit von 81 Prozent bei Männern und 74 Prozent bei Frauen vorzunehmen. Werden dem System fünf Bilder einer Person vorgelegt, steigt die Genauigkeit sogar auf 91 bzw. 83 Prozent. Menschen gelingt diese Zuordnung lediglich mit einer Genauigkeit von 61 Prozent für die Zuordnung von Männern und 54 Prozent für die von Frauen.

Welche Merkmale des Gesichts dafür im Einzelnen ausschlaggebend sind, vermögen die Autoren nicht zu sagen. Das System nutzt einen Deep-Learning-Algorithmus, der mit einer Vielzahl geometrischer Parameter der Gesichter gespeist wird und eine Trainingsphase auf einem Test-Set von zuvor bereits zugeordneten Bildern durchläuft. Die ungewöhnlichen Fähigkeiten des Systems schlummern in den durch die Trainingsphase optimierten Gewichtungen der einzelnen Parameter und erschließen sich den Forschern noch nicht einmal dann, wenn sie diese Gewichtungen detailliert analysieren würden.

Die Reaktionen auf dieses Papier reichten von Verblüffung bis hin zu der Befürchtung, homophobe Regime könnten ein solches Klassifikationssystem dazu einsetzen, Homosexuelle zu identifizieren und dann gezielt zu verfolgen. Aber selbst wenn diese Sorge einstweilen noch unbegründet ist, so befällt einen doch ein mulmiges Gefühl, wenn man sich vergegenwärtigt, mit welchem Ergebnis offen zugängliche „Daten“ wie das eigene Gesicht ausgewertet werden können. Dass jeder Amazon-Kauf und jeder Facebook- oder Google-Klick das Benutzerprofil von uns auf den Servern dieser Firmen verbessert, hat sich ja schon herumgesprochen. Dass dies aber auch mit ganz alltäglichen Daten möglich ist und zwar sofort, hebt die maschinelle Durchleuchtung von Menschen auf eine neue Ebene.

Precire: Persönlichkeitsanalyse beim Sprechen

Weit weniger aufsehenerregend, jedoch schon mehr als nur einen Schritt weiter ist die Analyse der Sprache von Menschen. Die Aachener Firma Precire Technologies setzt ein ganz ähnliches Deep-Learning-System wie die Stanford-Forscher dafür ein, aus spontan gesprochenen Äußerungen Persönlichkeitsprofile abzuleiten. Sie arbeiten dabei mit Modellen aus der Psychologie, bei denen mithilfe standardisierter psychometrischer Verfahren (Fragebogentests) Persönlichkeitsmerkmale wie Gewissenhaftigkeit, Extrovertierheit, Selbstorganisation oder Offenheit auf Skalen bewertet werden.

Precire bietet nun ein Verfahren an, das eine solche Persönlichkeitsanalyse nicht über die langwierige Bearbeitung eines Fragebogens erstellt, sondern auf der Grundlage weniger Minuten gesprochener Sprache eines Menschen. Was gesagt wird, ist dabei ziemlich egal, die sprachlichen Äußerungen müssen nur spontan produziert werden, etwa beim Erzählen einer Geschichte. Phonetische und linguistische Merkmale wie Sprechgeschwindigkeit, Intonationsverlauf oder Satzlänge werden aus der Sprachaufzeichnung herausgezogen, jedoch keine inhaltlichen Informationen. In einem Interview hat einer der Gründer des Unternehmens, Dirk Gratzel, erklärt, dass sein System bis zu 180.000 Merkmale untersucht und dabei pro Persönlichkeitsmerkmal bis zu 50 verschiedene Parameter einfließen. Die Firma hat es nach eigenen Angaben erreicht, dass mit ihrem Verfahren die gleiche Genauigkeit erzielt wird wie mit den traditionellen psychometrischen Verfahren. Der große Unterschied zu den bisherigen Verfahren liegt hier wie schon bei der Gesichtsanalyse darin, dass Daten genutzt werden, die eben einfach da sind. Jemand, der analysiert wird, merkt nicht, dass das gerade geschieht – ob nun seine sexuelle Orientierung oder seine Persönlichkeit von Interesse ist.

Der Gral einer jeden manipulativen Kommunikation

Natürlich ist es der Firma Precire wichtig, mit ihrem System, das sie nur im Rahmen von Dienstleistungen für ganze Firmen anbietet, die gesetzlichen Vorschriften zu Datenschutz und Persönlichkeitsrechten einzuhalten. Sie bieten ihre Dienste laut Homepage für die Mitarbeiterrekrutierung und die Personalentwicklung an, wo schon seit langem psychometrische Verfahren eingesetzt werden. Doch auch die Analyse von Kundenkontakten ist mittlerweile in ihrem Portfolio enthalten. So werben sie für Lösungen, bei denen schon während eines Call-Center-Gesprächs die Kundenzufriedenheit ermittelt werden kann oder die aktuelle Stimmung erfasst wird, die bei einer Person in einer Direct-Marketing-Kommunikation gerade vorhanden ist. Eine weitere Zielgruppe bilden Pressesprecher oder Moderatoren in Radio und Fernsehen, deren Sprache durch die Analyse gezielt auf eine bestimmte Persönlichkeitswirkung hin optimiert werden soll.

Die Sensation liegt eigentlich nicht darin, dass eine solche Persönlichkeitsanalyse überhaupt durchgeführt werden kann – das wird seit langem mit entsprechenden Testverfahren schon gemacht. Sensationell ist es, mit welchen Daten sie durchgeführt werden kann, mit welcher Qualität und in welcher Geschwindigkeit. Die fortlaufende Persönlichkeits- und Stimmungsanalyse in einem Gespräch verschafft dem Gesprächspartner, dem diese zur Verfügung steht, einen immensen Vorteil dabei, seine Gesprächsziele zu erreichen. Sprachliche Kommunikation ist ja keineswegs nur der Austausch von Informationen, sondern jeder Sprecher stellt sich in der Auswahl seiner sprachlichen Mittel auf die Stimmungs- und Wissenslage ein, die er bei seinem Adressaten als gegeben ansieht. Kann man auf eine fortlaufende Analyse dieses Adressaten zurückgreifen, ist das Kräfteverhältnis in einem Gespräch, das Wissen über den Zustand des anderen, verschoben und kann für die eigenen Interessen ausgenutzt werde. Werbung, Marketing, Kundengespräche oder die Ansprache des Wählers im Wahlkampf waren schon immer mit dem Problem konfrontiert, zu wenig über das Gegenüber zu wissen, um die sprachliche Vermittlung passgenau auf die Zielperson ausrichten zu können. Dieses Wissen, das nun Firmen wie Precire aus frei zugänglichen Daten schürfen können, in eine auf die Gesprächsziele exakt zugeschnittene Botschaft zu gießen, ist der Gral jeder manipulativen Kommunikation.

Superintelligente Superkommunikatoren

Wenn man sich mit Systemen wie dem von Precire oder dem der Stanforder Wissenschaftler zur maschinellen Gesichtsanalyse befasst, stellt sich irgendwann auch die Frage, was das denn für die Mensch-Maschine-Kommunikation zu bedeuten hat. Ich selbst fühle mich dabei an das Buch „Superintelligenz“ erinnert, dass der schwedische Philosoph Nick Bostrom 2013 veröffentlicht hat. Er legt darin dar, dass ein intelligentes System, hat es erst einmal die menschliche Intelligenz annährend erreicht, aufgrund der überlegenen Lern-, Speicherungs- und Vernetzungsmöglichkeiten immer schneller zum Menschen aufschließen und ihn dann immer weiter übertreffen wird. Die Entstehung einer solchen „Superintelligenz“ mit all ihren Vorteilen und Gefahren liegt nach Bostrom logisch zwingend in der Natur der maschinellen Intelligenzentwicklung.

Auch die Kommunikation von Maschinen mit dem Menschen kann als „Superkommunikation“ verstanden werden, wenn das künstliche System über detaillierte Informationen zum psychischen Zustand seines menschlichen Gegenübers verfügt und diese immer besser einzusetzen lernt. Anders als zwischen Menschen können in einer solche kommunikativen Asymmetrie nämlich die sprachlichen Verfahren, mit denen ein Gesprächsziel erreicht wird, durch hocheffektive Lernverfahren immer weiter optimiert werden. Es ergibt sich ein „superkommunikatives“ intelligentes System, das unsere Stimmungen und menschlichen Eigenschaften wie in einem offenen Buch lesen kann und das darauf aufbauende Überzeugungsverfahren einzusetzen versteht, denen wir uns nicht zu entziehen vermögen. Bostroms superintelligentes System wird zwangsläufig auch zur Superkommunikation befähigt sein. Wir werden es lieben.

Anmerkung:

[i] In der deutschsprachigen Presse etwa in der FAZ, bei Heise oder bei Spiegel Online. Der Economist hat in seiner Ausgabe vom 9. September als erster darüber berichtet.

Veröffentlicht von

www.lobin.de

Henning Lobin ist seit 1999 Professor für Angewandte Sprachwissenschaft und Computerlinguistik an der Justus-Liebig-Universität Gießen. Von 2007 bis 2016 leitete er dort das interdisziplinäre Zentrum für Medien und Interaktivität, in dem die Auswirkungen von neuen Kommunikationsformen auf Wissenschaft, Kultur und Bildung untersucht werden. Seine Forschungsschwerpunkte bilden die Auswirkungen der Digitalisierung auf die Sprache, Texttechnologie und die multimediale Wissenschaftskommunikation. Gegenwärtig ist er u.a. Mitglied im wissenschaftlichen Beirat des Instituts für deutsche Sprache in Mannheim und des Fachkollegiums "Sprachwissenschaft" der Deutschen Forschungsgemeinschaft. Bei den SciLogs ist Henning Lobin Autor des Blogs "Die Engelbart-Galaxis" und Gast-Autor im Blog "Wissenschaftskommunikation hoch 3" der ACATECH, für die er auch als externer Experte für Fragen der Wissenschaftskommunikation in sozialen Medien fungiert.e Lobin ist Autor von sieben Monografien und hat zahlreiche Sammelbände herausgegeben (Bücher bei Amazon, bei Buch.de und im Buchhandel). Zuletzt erschienen: Engelbarts Traum (Campus, 2014).

11 Kommentare Schreibe einen Kommentar

  1. Superkommunikation würde ich es nicht nennen, wenn sie bei jeder Lebensäusserung ihres Gegenübers (Kunden, Ehemanns, zukünftiger Freundin) ständig einen Lügendetektor und quasi einen Gedankenleser einsetzen.
    Im Prinizip läuft das einem Grundmotiv von natürlicher Kommunikation entgegen: Kommunikation mit dem Gegenüber will nicht vor allem etwas mitteilen und schon gar nicht die Wahrheit offenbaren, vielmehr will sie den anderen “bewegen”, in eine gewünschte, erhoffte Richtung bewegen. Sie will das Gegenüber, den Adressaten der Kommunikation beeinflussen, vielleicht sogar täuschen. Wenn aber in Alltagssituationen Mittel eingesetzt werden, die ansonsten Privatdetektiven vorbehalten waren, dann zerstört das diesen Kommunikationszweck. Derartige Technik im Alltag eingesetzt könnte die Art und Weise wie wir miteinander umgehen radikal ändern – und nicht etwa zum Guten.
    Ich stelle mir schon mal einen dystopischen Film vor, in dem zwei Liebende sich schwören keine technischen Mittel zur “Aushorchung” des Gegenübers vorzustellen – bis sich dann gegen Ende des Films herausstellt, dass einer der beiden selber ein Android ist, der all die nötige Lügendetektor- und Aushorchtechnik bereits fest eingebaut hat.

    • @ Herr Holzherr :

      Im Prin[]zip läuft das einem Grundmotiv von natürlicher Kommunikation entgegen: Kommunikation mit dem Gegenüber will nicht vor allem etwas mitteilen und schon gar nicht die Wahrheit offenbaren, vielmehr will sie den anderen “bewegen”, in eine gewünschte, erhoffte Richtung bewegen.

      Wieder vely schlau angemerkt von Ihnen, werter Herr Holzherr, zwischen Kommunikation, die immer Veranstaltung (das Fachwort) ist und zu sein hat, und dem was ist, was tatsächlich gedacht wird von Individuen, ist streng zu unterscheiden.
      An sich könnte eine sogenannte Superintelligenz eine Art Kommunikations-Weltmeister werden, abär so kann nicht zuverlässig in die Leutz hineingeschaut werden.

      Vorsicht!, Mini-Anekdote :
      In Unternehmen der Wirtschaft läuft es ganz grob skizziert so: Der Kunde wird von der Vertriebsschicht bearbeitet mit bestimmter “Wahrheit”, die Vertriebsschicht von leitenden Mitarbeitern, wiederum mit bestimmter “Wahrheit”, die Management-Schicht vom Vorstand, dito, der Vorstand (idealerweise) vom CEO, Dem Chef für das Strategische, wiederum wie ganz am Anfang beschrieben : mit bestimmter “Wahrheit”, und auch der CEO ist, wenn nicht zufällig alleiniger Anteilseigner, im Kern nicht mit der “Wahrheit” befasst, sondern damit Abnehmerzufriedenheit bei den Anteilseignern zu generieren, die ihn wohlweislich als Angestellten und als eher “unwahr” kommunizierenden Top-Vorstand einschätzen, wenn sie eben schlau sind.

      Bonmot:
      Der Linguist hat die Veranstaltung mit dem Namen Kommunikation zu überschätzen.

      MFG
      Dr. Webbaer

  2. MH,
    sehr gut, aber es besteht Hoffnung.
    Den Gral jeder manipulativen Kommunikation, der wird schon täglich eingesetzt und zwar von den Frauen. Man kann es Charme nennen, Chi-Chi, Getue, immer weiß der Gesprächspartner , dass getrickst wird, und man lässt sich das ja auch gern gefallen, lässt sich nichts anmerken und fühlt sich insgeheim als der Überlegene.
    Ich glaube nicht, dass in diesen entspannten Situationen ein Gesprächsanalysator klüger ist, als man selbst.
    Bei Vorstellungsgesprächen, überall dort , wo es ernst wird, da wird sich auch eine Abwehrstrategie durchsetzen, indem bestimmte Stichworte vermieden werden, falsche Gestik eingeübt und verräterische Gesichtsfalten mit Schminke zugekleistert werden. Wie beim Film auch.
    Mit einiger Übung wird es auch gelingen den Spieß umzudrehen und dem Analysator das aufzutischen, was man gerne möchte.
    Wir werden es lieben.

  3. So ein bißchen krank ist das schon, dieses unbändige Streben nach dem, was der andere denkt, fühlt, macht usw.
    Erinnert mich an die digitale Variante der älteren Dame, die ganz “harmlos” am Fenster sitzt, stundenlang, so mit Kissen unter den Ellenbogen- und stets ganz genau weiß, wann wer mit wem und warum unterwegs ist.
    Stalkende Gesellschaft…

  4. “Wir werden es lieben.”

    Ja, da stimme ich Ihnen zu und ergänze: Wir werden wie Kinder sein.

    Ehrfürchtig werden wir mit jener AI kommunizieren, die uns in unserem tiefsten Innern so sehr versteht, besser als Freunde und Familie, besser als wir es selbst jemals könnten.

  5. “Anders als zwischen Menschen können in einer solchen kommunikativen Asymmetrie nämlich die sprachlichen Verfahren, mit denen ein Gesprächsziel erreicht wird, durch hocheffektive Lernverfahren immer weiter optimiert werden. Es ergibt sich ein „superkommunikatives“ intelligentes System, das unsere Stimmungen und menschlichen Eigenschaften wie in einem offenen Buch lesen kann”

    Spätestens zu dem Zeitpunkt, da per App jedermann Zugang zu einer superkommunikativen AI hätte, stellt sich für Psychologen und Therapeuten dann die Frage nach einer beruflichen Neuorientierung … .
    Möglich auch, dass zunächst noch versucht wird, die AI mit ins therapeutische Setting einzubauen, was (für den Therapeuten) so lange gut gehen wird, bis dem Klienten/Kunden bewusst wird, dass er auf den humanen Berater ganz gut verzichten kann und es für ihn effektiver wäre, sich gleich selbst die AI zuzulegen.

  6. Ein selbstfahrendes Auto, welches eine unerwartete Routenänderung darum begründet, weil der Fahrgast darauf mit körperlicher Unruhe oder einem fragenden Blick reagiert hat, kann dadurch wohl tatsächlich beim Fahrgast punkten, denn die erhöhte Responsivität, die es damit zeigt, macht es gefühlt menschlicher. Dies zum obigen Satz:

    Es ergibt sich ein „superkommunikatives“ intelligentes System, das unsere Stimmungen und menschlichen Eigenschaften wie in einem offenen Buch lesen kann

  7. Es ergibt sich ein „superkommunikatives“ intelligentes System, das unsere Stimmungen und menschlichen Eigenschaften wie in einem offenen Buch lesen kann und das darauf aufbauende Überzeugungsverfahren einzusetzen versteht, denen wir uns nicht zu entziehen vermögen.

    Derartige Systeme können nur das individuelle Output des Erkenntnissubjekts bearbeiten, nicht das nicht erfolgte individuelle Output.
    Insofern leidet traditionell auch die Psychologie, die zudem bidirektional funktioniert und, für einige, verblüffend oft mehr über den Psychologisierenden verrät als über den Psychologisierten.
    Auch die Linguistik mit ihren Möglichkeiten muss hier nicht überschätzt werden.
    Wie geschildert ‘aufbauende Überzeugungsverfahren’ führen insofern, weil nur grob näherungsweise, ausschnittsartig und an die Interessen (!) des derart Bemühten erfasst werden kann, nicht zu Argumentationen, zu besonderen Streitführungen, denen sich nicht ‘entzogen’ werden kann.
    Auch weil sich das erkennende Subjekt nicht umfänglich selbst kennt und immer auch klandestin verlautbart, Output gibt.

    Bostroms superintelligentes System wird zwangsläufig auch zur Superkommunikation befähigt sein. Wir werden es lieben.

    Aber nur theoretisch und logisch bestimmten Definitionen folgend, also definitorisch vs. praktisch.


    Zudem, was gerne vergessen wird, die sogenannte Intelligenz ist nicht unabhängig, sogenannte IQ-Tests sind insofern kultureller Maßgabe folgend aufgebaut und was dem einen intelligent erscheint, erscheint so dem anderen nicht.
    D.h. die sogenannte Superintelligenz muss über eine Intention, über einen inneren Drang oder Motivationsimperativ verfügen.
    Ein derartiger Imperativ ist sehr schwer zu entwickeln, die Erde bspw. hat dafür sozusagen eine ganze Menge Iterationen benötigt und eine ganze Menge CPU- oder Welt-Zeit.

    MFG
    Dr. Webbaer (der nichts gegen sozusagen intelligentes Marketing-Gequatsche hat, vielen Dank dafür, auch sehr nett das Beispiel mit dem Erkennen homosexueller Neigung auf Grund visueller Daten, auch dies können viele ohne maschineller Intelligenz; manche können sogar politische Neigung mit bestimmter Wahrscheinlichkeit auf Grund des Aussehens grob einschätzen – aber in der Regel erst bei Älteren, denn erst mit 40 (manche meinen ab 50) hat der Mann (!) die Visage, die er sich verdient hat, wie es so schön heißt)

  8. Bonus-Kommentar hierzu :

    Das System nutzt einen Deep-Learning-Algorithmus, der mit einer Vielzahl geometrischer Parameter der Gesichter gespeist wird und eine Trainingsphase auf einem Test-Set von zuvor bereits zugeordneten Bildern durchläuft. Die ungewöhnlichen Fähigkeiten des Systems schlummern in den durch die Trainingsphase optimierten Gewichtungen der einzelnen Parameter und erschließen sich den Forschern noch nicht einmal dann, wenn sie diese Gewichtungen detailliert analysieren würden.

    Training.

    Training hier das Fachwort, wie werden derartig erkennende Systeme genau trainiert?

    Die ‘einzelnen Parameter’ scheinen vorgegeben zu sein, die AI kann hier anscheinend keine eigenen entwickeln.

    Zudem muss ein derartig erkennendes System neben seiner Einschätzung, wie zutreffend auch immer, auch seine Regelmengen ausgeben, die zu diesem Erfolg geführt haben.

    Es kann dann letztlich sein, dass bei Vorliegen aller Daten, auch Meta-Daten, das hier gemeinte erkennende System betreffend, menschlicherseits nicht mehr en dé­tail nachvollzogen werden kann.
    Die Regelmengen betreffend, weil zu komplex für menschliche Nachrechnung.

    Zudem fiel hier die eher geringe Datenprobe der Größe 35.326 auf.

    MFG
    Dr. Webbaer

    • PS und um es einmal ein wenig “knuffiger” auszudrücken hierzu :

      Werden dem System fünf Bilder einer Person vorgelegt, steigt die Genauigkeit sogar auf 91 bzw. 83 Prozent. Menschen gelingt diese Zuordnung lediglich mit einer Genauigkeit von 61 Prozent für die Zuordnung von Männern und 54 Prozent für die von Frauen.

      Die Werte der Menschen sind zu niedrig, selbst oder gerade wenn angenommen wird, dass ca. 10% der Bevölkerung homosexuell sind.

      Hätte eigentlich auch Ihnen, Herr Dr. Lobin, auffallen müssen.

      Wer bspw. immer auf ‘heterosexuell’ tippt, kommt auf Werte von ca. 90%.

      Vermutlich ist diese Studie “Bull” oder zumindest hier gänzlich unzureichend erklärt.

      MFG
      Dr. Webbaer

Schreibe einen Kommentar




Bitte ausrechnen und die Zahl (Ziffern) eingeben

E-Mail-Benachrichtigung bei weiteren Kommentaren.
-- Auch möglich: Abo ohne Kommentar. +