Raj Reddy: Aber wo ist die Filterblase?

Was die Frage nach den negativen Folgen technischer Neuerungen angeht, hat die deutsche Gesellschaft ja nun den Ruf, eher besonders skeptisch und negativ zu sein. (Siehe aber z.B. auch diesen Beitrag mit einem Technikphilosophen, der die Technikfeindlichkeit der deutschen für eine Legende hält.)

“Cogs” und “Gats” – aber wo ist die Filterblase?

Raj Reddy beim HLF 2016. Bild: Kreutzer/HLF

Raj Reddy beim HLF 2016. Bild: Bernhard Kreutzer/HLF

Bei dem Vortrag von Raj Reddy heute (Donnerstag) morgen beim Heidelberg Laureate Forum über “Too much information, too little time” habe ich ein wenig Skepsis allerdings durchaus vermisst. Reddys Lösung für das Problem, dass immer mehr Information auf uns einstürmt: intelligente Systeme, die uns “die richtige Information, zur richtigen Zeit, in der richtigen Sprache, in der richtigen Ausführlichkeit” präsentieren sollen.

Das sind zum einen, was Reddy kognitive Verstärker (“Cogs”) nennt, die voraussagen, was wir wohl gerade tun wollen, und uns die geplante Handlung so einfach wie möglich machen, also etwa Preise verschiedener Anbieter vergleichen, Spammails herausfiltern, oder uns nur die für uns interessantesten Nachrichten heraussuchen. Die andere Art von automatischem Agenten sind die Schutzengel (“Guardian Angels”, “Gats”) die uns auf Ereignisse bedrohender, potenziell schädlicher oder aber interessanter Art aufmerksam machen, die wir ohne sie verpassen würden.

Was ist denn nun richtig?

Während der ganzen Zeit, in der Reddy menschliche Schwächen und Stärken auf Basis der Kognitionsforschung erklärte und daraus Kriterien für seine Hilfsagenten ableitete – sie sollen nicht aufdringlich sein, nicht kompliziert, er wolle zur Entscheidung bitte einfach nach links oder rechts wischen aber nichts Komplizierteres anstellen – war ich bei der Frage, inwieweit die “right information at the right time” überhaupt ein sinnvolles Konzept ist.

Filterblase und Echokammer sind ja nun wirklich Begriffe, die heutzutage in vieler Munde sind. Sie kamen, soweit ich erinnere, an keiner Stelle von Reddys Vortrag vor. All das, was Reddy da perfektionieren wollte, schien das Problem der Filterblasen noch zu verstärken.

You can’t always get what you want

Bekannterweise kann man ja nicht immer bekommen, was man will, aber wenn man es versucht, dann findet man bisweilen, dass man stattdessen bekommt, was man braucht (Jagger et al. 1969).

Letzte Folie in Reddys Vortrag. Keine Filterblase.

Letzte Folie in Reddys Vortrag. Immer noch keine Filterblasen.

Sorgen die automatischen Agenten von Reddy dafür, dass man zwar nicht alles, aber nur noch bekommt, was man will, aber nicht das, was vielleicht nicht gewollt, aber trotzdem sinnvoll ist?

Zwei Nachfragen nach Reddys Vortrag gingen genau in diese Richtung. Die erste endete leider in einem Missverständnis. Ein junger Wissenschaftler, hatte gefragt, ob unerwartete Informationen, die die eigenen Denkmuster unterbrechen würden, nicht durchaus etwas positives wären. Reddys Antwort, dass Nutzer durch Benachrichtigungen des Systems nicht unterbrochen werden wollten, bezog sich eindeutig auf eine andere, praktischere Ebene.

Dann hakte William Kahan nach; nicht unerwartet, denn Kahan hat ein durchaus skeptisches Naturell (siehe meine Einträge zum HLF 2013 hier und hier): Würden Reddys Agenten das Problem der Echokammern, in denen einem nur
zurückgeworfen wird, was man hören will, nicht noch deutlich verstärken?

Kritische Artikel für Trump-Anhänger?

Reddys Antwort, dass ja auch ein persönlicher Assistent seinen Job nicht gut machen würde, wenn er einem nur das erzählte, was man hören möchte, ist ja nun nicht wirklich befriedigend. Sollen sich die Agenten nun den Wünschen des Benutzers anpassen oder nicht? Sollen sie ihn daran hindern, sich eine Echokammer zu bauen – und wäre es nicht eine ziemliche Bevormundung, wenn sie das täten?

Zugespitzt: ist irgendwo hardcodiert, dass beispielsweise Trump-Anhänger auch kritische Beiträge zu ihrem Idol zu sehen bekommen?

Ich habe keine konkreten Vorschläge, wie das gehen soll und kann. Vielleicht liegt die Lösung ganz woanders – in meinen eigenen sozialen Netzwerken merke ich z.B., dass die Filterblase gerade dadurch durchbrochen wird, dass ich Menschen hinzufüge, mit denen ich beruflich bzw. über meine Tätigkeit zu tun habe. Dieses Auswahlkriterium führt dazu, dass dort auch Menschen mit ganz anderen Umfeld als ich vertreten sind, über die ich dann durchaus persönliche Meinungen mitbekomme, die in meinem nicht-beruflichen Bekanntenkreis so gut wie nicht vorkommen (pro-Brexit, contra gun control, …).

Aber es ist sicherlich nicht falsch, sich in punkto kognitive Helfer und Schutzengel jetzt schon Gedanken über die Auswirkungen zu machen. Solche Gedankengänge oder auch nur das Bewusstsein, dass derartige Überlegungen überhaupt anstehen, habe ich in Reddys Vortrag vermisst.

Markus Pössel hatte bereits während des Physikstudiums an der Universität Hamburg gemerkt: Die Herausforderung, physikalische Themen so aufzuarbeiten und darzustellen, dass sie auch für Nichtphysiker verständlich werden, war für ihn mindestens ebenso interessant wie die eigentliche Forschungsarbeit. Nach seiner Promotion am Max-Planck-Institut für Gravitationsphysik (Albert-Einstein-Institut) in Potsdam blieb er dem Institut als "Outreach scientist" erhalten, war während des Einsteinjahres 2005 an verschiedenen Ausstellungsprojekten beteiligt und schuf das Webportal Einstein Online. Ende 2007 wechselte er für ein Jahr zum World Science Festival in New York. Seit Anfang 2009 ist er wissenschaftlicher Mitarbeiter am Max-Planck-Institut für Astronomie in Heidelberg, wo er das Haus der Astronomie leitet, ein Zentrum für astronomische Öffentlichkeits- und Bildungsarbeit. Pössel bloggt, ist Autor/Koautor mehrerer Bücher, und schreibt regelmäßig für die Zeitschrift Sterne und Weltraum.

5 comments Write a comment

  1. Kognitiven Helfern fehlt heute eben die Intelligenz – die semantische “Breite” – um mit menschlichen Assistenten gleichzuziehen. Diese Helfer verstehen den Kontext schlicht und einfach zu wenig. Damit ein solcher elektronischer Assistent beispielsweise ein von Hillary Clinton geäussertes Gegenargument zu einem Vorschlag Donald Trumps präsentieren kann, muss er überhaupt erst erkennen, dass das, was Hillary gesagt hat, ein Gegenargument ist. Heutige Assistenten sind dazu zuwenig semantisch kompetent und sie kennen den Kontext sogar bei viel einfacheren Anfragen nicht. So kann ein System zwar den billigsten Flug zu einer Destination suchen, aber es berücksichtigt beispielsweise nicht, dass es um einen Ferienflug geht und eventuell eine Alternativdestination in Frage käme, da es dem Klienten nicht darauf ankommt, genau an dem gesuchten Ort Ferien zu machen. Je intelligenter “Cogs” werden umso eher ist zu erwarten, dass sie den weiteren Kontext in richtiger Weise berücksichtigen und die tieferen Wünsche des Klienten überhaupt verstehen.
    Was Reddy dazu sagt, macht schon Sinn, man muss seine Antwort nur richtig interpretieren:

    Reddys Antwort, dass ja auch ein persönlicher Assistent seinen Job nicht gut machen würde, wenn er einem nur das erzählte, was man hören möchte, ist ja nun nicht wirklich befriedigend. Sollen sich die Agenten nun den Wünschen des Benutzers anpassen oder nicht? Sollen sie ihn daran hindern, sich eine Echokammer zu bauen – und wäre es nicht eine ziemliche Bevormundung, wenn sie das täten?

    Diese Übelegungen machen nur Sinn, wenn der persönliche Assisten die tieferen Wünsche des Klienten überhaupt kennt und versteht. So kann es durchaus sein, dass jemand, der sich für erneuerbare Energien interessiert, auch etwas über die Hemmschwellen für erneuerbare Energien wissen will. Heutige Cogs können zwar auf Bilder und Artikel mit Windturbinen und Solarpanel hinweisen, aber sie verstehen die Aussagen, die in diesen Artikeln vorkommen zuwenig um zu erkennen, dass ein anderer Artikel ein gutes Gegenargument bereithält.

  2. Hallo Herr Pössel,

    Sie schreiben vom Heidelberg Laureate Forum endlich einmal kritisch über einen Vortragenden – das war überfällig. Ich mag solche Veranstaltungen gar nicht, weil es den Erkenntnissen dienlich ist, nicht wenn man sie feiert, sondern wenn man sie hinterfragt. Solche Feiern fördern das Feiern, nicht das Hinterfragen.

    Aber hier mal was Kritisches, und es hätte viel kritischer sein müssen. Was der Herr Reddy da verbreitet, ist doch geistige Bevormundung reinster Machart. Der denkt wohl, worauf es ankommt, darüber braucht man sich selbst keine Gedanken mehr machen. Das erledigen andere viel besser. Zur selbstbestimmten Entscheidung braucht man auch nicht mehr aufgefordert werden, das braucht man auch nicht mehr lernen. Dazu haben wir den Assistenten. Den zu bedienen lernen wir in der Schule. Was anderes nicht mehr.

    Wo das hinführt ist doch klar. Gab es denn niemand, der diesem Aufruf zur Manipulation etwas energisch entgegensetzte ? Wird diese Veranstaltung nur von Duckmäusern besucht ? Die Bücklinge machen vor dieser Art von Geistesgrößen, die glauben, daß Dumme auf diese Art und Weise schlau werden ?

    Warum haben Sie nicht widersprochen ? Sie waren doch da und hätten genau das tun müssen.

    Grüße
    Fossilium

    • Wow, wie schnell und nahtlos persönliche Vorurteile und beleidigende Vermutungen bei Ihnen zu autoritativen Aussagen mutieren, dieses oder jenes “müsse” sein, getan werden etc.!

      Mein Eindruck von der Veranstaltung ist ein deutlich anderer. Dass nämlich die jungen Wissenschaftler/-innen zwar durchaus Hochachtung vor den Laureaten haben (das rechtfertigen ja auch alleine schon deren Leistungen!), aber nach den Vorträgen und noch öfter in den vielen Gesprächen, die sich ergeben, durchaus auch kritisch nachfragen und eigene Überlegungen referieren.

      Im Falle von Reddy war es aber wie geschildert vor allem ein anderer Laureat, der kritisch nachhakte, nämlich Kahan. Wobei das, was Sie da Reddy in den Mund legen, schon sehr überzeichnet ist. Der sah und sieht seine Assistenten tatsächlich als Werkzeuge, die von denen, die sie nutzen, lernen, worauf es ankommt – und ihnen das inhaltliche nicht vorgeben. (Daher ja auch der Einwand mit der Filterblase.)

  3. Lieber Herr Pössel,

    von persönlichen Vorurteilen bin ich keinesfalls frei, beleidigende Vermutungen kann ich nicht erkennen, und die Forderung, daß hier etwas hätte getan werden müssen, nämlich widersprechen, kommt aus einer Verantwortung, die ich für die Gemeinschaft habe, in der wir alle leben.

    Aus den allgemeinen Daten eines EDV-Users Absichten, Wünsche und Vorlieben herauszufiltern und dann Verhaltensvorschläge zu machen, steht jedem frei und dagegen habe ich nicht das Geringste. Jeder kann und soll da herumprogrammieren, und mit dem Ergebnis Geld damit machen, wenn es ihm gelingt, andere zu manipulieren. Das stört mich gar nicht. Solange dies im Wettbewerb geschieht, und die beste Strategie spielerisch, methodisch offen, unter Konkurrenten, also im Markt, ausgefochten wird, haben wir immer Varianten, Alternativen, Passendes, Unpassendes, Vergehendes und Neues – die Gefahren sind beherrschbar, und es bleibt Veränderungsfähigkeit und Entscheidungsfreiheit für den Einzelnen. Auf dem Markt manipuliert jeder jeden – und wenn dies nur darin besteht, die halbe Wahrheit zu sagen.

    Aber wenn ich das zur wissenschaftlichen Sache mache, wie ich am besten manipuliere, und ein Plädoyer halte über die ausgefuchsten Methoden für die beste Lösung, und das auch noch auf einem Laureate-Forum – ja was ist denn das ?

    Es gibt wirtschaftliche Gründe nach der besten Methode der Manipulation zu suchen, klar ! – aber gibt es wissenschaftliche ? Ich frage Sie da ganz konkret ? Gibt es dafür wissenschaftliche Gründe ?

    Glauben Sie, das das ein Thema für Wissenschaft ist ? Um es auf einem Laureate Forum stolz zu präsentieren ?

    Sie schreiben in einem öffentlichen Raum. Da müssen Sie sich auch solche Fragen gefallen lassen. Gegen Sie persönlich hab ich gar nichts, eher im Gegenteil. Ob meine Frage autoritativ ist, weiß ich nicht, ich weiß nicht mal was das bedeutet.
    Grüße

    Fossilium

  4. Markus Pössel wrote (23. September 2016):
    > […] presentation by Raj Reddy this (Thursday) morning at the Heidelberg Laureate Forum
    > […] Reddy’s answer was not especially satisfying:
    that a personal assistant didn’t do a good job who only said what’s wanted.

    Perhaps Reddy might have added that the true quality of an assistant is in laying out options which may be found even more desirable than what had been imagined and wanted before.

Leave a Reply




Bitte ausrechnen und die Zahl (Ziffern) eingeben

E-Mail-Benachrichtigung bei weiteren Kommentaren.
-- Auch möglich: Abo ohne Kommentar. +