Was zählt? Algorithmen? Experten? Oder meine Meinung?

Immer, wenn bekannt wird, dass eine Maschine falsch entschieden hat, machen sich Journalisten darüber her. Maschinen stehen mit dem Rücken zur Wand, so oft werden sie angegriffen.

Algorithmen entscheiden heute über Ihre Kreditwürdigkeit, Ihre Versicherungsprämien und über die Wand, gegen die Ihr Auto bei einem Unfall knallen soll.

Algorithmen werten Röntgenbilder aus und erkennen Menschen, die Leuten auf Fahndungsfotos ähneln.

Vieles haben wir schon akzeptiert: Wenn das Auto nicht von selbst mault, dass ein Licht ausgefallen oder der Ölstand zu niedrig ist, tun wir eigentlich nichts mehr. Wir vertrauen dem Auto, dass es sich um sich selbst kümmert. Wir vertrauen allen möglichen Messungen: Zuckerwerten bei Diabetes, der Waage, dem EEG und der Auskunft des Bankangestellten, dass er uns nur heute diesen günstigen Zins anbieten könne. Haha, er hat vorher ein Credit Scoring System angeworfen und bei der Schufa gespickt. Er darf Sie keinesfalls mit gesundem Menschenverstand beurteilen, wie man das früher einmal praktizieren durfte. Er muss ja dokumentieren, was er angeboten hat, und Sie müssen unterschreiben, dass Sie verstanden haben, was Ihnen angeboten wurde. In der Medizin zieht es auch schon ein, dass die Computer Ihre Diagnose stellen. Wenn der Arzt unbedingt etwas anderes in Ihnen sieht, darf er das noch entscheiden, er muss aber dokumentieren, warum er vom Computer abwich. Er kann dann verknackt werden, wenn er falsch lag. Wenn er ohne Nachdenken dem Computer gehorcht, wohl nicht.

Und da regen sich Leute auf, wenn ein Algorithmus falsch entschieden hat! Das kommt oft vor, sonst wären Banking, Risikomanagement und Medizin ja einfach. „Niemals sollen Computer über mich entscheiden!“ Tun sie ja schon. Sie liegen oft falsch, aber das macht nichts. Denn Menschen irren sich viel öfter, nehmen Sie es endlich hin. Daher werden Sie doch Zweitmeinungsnomade, wenn Sie mit Ihren vielen Hausärzten nicht einverstanden sind, was man Ihnen als Leiden andichten will. Sie vergleichen dann aber bald die Ergebnisse von verschiedener Software. Aber – wie gesagt – Menschen liegen häufiger falsch als ein Arzt.

Quelle: Adobe Stock Photo

Ich muss Sie wohl wieder und wieder mit Platons Liniengleichnis stressen: Man kann die Dinge sorgsam analysieren und mit kaltem Verstand nüchtern beurteilen. Dann stellt man fest, dass Roboter und Algorithmen in der Regel (sonst würde man sie nicht damit betrauen) besser abschneiden als Menschen. Diesem nüchternen Verstand in sich selbst vertrauen aber sehr viele Menschen nicht. [Warum nicht?] Sie urteilen deshalb nach Meinungen, die ihre Faktenlage eben nicht aus Statistiken und Analyse speisen, sondern aus persönlicher Erfahrung. Eine Meinung wird so lange beibehalten, wie sie nicht durch persönliche Erfahrung erschüttert wird. Beispiel: Die Leute schimpfen über WhatsApp, weil Facebook „was mit den Daten macht“. Dann verwenden sie WhatsApp auf Druck der jungen Verwandten ausnahmsweise im Urlaub. Ausnahmsweise! Sie machen die Erfahrung: „Es ist sehr praktisch.“ In diesem Augenblick haben sie eine Erfahrung gemacht, die ihre Meinung verändert. Zack ist alles anders.

Anderes Beispiel: Zurzeit haben sehr viele Angst, sich zu gegebener Zeit in ein selbstfahrendes Auto zu setzen, sie grausen sich antizipativ davor. „Es ist gefährlich. Nie!“ Irgendwann setzen sie sich mit ihren großen Kindern probeweise hinein, sie kommen ohne Unfall an. „Oh, das ist praktisch. Es ist auch sicher, das habe ich nun selbst erlebt.“

Es scheint so zu funktionieren:

Vorher: Ein einziges Argument dagegen lässt sie alles kategorisch ablehnen.

Hinterher: Eine einzige positive eigene persönliche Erfahrung lässt sie die ganze Sache befürworten.

Die eigene Erfahrung überschreibt sämtliche Erkenntnisse, Statistiken und Wissenschaften. Vorher: „Ich kenne keinen Ausländer, aber ich will die nicht.“ Hinterher: „Jetzt kenne ich ein paar, ich helfe ihnen.“

Wer also etwas verändern will, muss die Leute Erfahrungen machen lassen. Eine oder zwei reichen. Das ist Statistik genug. Es muss aber eine deutlich eigene Erfahrung sein oder notfalls  die eines Freundes. Das ist der Algorithmus in Menschen. Er wird für besser gehalten als einer im Experten oder Computer, der jahrelang unter langem Lernen programmiert wurde. So viel Selbstbewusstsein gibt es in der Welt!

 

 

Gunter Dueck

Veröffentlicht von

www.omnisophie.com

Bei IBM nannten sie mich "Wild Duck", also Querdenker. Ich war dort Chief Technology Officer, so etwas wie "Teil des technologischen Gewissens". Ich habe mich viel um "artgerechte Arbeitsumgebungen" (besonders für Techies) gekümmert und über Innovation und Unternehmenskulturen nachgedacht. Besonders jetzt, nach meiner Versetzung in den Unruhestand, äußere ich mich oft zum täglichen Wahnsinn in Arbeitsumgebungen und bei Bildung und Erziehung ein bisschen polarisierend-satirisch, wo echt predigende Leidenschaft auf Stirnrunzeln träfe. Es geht mir immer um "artgerechte Haltung von Menschen"! Heute bin ich als freier Schriftsteller, Referent und Business-Angel selbstständig und würde gerne etwas zum Anschieben neuer Bildungssysteme beitragen. Ich schreibe also rund um Kinder, Menschen, Manager und Berater - und bitte um Verzeihung, wenn ich das Tägliche auch öfter einmal in Beziehung zu Platon & Co. bringe. Die Beiträge hier stehen auch auf meiner Homepage www.omnisophie.com als pdf-download bereit. Wer sie ordentlich zitiert, mag sie irgendwo hin kopieren. Gunter Dueck

18 Kommentare

  1. Gunter Dueck schrieb (18. September 2019):
    > […] Wer also etwas verändern will, muss die Leute Erfahrungen machen lassen.

    Sehr richtig! —
    Also das Erfahrungen-Machen nicht wieder und wieder und immer wieder ersatzlos und mitleidlos abwürgen,
    sondern den betreffenden selbstbewussten Machern entsprechende, deutlich eigenverantwortliche SciLog-Gastbeiträge spendieren.

    Ein oder zwei reichen für’s Erste. Das wäre Präzedenz genug. …

  2. Dieser Beitrag wäre gut platziert in einem Handbuch für Populisten, Progagandisten und Verführer – als einführender, motivierender Teaser.

    Der Ton und die Einsicht, die er vermittelt würde auch gut zu Machiavellis “Der Fürst” passen.

    Letztlich vermittelt der Beitrag also ein vernichtendes Bild des Homo communis, womit ich etwas ähnliches meine wie mit dem Ausdruck “Gemeine Stubenfliege”, nur eben als Entsprechung beim Menschen.

  3. Sind denn Algorithmen nicht auch von Menschen gemacht? In diesem Punkt sollte man entscheiden, ob der Algorithmus (die Maschine) als Produkt menschlichen Nachdenkens ebenfalls irren kann. Wenn also der Gedanke für den Algorithmus falsch ist, dann kann man auch mit falschen Ergebnissen rechnen.

    Natürlich erlebt man nicht selten, daß Menschen nach einer guten oder schlechten Erfahrung mit Meschen aus bestimmten Gruppen positive oder negative “Vorurteile” bilden.

    Gruss
    Rudi Knoth

  4. @Rudi Knoth: Die Algorithmen werden doch validiert…und getestet…und man ist am Anfang, wo Leute noch Bockmist machen, der dann Leute verunsichert. Man arbeitet doch schon lange an technischen Sachverhalten, wie etwa das Checken des Gepäcks am Flughafen, wo man die Zweifelsfälle aussortiert und dann dem Algorithmus zu denken gibt… und im Übrigen sind die Vorurteile ganz sicher in den Daten Ihrer Bank von Menschen eingetragen… da ersetzt man es jetzt durch objektivere Algorithmen, die nicht die Vorurteile des Zweigestellenleiters haben.

  5. Leute, habt mehr Vertrauen in die Technik. Solange wir keinen Technikmonopolisten haben, vertrauen Sie dem Wettbewerb.
    Im Internet ist Vorsicht geboten, weil hier nur wenig Kontrolle stattfindet.
    Exzentriker und sonstigen Egomanen sei GB empfohlen, da zählen Individualisten noch.

  6. @Gunter Dueck 19.09.2019, 09:21 Uhr

    und im Übrigen sind die Vorurteile ganz sicher in den Daten Ihrer Bank von Menschen eingetragen… da ersetzt man es jetzt durch objektivere Algorithmen, die nicht die Vorurteile des Zweigestellenleiters haben.

    Nun das müsste ich natürlich im Prinzip nachfragen. In der Regel sind bei Banken Zahlen doch am Wichtigsten. Und das sind Umsätze und der Kontostand sowie laufende Kredite. Dies kann sicher schon ein relativ einfacher Algorithmus berechnen.

    Hier noch ein Fall aus meinem Bekanntenkreis, den ich schon mal früher genannt habe:

    Der Bekannte wollte einen Ratenkredit inder Höhe von 1000 Euro. Er war damals in einem großen Unternehmen in ungekündigter Stellung im Bereich Softwareentwicklung. Weil er 40 Jahre alt war, wurde ihm der Kredit nicht gewährt, weil er ja innerhalb eines Jahres sterben könnte.

    Wie sehen Sie das? Nach Sterbetabellen (Algorithmus) wäre doch die Wahrscheinlichkeit gering, daß er innerhalb dieses Jahres stirbt. Nach dem “Bauchgefühl” des Bankmitarbeiter war das Risiko schon zu hoch. Nach meinem Bauchgefühl wäre es auch gering.

    Gruss
    Rudi Knoth

  7. Rudi Knoth,
    …wer seit 40 Jahren in ungekündigter Stellung als Softwareentwickler 1000 Euro von der Bank als Kredit benötigt (haben möchte), braucht nicht ein Kreditinstitut sondern gute Freunde.

    Was will jemand mit 1000 Euro Kreditsumme? Mal richtig Essen gehen?

  8. Rudi Knoth,
    Korrektur…leider ein Flüchtigkeitsfehler…

    …er war 40 und in ungekündigter Stellung als Softwareentwickler,…

    …ändert an meiner Aussage letztendlich nichts…

  9. Nachtrag:

    r war 40 und in ungekündigter Stellung als Softwareentwickler,…

    Diese Geschichte spielte sich vor einiger Zeit ab, und zu diesem Zeitpunkt war er 40 Jahre alt. Genaugenommen war es ein Arbeitskollege und ich nur externer Mitarbeiter, dessen Vertrag schon lange ausgelaufen ist.

    Gruss
    Rudi Knoth
    :

  10. Jeder Algoprythmus ist von Menschen gemacht.
    Und es kann immer Situationen geben wo jeder Algolrythmus seine Grenzen hat.
    Ein Mensch kann sich, zumindest oft, an eine völlig unvorhergesehene Sitution anpassen, ein Algorythmus funktioniert automatisch wofür er programmiert wurde.

    Es gibt da einen Unfall mit einem Elektroauto wo die Kamera geblendet wurde.
    Ein Mensch hätte erkannt dass er geblendet wird, die Kamera bzw. das Programm dahinter hat einfach nichts gesehen.
    Natürlich kann man das erweitern, aber dass eine Situation entsteht die niemand bedacht hat kann man völlig nie ausschließen.
    Bei der automatischen Steuerung eines Autos nicht und sonst auch nirgendwo.

    Deshalb ist eine Unterstützung nie falsch, etwa Einleitung einer Notbremsung, aber sich völlig darauf zu verlassen ist nie sicher.

    Es hat auch schon zu Flugzeugabstürzen geführt. Etwa vor einigen Jahren in Amsterdam beim Landeanflug, wo das Zurückschalten der Triebwerke auf Leerlauf an einen einzigen (!) Höhenmesser gekoppelt war und der war eben defekt.
    Hätten die Piloten ihr Flugzeug wirklich beobachtet dann hätten sie den Absturz wohl abfangen können, das haben sie aber leider nicht getan. Sie haben sich auf die Automatik verlassen und erst reagiert als es schon zu spät war.

    Von der Sache mit der 737 MAX ganz zu schweigen. Unglaublich das ganze.

  11. Na gut “Algolrithmus”.
    Immerhin in einem von drei Fällen habe ich den Begriff fast richtg geschrieben, das ist doch auch schon etwas.

  12. Mengenbasierte Messung von kaufmännischem Verhalten funktioniert und wird als Dienstleistung selbst wirtschaftsfähig.
    Schufa, Creditreform und die Rating-Agenturen funktionieren.

    MFG
    Wb (der als junger Bär zwar sozusagen Punk war, auch im ökonomischen Sinne, abär nie blöde)

  13. @ Rudi :

    Der Bekannte wollte einen Ratenkredit in [] der Höhe von 1000 Euro. Er war damals in einem großen Unternehmen in ungekündigter Stellung im Bereich Softwareentwicklung. Weil er 40 Jahre alt war, wurde ihm der Kredit nicht gewährt, weil er ja innerhalb eines Jahres sterben könnte.

    Dr. W hat die Annahme von Kredit bundesdeutsch günstig zweimal mit seiner Abreise verbinden können, dies nur am Rande angemerkt + LOL.
    Es ging da abär um andere Beträge.

    Dr. W wird natürlich in nicht ferner Zukunft sterben.

    Mit freund [l ]chen Grüßen
    Dr. Webbaer (der keine Ahnung hat, ausnahmsweise, warum sich Dr. Dueck hier abrackert, publizistisch – der auch schon lange im Geschäft ist)

  14. @Dr. W.: muss ich mir Sorgen machen? (kam ja längere Zeit kein Kommentar von Ihnen…)… abrackern: ich bin doch erst 67 und lege noch 50 Prozent zu… LG GD

Schreibe einen Kommentar