Als mir eine Pressemeldung der Universität des Saarlandes auf den Schreibtisch flatterte, in der es um einen neuen Sonderforschungsbereich und um Softwaresysteme ging, die laut Headline „ihr Verhalten selbst erklären“, fand ich das sofort extrem spannend. Hatte ich doch in der letzten Zeit viel über Themen aus der Künstlichen Intelligenz berichtet und dabei immer wieder von dem Faktum gehört, dass Forscher, die neuronale Netze entwickeln, die Entscheidungsfindung ihrer eigenen Systeme oft selbst nicht mehr nachvollziehen können. Aber es fängt schon viel früher an, man muss gar nicht maschinelles Lernen bemühen. Wer kennt die Situation nicht aus eigener Erfahrung: Der PC produziert gelegentlich lästige Software-Abstürze, deren Ursachen selbst die besten IT-Experten nicht entschlüsseln können. Da ist mal was, das dem offensichtlichen und anwachsenden Kontrollverlust in der Informatik entgegenwirkt, so habe ich gedacht! Das „Was“ war natürlich auch ein „Wer“ – nämlich Holger Hermanns, Sprecher des Sonderforschungsbereichs 248.

Also: Ich fand das Thema spannend, allerdings beschlich mich gleichzeitig auch die Sorge, dass die Umsetzung in eine halbwegs brauchbare Sendung für HYPERRAUM.TV – na, sagen wir mal – herausfordernd werden könnte. Denn die Optimierung der Zuverlässigkeit informatischer Systeme, das hörte sich nicht nach einem Bringer für eine allgemeinverständliche Darstellung an. Wie das im Leben manchmal so ist, bin ich gleich zwei Irrtümern aufgesessen. Zuerst einmal bin ich davon ausgegangen, dass Hermanns neuronale Netze im zentralen Fokus seiner eigenen Forschungsaktivitäten hat, was sich gleich zu Beginn meines Interviews als falsch herausstellte. Noch mehr daneben lag ich allerdings in meiner Einschätzung, hier ein sprödes, schwer vermittelbares Thema auf die eigene Agenda gesetzt zu haben. Das verdanke ich zuerst einmal Holger Hermanns, der übrigens für sein Projekt “Ethics for Nerds – An advanced Course in Computer Science” an der Saar-Uni, dieses Monat übrigens als Hochschulperle des Stifterverbandes ausgezeichnet wurde.

Herrmanns hat seine Prinzipien, insofern ist er wohl das, was man als „typisch deutsch“ bezeichnen würde. Diese Prinzipien artikuliert er, wenn nötig – also beispielsweise im Gespräch mit einer informationstheoretisch nicht auf Augenhöhe stehenden Journalistin – gern auch im harten Holzschnitt. So sagt er beispielsweise: „Für Systeme mit maschinellem Lernen könnte man sehr starke Garantien geben, aber dafür müsste man sie auf ganz neutrale Art angelernt haben – und das ist in der Praxis nie der Fall. Ich würde meine Hand dafür ins Feuer legen, dass Anwendungen mit maschinellem Lernen typischerweise gegen die Annahmen verstoßen, unter denen man Korrektheitsaussagen machen kann.“ Oder auch das: „Mit den Garantien, die man heute für autonomes Fahren geben kann, kann man gern autonome Fahrzeuge bauen, die sollen dann aber bitte nicht fahren, sondern auf der Straße stehen, dann richten sie keinen Schaden an.“ Hermanns treibt die Frage nach dem Warum des von Software produzierten Ergebnisses. Er will darauf klare Antworten und also Systeme entwickeln, die nicht nur ein – selbstverständlich stets! – korrektes Ergebnis produzieren, sondern dank verifizierbarer Methoden der Programmierung immer auch gleich selbst nachvollziehbar erklären können, wie sie es gefunden haben. Hermanns hat also nicht nur seine Prinzipien, ihn treibt auch eine Vision: Er will aus der „Dystopie unkontrollierbarer IT-Landschaften eine Utopie der Verlässlichkeit“ machen. Das ist ein mächtiger Anspruch, der – für jeden ersichtlich – drei Konsequenzen haben muss. Erstens: Kontrollierbare Systeme werden zwangsläufig schlichter sein als die heutigen, nur so kann der Informatiker dem Kontrollverlust faktisch entgegenwirken. Zweitens muss man bei diesem heute noch bodenlosen Thema da anfangen, wo dieser Perspektivenwechsel am einfachsten zu bewerkstelligen ist – und drittens braucht es dafür halt auch Forschungsgelder. Um hiermit anzufangen: Die DFG finanziert dieses auf zwölf Jahre konzipierte, transregionale Sonderforschungsprojekt aus fünfzehn Teilbereichen mit elf Millionen Euro zunächst für vier Jahre. Die örtlichen Informatik-Standorte der Saar-Uni sowie der beiden MPIs für Informatik und für Softwaresysteme sowie die TU in Dresden sind die Projektpartner. Was nun die Frage anbelangt, wie das beste Einstiegsszenario in die Denkwelt der Zukunfts-Informatik zu wählen ist, da hat Hermann eine präzise Vorstellung: Man müsse es da suchen, wo logische Systeme die Fakten schaffen. Also dort gerade nicht, wo in der Informatik inzwischen Statistik das Sagen übernommen hat, beim so öffentlichkeitswirksam verfolgten maschinellen Lernen samt neuronalen Netzen. Bei solcher Programmierung hält Hermanns das tief dringende Ansinnen heute einfach nicht für Erfolg versprechend machbar. Trotzdem sind auch zahlreiche Experten aus der Künstlichen Intelligenz mit an Bord des Forschungsbereiches. Ihre Aufgabe wird es sein, die zuerst bei logischen Systemen entwickelten Erklärungsmethoden dann auch schrittweise in die Welt des maschinellen Lernens einzuführen.

Zwar entstand auch die Künstliche Intelligenz in den fünfziger Jahren ursprünglich auf der Grundlage logischer Systeme, aber mit der Einführung des maschinellen Lernens ist sie von der Statistik okkupiert worden, und auch neuronale Netze sind heute in fester Hand einer nicht gesicherten, weil eben nur statistisch prognostizierbaren Ergebnislage. Nicht mehr Fakten durch logisches Schließen, sondern Wahrscheinlichkeiten mit der Auswertung und Korrelation gewaltiger Datenmengen produzieren die Ergebnisse. Das ist schlicht der Supergau für einen theoretischen Informatiker wie Hermanns, der sich mit der Verifikation von Softwaresystemen befasst – und sich zur Aufgabe gemacht hat, die Frage zu beantworten, wie ein Programm zu gestalten ist, dass tatsächlich „nur das macht, aber auch genau das, was es soll und nicht anderes“!

Wer mehr dazu wissen will, der werfe einen Blick in unser Gespräch, das aus meiner Sicht erstaunlich kurzweilig geworden ist – nicht zuletzt dank meines Gegenübers, der offensichtlich gern hart am Wind segelt!