Autonome Autos: Sicher, Lebendig und Fair?!

Für ihre Bewerbung um den KlarText-Preis für Wissenschaftskommunikation 2021 in der Kategorie Informatik veranschaulichte Maike Schwammberger, was sie in ihrer Promotion erforscht hat.


Autonomes Fahren verspricht eine hyper-mobile Zukunft: Das Auto ist stets dabei, abrufbar wann und wo immer man es braucht, per Smartphone-App. Welche Anforderungen sollte ein autonomes Fahrzeug aber erfüllen, bevor es sich die Straßen dieser Welt mit uns Menschen teilen darf? Und wie können diese Anforderungen sichergestellt werden?

1. März 2040, 9:00 Uhr, irgendwo nördlich von Oldenburg, Niedersachsen. Schnell noch die Zähne geputzt und auf geht’s zur Arbeit. Aus der Haustür raus, das autonome Co-Working-Place Auto ist gerade angekommen um mich zu meinem Arbeitsort zu bringen. Meine Kollegin Samira wohnt im gleichen Vorort und wurde schon vom Auto eingesammelt. Das Auto hat sogar Kaffee gekocht, der mobile Arbeitstag kann beginnen!

Das ist ein mögliches Szenario, wie autonome Fahrzeuge uns in der Zukunft das Leben erleichtern könnten. Nicht mehr jeden Tag einige Stunden verlorener Arbeitsweg, jeden zweiten Tag dazu noch einige Stunden im Stau. Stattdessen kann der Arbeitstag oder ein entspannter Kaffee mit der Kollegin schon auf dem Weg beginnen. Ein Bonus für die Ökobilanz: Kluge Routing-Algorithmen ermöglichen effizientes Car-Sharing und die Sitzplätze in einem Fahrzeug werden besser ausgelastet.

Damit die positiven Aspekte des autonomen Fahrens zum Tragen kommen, sollten natürlich potentielle Risiken minimiert werden. Als Informatikerin an der Carl von Ossietzky Universität Oldenburg untersuche ich in meiner Forschung autonome Fahrmanöver an innerstädtischen Kreuzungen, da bei diesen besonders brisante Verkehrssituationen entstehen können: Fahrzeuge nähern sich der Kreuzung aus verschiedenen Richtungen, innerstädtische Straßennetzwerke sind besonders eng verzweigt und der Verkehr ist oft sehr dicht und unübersichtlich. Weiterhin bieten autonome Fahrzeuge insbesondere im Stadtverkehr spannende Einsatzmöglichkeiten: Autonome Bus-Shuttles und “Mobility on Demand” Systeme werden bereits in einigen Städten getestet.

Autonomes Fahren bietet spannende Einsatzmöglichkeiten für die Mobilität der Zukunft.. © Maike Schwammberger

Aber welche Eigenschaften sollte ein autonomes Fahrzeug erfüllen? Schauen wir weiter dabei zu, was auf dem Weg des autonomen Autos bei Oldenburg im März 2040 passieren könnte.

9:20 Uhr, Autobahnabfahrt in Oldenburg. Gerade hat das Auto ganz knapp einen Unfall mit einem anderen Fahrzeug abgewendet. Ich glaube nicht, dass ein Mensch so schnell hätte reagieren können. Aber ist es eigentlich selbstverständlich, dass ein autonomes Fahrzeug solche Kollisionen vermeiden kann?

Die Sicherheit eines autonomen Fahrzeuges, also dass es Unfälle vermeiden kann, ist in der Tat eine seiner wichtigsten Eigenschaften. Ganz Ähnliches hat auch Isaac Asimov bereits im Jahr 1942 als erstes seiner drei Robotergesetze formuliert:

“Ein Roboter darf kein menschliches Wesen (wissentlich) verletzen oder durch Untätigkeit (wissentlich) zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.”

Ein Gesetz, welches so auch für autonome Fahrzeuge gelten sollte. Diese Sicherheit gilt allerdings nicht automatisch, “by design”. Sehen wir uns ein paar Möglichkeiten an, sie zu untersuchen, um die Lücke zu identifizieren, die ich mit meiner Forschung schließe.

Testfahrten werden zum Beispiel in einem begrenzten Testgebiet durchgeführt. Um Risiken zu begrenzen werden diese Fahrten nur unter eingeschränkt realistischen Bedingungen durchgeführt (z.B. geringe Fahrgeschwindigkeiten) und lassen sich daher nur eingeschränkt auf allgemeine Fahrsituationen übertragen. Viele kritische Fahrsituationen werden hiermit nicht abgedeckt.

Eine zweite, häufig genutzte, Möglichkeit die Sicherheit autonomer Fahrzeuge zu untersuchen ist die Simulation. Hierbei werden viele verschiedene virtuelle Fahrsituationen generiert, welche die Software des autonomen Fahrzeugs meistern muss. Viele kritische Situationen können so abgedeckt werden. Allerdings gibt es eine unendliche Zahl möglicher Fahrsituationen, die simuliert werden müssten. Bereits an einer einzigen beliebigen Kreuzung können sich eine Vielzahl verschiedener Arten von Fahrzeugen an verschiedenen Positionen befinden. Somit wird es immer spezielle Situationen geben, welche durch eine Simulation nicht abgedeckt werden. Hier setzt meine Forschung an, indem ich mit meinem Verfahren alle möglichen Situationen abdecken kann, wie wir im folgenden am Beispiel des autonomen Autos der Zukunft aus Oldenburg sehen.

9:24 Uhr, Ecke Melkbrink, Oldenburg. Das autonome Fahrzeug erreicht einen gänzlich neuen Typ von Verkehrskreuzung, den sich Verkehrsplaner als Antwort auf die drängendsten Probleme des urbanen Verkehrs erdacht haben. Wie wird das Fahrzeug mit der unbekannten Situation umgehen?

Wurde das Auto vor Inbetriebnahme nur durch Testfahrten oder Simulationen geprüft, so wissen wir nichts darüber, wie es sich in dieser seinerzeit unbekannten Umgebung verhält. In meiner Forschung habe ich mich daher damit beschäftigt, wünschenswerte Eigenschaften autonomer Fahrzeuge, wie die Sicherheit, beweisbar zu machen. Beweisbarkeit bedeutet, dass Entscheidungen des autonomen Fahrzeugs auch in Situationen, die nicht durch Testfahrten oder Simulationen erfasst wurden, logisch vorhergesagt werden können. Eine solche Beweisbarkeit von System-Eigenschaften autonomer Fahrzeuge ist nötig, wenn man eine Eigenschaft nicht nur annähern, sondern gewährleisten möchte.

Um Beweisbarkeit von Fahrmanövern an Kreuzungen zu ermöglichen, habe ich ein abstraktes Modell realer Fahrsituationen an Kreuzungen entwickelt. Bei einer Abstraktion werden viele ähnliche Situationen zu einer einzigen zusammengefasst. Hierbei blendet man im abstrakten Modell für die Beweisführung unwesentliche Details aus. Solche unwesentlichen Details könnten beispielsweise die Farbe oder Marke der Fahrzeuge an einer Kreuzung sein. Welche Details ausgeblendet werden dürfen hängt natürlich davon ab was man untersuchen möchte. Mit einem einzigen abstrakten Modell überdecke ich eine Vielzahl möglicher realer Fahrsituationen. Der Vorteil dieser Abstraktion ist, dass sie auf wesentliche Details reduziert ist.

Ein Krankenwagen kreuzt die Fahrwege zweier Autos, welche sich auf einer Vorfahrstraße befinden und noch keinen Sichtkontakt zu dem Krankenwagen haben. Über sogenannte “Car-2-Car” Kommunikation kann der Krankenwagen aber den Autos seine Dringlichkeit mitteilen und diese können rechtzeitig abbremsen. ©OFFIS – Institut für Informatik/Safe­TRANS

m das Verhalten eines autonomen Fahrzeugs abzubilden, habe ich eine Art Strategie für Abbiegemanöver an Kreuzungen entworfen. Sobald das Fahrzeug sich einer Kreuzung nähert, bereitet das Protokoll das Manöver vor. Hierzu wird überprüft ob der benötigte Pfad durch die Kreuzung frei ist, oder ob andere Fahrzeuge Anspruch auf dieselben Teile der Kreuzung haben. Falls das Fahrzeug nicht genügend Informationen über die Verkehrssituationen hat, kommuniziert es mit anderen Fahrzeugen. Über logische Schlussfolgerungen konnte ich die Sicherheit dieser Strategie in der abstrakten Welt beweisen, oder im weitesten Sinn: ausrechnen. Der nächste Schritt ist, das beweisbare abstrakte Konstrukt Stück für Stück auf die Realität zu übertragen. Hierzu konkretisiere ich Teile der Abstraktion und kann zeigen, dass die Sicherheit weiterhin gewährleistet ist.

Das Auto aus der 2040-Vision kann also auch die unbekannte Kreuzung sicher überqueren. Natürlich genügt es nicht lediglich die Sicherheit autonomer Fahrmanöver zu untersuchen.

9:35 Uhr, Ecke Uhlhornsweg, Oldenburg. Wir sind schon fast am Ziel, bei der Uni Oldenburg. Das Auto kam richtig schnell durch, obwohl es an einigen Kreuzungen anderen Fahrzeugen die Vorfahrt gelassen hat. Beinahe freundlich, dieses Fahrzeug!

Für menschliche Fahrer*innen ist das geschilderte Verhalten eine Selbstverständlichkeit. Man versucht so schnell wie möglich und erlaubt an das Ziel zu kommen und ignoriert dennoch die Vorfahrt anderer Fahrzeuge nicht. Dieses sind beides Eigenschaften, die wir natürlich auch auf ein autonomes Fahrzeug übertragen wollen, die aber wieder nicht “by design” gelten.

Die erste beschriebene Eigenschaft wird oft als “Lebendigkeit” eines Systems bezeichnet. Lebendigkeit bedeutet, dass Ziele erreicht werden. Im Gegensatz dazu wird ein System als “tot” bezeichnet, wenn es in einen Zustand kommt aus dem heraus es keine Ziele mehr erreichen kann. Quasi eine Sackgasse, ohne Wendemöglichkeit und Rückwärtsgang. Für ein autonomes Fahrzeug könnte ein Ziel sein, eine Kreuzung innerhalb einer gewissen Zeitschranke zu überqueren. Als zweites untersuchte ich eine “Fairness”-Eigenschaft. Das Gegenteil von Fairness wäre beispielsweise, wenn die autonomen Fahrzeuge der Zukunft nur eigene Ziele verfolgen und keine Rücksicht auf andere Verkehrsteilnehmer nehmen würden. Schnell würden vollkommen chaotische Situationen entstehen. Für mein Abbiege-Protokoll konnte ich neben der Sicherheit auch die Lebendigkeit und Fairness beweisen.

Eine abstrahierte Verkehrssituation: Informationen wie die genaue Form der Fahrzeuge und die Fahrzeughersteller werden nicht benötigt um Aussagen darüber zu machen wie sicher eine Fahrsituation ist. Jedes Fahrzeug bekommt aber eine sogenannte “ID” (z.B: A, B, …) und auch Straßennamen werden zu eindeutigen ID’s (z.B. 0, 1, …) vereinfacht. ©Maike Schwammberger

Somit kann meine Arbeit ein Grundstein dafür sein ein autonomes Autos wie jenes aus der 2040-Vision zu entwickeln. Ein Auto, in welchem man als Passagier auch wirklich gerne sitzt: Es gibt keine Kollisionen, Ziele werden schnell erreicht, aber das Fahrzeug ist nicht komplett eigennützig und zeigt im Stadtverkehr eine grundlegende Fairness.

Natürlich hört die Arbeit hier nicht auf, wir sind mittendrin in einer spannenden Entwicklung. Welche weiteren Eigenschaften wünschen wir uns für unsere autonomen Fahrzeuge der Zukunft? Meine Version der Fairness ist schon beinahe eine menschliche Eigenschaft. Welche menschlichen Eigenschaften sollten wir bei der Entwicklung autonomer Fahrzeuge beachten? Aktuelle Studien zeigen, dass Maschinen vieles vom Menschen lernen können, wir Menschen aber auch vieles von den Maschinen. Ein Beispiel hierfür ist potentielle Konflikte zu verstehen. Dies kann die Mensch-Maschine-Zusammenarbeit verbessern, wenn ein autonomes Fahrzeug auf ein von einem Menschen gesteuertes Fahrzeug trifft. Denn selbstfahrende Menschen wird es bei allem Fortschritt der Maschinen sicher auch 2040 noch geben.


Maike Schwammberger hat an der Carl von Ossietzky Universität Oldenburg Informatik, Mathematik und Kunst und Medien studiert. Schon in ihrer Masterarbeit hat sie erarbeitet wie man nachweisen kann ob autonome Fahrzeuge sicher und zuverlässig sind. In ihrer Doktorarbeit vertiefte sie diese Überlegungen und schloss ihre Arbeit mit dem Titel “Distributed Controllers for Provably Safe, Live and Fair Autonomous Car Manoeuvres in Urban Traffic” im März 2020 mit Auszeichnung ab. Derzeit arbeitet sie als wissenschaftliche Mitarbeiterin im Projekt “Science of Design for Society Scale Cyber-Physical Systems” an der Universität Oldenburg und erforscht wie die Mensch-Maschine-Zusammenarbeit modelliert und verbessert werden kann.

8 Kommentare

  1. Hierbei blendet man im abstrakten Modell für die Beweisführung unwesentliche Details aus.

    Und wie verhindert man, dass der Modellierer hier einen Bias einbaut?

    Der nächste Schritt ist, das beweisbare abstrakte Konstrukt Stück für Stück auf die Realität zu übertragen. Hierzu konkretisiere ich Teile der Abstraktion und kann zeigen, dass die Sicherheit weiterhin gewährleistet ist.

    Wie soll das gehen? In der Realität sind Kreuzungssituationen unendlich. Was genau wird denn wie konkretisiert?

    • Guten Tag,

      Und wie verhindert man, dass der Modellierer hier einen Bias einbaut?

      Das ist ein sehr gut erkannter, spannender, Punkt! Mein erster Ansatz bewegt sich hier auf einem sehr abstrakten Niveau. Das heißt die Frage war weniger “was lassen wir aus?” sondern andersherum: “Was können wir drin lassen, um überhaupt formal etwas beweisen zu können?” Im Wesentlichen blieben hierfür die Autos, die Straßen und die Kreuzung übrig.

      Spannend wird es bei meinen Schritten in Richtung Realität, also wenn wir wieder Elemente hinzu nehmen: Hier sollte man in der Tat einen Bias verhindern. Hierzu schlage ich vor Daten aus der Realität heranzuziehen und zu zu analysieren. Welche (realen) Fahrsituationen sind besonders kritisch und wie gut reflektiert meine Abstraktion diese Situationen?

      Perfekte Sensoren sind beispielhaft nicht realistisch, wie andere Arbeiten belegen, also habe ich in einem nächsten Schritt imperfekte Sensoren bertrachtet. Schrittweise überlegt man also welche Elemente sind für meine Untersuchungen, meine Forschungsmethode und meine Forschungsziele relevant, unter Einbezug von Ergebnissen/ Daten die nah an der Realität sind. Relevante Aspekte nimmt man dann hinzu.

      Wie soll das gehen? In der Realität sind Kreuzungssituationen unendlich. Was genau wird denn wie konkretisiert?

      Ich hoffe, dass eine Idee hierzu auch mit meiner Antwort zu Ihrer anderen Frage ein bisschen verdeutlicht wird. Es gibt in der Tat unendliche viele mögliche Kreuzungsarten und Situationen auf diesen. Allerdings ist es möglich bestimmte Muster für ähnliche Kreuzungen zu finden: Kreuzungen an denen sich 2 Straßen treffen, T-Kreuzungen, Kreuzungen mit/ ohne dichte Bebauung am Straßenrand, schlecht einsehbare Straßen,… . Wenn ich dann für so eine Klasse an Kreuzungsarten etwas zeige, kann mit so einer “Unendlichkeit der Kreuzungssituationen” umgegangen werden.

      Ich hoffe, dass meine Antworten hilfreich sind!

  2. Sichere, lebendige und fair verkehrende autonome Fahrzeuge, die bestimmte Garantien einhalten, wie etwa die, dass sie nie mit einem anderen Fahrzeug kollidieren, falls sie dieses andere Fahrzeug wahrnehmen, scheinen mir die höchste und letzte Abstraktionsstufe des autonomen Fahrens zu sein.

    Mir scheint in dieser Abstraktionsstufe wird angenommen, dass alle technischen Systeme des autonomen Autos fehlerfrei funktionieren, was allerdings in der Realität nicht unbedingt immer zutreffen muss. Man kann sich vorstellen, dass etwa eine Kamera ausfällt oder der Scheibenwischer nicht funktioniert. Falls das Fahrzeug einen solchen Fehler bei der Fahrt registriert, muss es dies berücksichtigen und sollte seine Fahrt nur dann beenden, wenn sich der Ausfall nicht kompensieren lässt. Dieses Beispiel zeigt mir, dass reale Fahrsituationen noch schwieriger zu handhaben sind als idealisierte über die hier wohl berichtet wird.

    Mir scheint, autonome Fahrzeuge werden bereits auf der Strasse verkehren, bevor sie bestimmte Sicherheitsgarantien einhalten. Bereits der statistische Nachweis, dass sie beispielsweise x-Mal sicherer sind als der durchschnittliche Fahrer wird den zuständigen Verkehrsbehörden wohl genügen, um sie zuzulassen.

    • Lieber Martin Holzherr,

      Dieses Beispiel zeigt mir, dass reale Fahrsituationen noch schwieriger zu handhaben sind als idealisierte über die hier wohl berichtet wird.

      Das ist in der Tat der Fall. In meiner abstrakten Welt kann ich zeigen, dass meine Systeme 100% unfallfrei sind. Ausgehend davon ist eines meiner Ziele zu schauen, welche Annahmen es sind, die diese 100% Unfallfreiheit kippen. Dann nämlich kann ich über Maßnahmen nachdenken, die mich wieder möglichst nah an diese 100% heranbringen.

      Mir scheint, autonome Fahrzeuge werden bereits auf der Strasse verkehren, bevor sie bestimmte Sicherheitsgarantien einhalten.

      Das ist auf jeden Fall so. Die autonomen Fahrzeuge, die aktuell bereits auf den Straßen fahren (z.B. in den USA, oder auf bestimmten Strecken auch in Europa), erfüllen einige Sicherheitskriterien. Aber 100%ige Sicherheit kann nicht in allen Situationen garantiert werden, und wird auch nie garantiert werden können. Das Ziel von uns Forschenden ist aber, möglichst nah an diese 100% heranzukommen. Da gibt es auf jeden Fall noch einige spannende Fragen zu klären (was für mich als Forschende natürlich gut ist).

      Bereits der statistische Nachweis, dass sie beispielsweise x-Mal sicherer sind als der durchschnittliche Fahrer wird den zuständigen Verkehrsbehörden wohl genügen, um sie zuzulassen.

      Es wäre schön, wenn es möglich wäre bezifferte Aussagen in der Richtung “Wie viel sicherer sind autonome Fahrzeuge im Vergleich zu einem menschlichen Fahrer?”. Das ist aber auch gar nicht so einfach. In manchen Situationen ist der Mensch im Schnitt der bessere Fahrer und in manchen ist es das autonome Fahrzeug.

      Ich persönlich wage zu behaupten, dass das Autonome Fahrzeug, welches ich in meiner “2050 Vision” im Text schildere auf jeden Fall sicherer sein wird als ein menschlicher Fahrer. Daran wie viel sicherer es sein wird, werde ich weiterhin mit den anderen Kolleg*innen forschen. 😉

  3. Das wird noch spannend …

    Sie beschreiben die Car-to-Car-Kommunikation. Wird eigentlich auch in der Richtung Straße-zu-Fahrzeug geforscht, kann also auch eine Verkehrsinfrastruktur mit dem Fahrzeug kommunizieren? Und wenn ja, besteht dann auch die Möglichkeit, dass diese Kommunikation hierarchisch organisiert wird, dass also eine Ampel eine Fahrzeug anhalten kann?

    (Ganz nebenbei, in meiner Fahrschulzeit kam die Frage auf, wer eigentlich recht hat, wenn vier Fahrzeuge an einer Rechts-vor-Links-Kreuzung stehen und alle wollen geradeaus fahren. Hier, so der Fahrlehrer, hätten die Vorschriften ihr Ende erreicht. Man müsse sich verständigen. Könnten das autonome Fahrzeuge?)

    • Lieber Gerald Fix,

      Das wird noch spannend …

      Oh ja, es ist ein tolles Forschungsthema, es scheint, dass mir noch lange nicht die Forschungsthemen in diesem Bereich ausgehen werden! 😉

      Sie beschreiben die Car-to-Car-Kommunikation. Wird eigentlich auch in der Richtung Straße-zu-Fahrzeug geforscht, kann also auch eine Verkehrsinfrastruktur mit dem Fahrzeug kommunizieren?

      Ja, das nennt sich dann “Car-to-X-Kommunikation”. Das “X” sind dann oft sogenannte “Roadside-Units”, also Ampeln, oder zum Beispiel Sensoren die am Straßenrand positioniert sind, oder auch andere Verkehrsteilnehmer*innen, die nicht Autos sind. Theoretisch könnte zum Beispiel das Smartphone einer/s Passant*in GPS Informationen an ein Fahrzeug liefern, welches noch keinen Sichtkontakt zu der/m Passant*in hat, damit das Fahrzeug diese/n rechtzeitig bemerken kann (hierbei ist natürlich datenschutzrechtlich zu beachten, welche Daten übermittelt werden sollten/ dürfen). In meiner eigenen Arbeit benutze ich aber bisher nur Car-2-Car Kommunikation.

      Und wenn ja, besteht dann auch die Möglichkeit, dass diese Kommunikation hierarchisch organisiert wird, dass also eine Ampel eine Fahrzeug anhalten kann?

      Technisch ist dieses in jedem Fall möglich. Es gibt ein Verfahren, welches “Centralised Scheduling” heißt, also eine Art zentralisierte Steuerung, bei der z.B. eine solche Ampel als Roadside-Unit Fahrzeugen erlauben oder verbieten kann auf eine Kreuzung zu fahren. Hierzu hält aber nicht die Ampel direkt das Fahrzeug an, sondern gibt die Anweisung anzuhalten an das Fahrzeug. Dieses kann einschätzen, ob die Ampel als Kommunikationspartner vertrauenswürdig ist und dann der Anweisung folgen.

      (Ganz nebenbei, in meiner Fahrschulzeit kam die Frage auf, wer eigentlich recht hat, wenn vier Fahrzeuge an einer Rechts-vor-Links-Kreuzung stehen und alle wollen geradeaus fahren. Hier, so der Fahrlehrer, hätten die Vorschriften ihr Ende erreicht. Man müsse sich verständigen. Könnten das autonome Fahrzeuge?)

      Genau dieses Problem behandele ich mit meinem “Fairness”-Aspekt. Dort wo allerdings menschliche Fahrer*innen sich zuwinken würden, um zu entscheiden, wer zuerst fährt, ist es in meinem Fall eher so, dass die autonomen Fahrzeuge (virtuelle) Strohhälme ziehen, und wer den längsten zieht darf fahren. Hierbei kann man auch Mechanismen nutzen, die sicherstellen, dass das eigene Fahrzeug nicht immer “den kürzesten” zieht.

Schreibe einen Kommentar


E-Mail-Benachrichtigung bei weiteren Kommentaren.
-- Auch möglich: Abo ohne Kommentar. +