Autonome Autos: Hilft uns die ″Moral Machine″ weiter? | Wissen & Umwelt | DW | 26.10.2018
  1. Inhalt
  2. Navigation
  3. Weitere Inhalte
  4. Metanavigation
  5. Suche
  6. Choose from 30 Languages

Meinung

Autonome Autos: Hilft uns die "Moral Machine" weiter?

Welche moralischen Prinzipien sollen selbstfahrende Autos beachten? Das fragt eine umstrittene Studie - und wir fragen uns das auch! Hier fünf Denkanstöße aus der DW-Wissenschaftsredaktion.

MIT Vorhersage zu Autonomem Fahren (MIT/akinbostanci)

Auch autonom fahrende Autos werden in gefährlichen Situationen Entscheidungen treffen müssen – die wir ihnen vorher beibringen

Können Menschen sich darüber einig werden, wie Roboter-Autos in ethisch schwierigen Unfallsituationen entscheiden sollen? Das jedenfalls versucht das Massachusetts Institute of Technology (MIT) herauszufinden.

Dazu konfrontiert das Online-Spiel "Moral Machine" die Probanden mit unterschiedlichen Situationen und variierenden Verkehrsteilnehmern. Dann müssen sie sich für den in ihren Augen vertretbaren Unfallschaden entscheiden: Überfahre ich den Rentner, der bei rot die Straße überquert, oder fahre ich gegen die Betonwand, so dass die Insassen meines Autos, inklusive Kindern, sterben?

So weit, so gut. Wer darauf nun ernsthaft eine Antwort finden soll, merkt in welchem Dilemma er sich befindet. So ist es auch uns in unserer täglichen Themenkonferenz gegangen, denn die mögliche Moral autonomer Autos polarisierte die Redakteure und Autoren. 

Lesen Sie hier mehr zur MIT-Befragung: Kann ein selbstfahrendes Auto ethisch handeln?

Lesen Sie mehr zum Thema: Der Mensch denkt, das Auto lenkt

Samantha Baker (DW/Philipp Böll)

Sam Baker: "Villeicht ist das ja eine Möglichkeit für mehr Selbstreflexion."

Sam Baker: Selbstsüchtig oder Selbstlos? 

Die Debatte zu "Moral Machines" stellt die Frage, wen ein autonom fahrendes Auto in einer Unfallsituation trifft und wen es verschont. Für mich ist das aber lange nicht so interessant wie die Frage, wie wir entscheiden, wer IM Auto gerettet wird. 

Eine Analyse von Verkehrsunfällen hat gezeigt, dass die einzigen Fahrer, die ernsthaft versuchen, ihre Beifahrer zu retten, Mütter sind.

Sie wollen das Leben ihrer Kinder schützen. Weder Ehepartner noch Freunde handelten so, und selbst Väter riskierten ihr eigenes Leben nicht für ihre Kinder. Das beruht natürlich nicht auf Moral – denn solche Entscheidungen werden wahrscheinlich unbewusst in Bruchteilen von Sekunden getroffen. Hierbei kommen menschliche Instinkte zum Tragen. 

Was passiert also, wenn ein autonomes Fahrzeug vor der Entscheidung steht, mit einem entgegenkommenden Auto zusammenzustoßen und den "Fahrer" zu töten, oder aber auszuweichen und so das Kind auf dem eigenen Beifahrersitz zu töten? Es könnte um Ihr Kind gehen, oder um Ihre Nichte. Wäre die Entscheidung eine andere, wenn es das Kind einer Freundin ist, auf das sie aufpassen?

Wird diese Wahl von der Person auf dem Fahrersitz vorprogrammiert? Oder vom Besitzer des Autos? Vom Hersteller, oder von der Autoversicherung? 

Der Wechsel zum autonomen Fahren ist wirklich ein Schritt weg von unserem menschlichen Instinkt hin zu überlegteren und vorprogrammierten moralischen Entscheidungen. In gewisser Weise ist das positiv, denn es bewahrt uns ein Stück weit vor den Risiken unserer eigenen Dummheit, zum Beispiel während des Fahrens eine SMS zu überprüfen oder doch einen über den Durst zu trinken.

Diese neue Reihe von Entscheidungen und die Möglichkeit, sie vor einem tatsächlichen Unfall durchzuspielen, testen unsere individuelle Ethik mehr als die des öffentlichen Bewusstseins, denn jeder Fahrer oder Autobesitzer könnte die Wahl haben, wen er in seinem eigenen Fahrzeug retten möchte. Werden Eltern das Recht haben, die Standardeinstellungen ihres Autos zu überschreiben, um das Leben ihres Kindes anstatt ihres eigenen zu retten?

Vielleicht können wir einen Schalter umlegen – ähnlich der Vorrichtung, die heute in einigen Autos existiert, um Airbags ein- oder auszuschalten. Jedes Mal, wenn Sie in ein Auto steigen, müssten Sie entscheiden, auf welcher Seite des Autos die Menschen von größerer Bedeutung sitzen. 

Wie viele andere technologische Entwicklungen auch, werden diese Maschinen uns wahrscheinlich nicht zu besseren Menschen machen – aber auch nicht zu schlechteren. Sie werden unsere wahren Moralvorstellungen und Schwächen, die der Selbstlosigkeit und des Egoismus, enthüllen.

Wenn die Studie stimmt, an die ich mich erinnere – wonach wir alle egoistische Autofahrer sind, Mütter ausgenommen – ermöglichen die neuen moralischen Entscheidungsmöglichkeiten vielleicht etwas mehr Selbstreflexion – und halten uns einen Spiegel vor: Wollen wir selbstlos oder selbstsüchtig sein?

Lesen Sie mehr: Busfahren ohne Busfahrer

Abbany Zulfikar (DW)

Zulfikar Abbany: "Wenn die Branche so großartig ist, warum baut sie dann nicht schwebende Autos?"

Zulfikar Abbany: Gefährliche "Lösungen" von unlösbaren Problemen

Menschen sind so, so berechenbar. Typisch Mensch einfach. 

Wir denken nicht nur, dass wir in ganz anderen Sphären schweben als der Rest der Schöpfung, und dass wir alles kontrollieren und überleben können. Wir überschlagen uns auch bei dem Versuch, tolle Lösungen für zukünftige Probleme selbstfahrender Autos zu finden, bevor diese zum Scheitern verurteilten Fahrzeuge überhaupt aus den Startlöchern raus sind. 

Wir haben uns so sehr auf das moralische Dilemma, wessen Leben es wert ist, gerettet zu werden und wessen nicht, konzentriert, dass wir wirklich denken, 40 Millionen zufällige Antworten einer MIT-Umfrage könnten einen Konsens erreichen, der jeden zufriedenstellt, sogar.... mich? Nie im Leben. 

Wir befinden uns nicht mal entfernt an dem Zeitpunkt, an dem wir uns fragen können, ob ein selbstfahrendes Auto bei einem Verkehrsunfall einem Senioren, einer Gruppe von Schulkindern, einer Rinderherde oder einem Baum ausweichen oder draufhalten sollte. Schließlich haben wir uns bis jetzt ja nicht mal gefragt, ob wir – also die Menschheit – autonome Autos wollen oder brauchen. 

Wann hat bitte dieses globale Referendum stattgefunden? Genau, niemals! Diese utopische Vision der Vollautomatisierung – eine vollendete Tatsache, der Regierung und Industrie? Das ist das Erbe der Dotcom-Blase der späten 90er Jahre. Nachdem sie ihre Wunden geleckt hatte, entschied die Technologieindustrie, ob unbewusst oder nicht, dass sie nie wieder fallen würde. Und wie? Nun, wir wurden alle zu einem Gerät, einem Werkzeug. Und nach der öffentlichen Meinung wurde nicht gefragt. Die Weltherrschaft kann schließlich nicht mithilfe demokratischer Mehrheitsentscheidungen übernommen werden.  

Aber wenn Sie schon fragen, liebe MIT-Forscher, hier ist meine Lösung – die gleichzeitig eine Herausforderung ist. Es wird nicht einfach, aber wenn Sie und der Rest der Technologiebranche so großartig sind, beweisen Sie es. Bauen Sie uns Autos, die ihre Besitzer zwingen, vor jeder Fahrt einen "persönlich relevanten" Moralkodex auszuwählen. Oder, wenn das nicht gelingt, Autos zu entwickeln, die Hindernissen nicht ausweichen müssen, sondern die einfach darüber hinweg schweben. Nichts leichter als das, oder? 

Video ansehen 00:38

Gehört Park and Fly die Zukunft?

Die einfachste Lösung für dieses moralische Dilemma ist natürlich, dass der Autobesitzer stirbt. Wenn er schon zu faul ist, sein eigenes Auto zu fahren –  eigentlich sowieso schon eine ganz schön bequeme Art der Fortbewegung – dann ist das Mindeste, was er tun kann, im Falle eines Unfalls alles außerhalb seines Wagens zu retten. Und in einer riskanten Situation sollte das Auto dann einfach implodieren oder in einer Rauchwolke verschwinden. 

Aber welcher Autohersteller würde schon so etwas bauen? 

Naja, die Branche beschäftigt sich ja bereits jetzt schon mit Magie. Die MIT-Umfrage ist nicht nur schwachsinnig, sondern wohl die größte, selbstmoralisierende Rauchwolke der Welt. Sie soll wirken wie ein Ethikkommittee, ist aber in Wirklichkeit weit davon entfernt.

 

Alexander Freund (DW)

Alexander Freund: "Die Analyse ist empörend!"

Alexander Freund: Rassistische Verkürzung!

Aha, der Asiate an sich fährt also im Zweifel lieber Kinder tot als Greise, weil man in diesen Ländern mehr Respekt vor älteren Gesellschaftsmitgliedern habe.

Soso.

Das liege laut Studie daran, weil im östlichen Cluster nicht das Christentum – wie in Nordamerika und Europa – die vorherrschende Religion sei, sondern weil in Ländern wie Japan, Indonesien und Pakistan der Konfuzianismus und der Islam prägend seien. Ach! Zum "östlichen Cluster" gehören übrigens auch Ägypten und Saudi-Arabien, wohingegen China zum "westlichen Cluster" gehört. Weil… da der Konfuzianismus nicht prägend… doch, nein weil da das Christentum … ne, auch nicht… egal.

Infografik zum Moral Compass der MIT-Studie (DW/Nature)

Geht's noch? Was bitte soll eine derart hirnrissige Studie mit grotesken rassistischen Unterstellungen bringen? Und dann auch noch die Verknüpfung mit einer möglichen religiösen Prägung?

Der Asiat also ehrt das Alter, weil Konfuzius und Islam, und fährt dann eben Kinder um. So das verkürzte Fazit für all diejenigen, die sich diese fragwürdige Studie nicht auch noch durchlesen möchten. Brauchen sie auch nicht, denn auch nach der Lektüre ist man nicht wirklich schlauer. 

Mag ja sein, dass es entsprechende Rückmeldungen gab, aber die Analyse ist empörend. Der Asiate an sich liebt Kinder nämlich genauso wie die Menschen im "westlichen" oder "südlichen" Cluster. Und im Vergleich kommen im westlich ebenso wie konfuzianisch geprägten Japan nicht mal halb so viele Menschen bei Verkehrsunfällen ums Leben wie zum Beispiel im erzkatholischen Polen. Daraus einen "Moral Compass" zu erstellen, ist skandalös und unwissenschaftlich. Eigentlich sollte man solch eine wirre Studie getrost ignorieren, was angesichts des Hypes darum allerdings nicht einfach ist.

Also bitte: Erspart uns doch einfach diesen Irrsinn!

Dillon Conor (DW)

Conor Dillon: "Sorry, Opa!"

Conor Dillon: Lang lebe das autonome Fahren! 

Wir Menschen sind abgelenkte, nasenbohrende und egoistische Narren hinter dem Lenkrad – und das war vor den Zeiten des Smartphone schon so. Und heute? Mittlerweile wird in den USA jeder vierte Unfall durch Mobiltelefone verursacht, so der National Safety Council. Einer von vier. Das sind fast 4500 Unfälle am Tag. Da überrascht es kaum, dass die Zahl der Verkehrstoten in den letzten zwei Jahren um sechs Prozent gestiegen ist. 

Aber man könnte es auch anders sehen: Smartphones verursachen NUR einen von vier Unfällen. Denn was ist mit den anderen Dreien? Nun ja, wie gesagt: Narren. Wir setzen uns übermüdet, krank oder mit Alkohol, Medikamenten und illegalen Drogen im Blut hinters Steuer. Wir fahren zu schnell. Wir lenken und essen gleichzeitig Fast Food, oder ziehen im Rückspiegel kurz den Lippenstift nach.

Ein Einhorn-Auto auf der Houston Art Car Parade 2017 (picture alliance/dpa/Zuma Wire/B. Cahn)

Sind Sie der perfekte Autofahrer – sozusagen das Einhorn der Autobahn? Sicher nicht.

Sind Sie da etwa anders, quasi das Einhorn der Autobahn – der einzige nicht abgelenkte Fahrer? Für mich gilt das definitiv nicht. Aber selbst wenn – eine Sache tun auch Sie mit Sicherheit: altern. Mein Opa (Sorry, dass ich dich hier mitreinziehe, alles Gute zum 84.!), wäre der Erste, der sagen würde, dass sich seine Reaktionszeit verlangsamt hat, dass er wahrscheinlich nicht mehr alles sieht, was er früher auf der Straße gesehen hat. Also, eine Frage: Wer kann ein Reh nachts besser auf der Fahrbahn "sehen" – mein Opa oder ein Auto mit Lidar, Radar und Kameras? 

Das Auto meines Vaters zum Beispiel korrigiert die Spur, wenn der Fahrer von der Fahrbahn abkommt und es piept, wenn Gefahr im toten Winkel besteht. Diese Technologie hat wahrscheinlich schon Leben gerettet. Was weiß Gott nicht heißt, dass die Revolution der selbstfahrenden Autos ohne Probleme voranschreiten wird. Es wird riesige Probleme geben, zum Beispiel Autos, die von kalifornischen Klippen fahren. 

Als ich vor ein paar Wochen mit einem Mietwagen auf einem Parkplatz rückwärts einparken wollte, hielt das Auto so abrupt an – ganz von selbst – dass es mir fast ein Schleudertrauma verpasst hätte. Was zum Teufel war passiert? Die Sensoren des Autos hatten die gleiche Hecke "gesehen", die ich im Blick gehabt hatte, aber während ich darauf vorbereitet war, sie zu touchieren, war das Auto es offensichtlich nicht. Unsere Risiko-Inkaufnahme war nicht die gleiche. 

Noch nicht.

Autonome Fahrzeuge sind noch immer im Beta-Modus. Oder Beta-Beta-Modus. Aber während sie immer besser werden, werde ich es nicht. Keiner von uns wird das. Wir werden nur älter und langsamer. Deswegen: Lang lebe das autonome Auto, damit wir alle das auch können. 

Schmidt Fabian (DW)

Fabian Schmidt: "Autonome Autos werden stets viel rücksichtsvoller und langsamer fahren als viele Menschen hinterm Steuer."

Fabian Schmidt: Überschätzt die Fähigkeiten der Roboter nicht!

Die Vorstellung, vollautonom fahrende Autos ließen sich nach differenzierten moralischen Kriterien programmieren, ist völlige Science Fiction. So funktionieren Roboter-Autos einfach nicht. Autonom fahrende Autos können mit ihren Sensoren gar nicht erkennen, ob ein Wildschwein zwischen parkenden Autos hervorläuft, ein Kleinkind oder eine vom Sturm davongetragene Pappkiste.

Wie wir seit dem Fall eines verunglückten Teslas wissen, kann es sogar vorkommen, dass die Sensoren einen quer fahrenden LKW für eine Reklametafel halten. Das Auto versuchte, darunter durchzufahren – mit Todesfolge. 

Autonome Autos diskriminieren Passanten nicht nach Alter, Geschlecht oder irgendwelchen sonstigen Kriterien. Sie nehmen Bildpunkt-Wolken, Radar-Reflektionen oder von Lasern erkannte Oberflächen als Vektoren wahr. Dadurch erkennen sie, ob irgendetwas möglicherweise eine Kollision herbeiführt oder nicht und reagieren entsprechend – meistens mit einer sicheren Vollbremsung.

Und das ist schon alles: Die Programmierung beschränkt sich im Wesentlichen auf Bremsen, Spurhalten und möglicherweise Ausweichen – auf eine freie, gefahrlos zu nutzende Spur. Ein Auto wird immer so programmiert sein müssen, dass es unter allen Umständen vermeidet, in den Gegenverkehr zu geraten. Und das Prinzip des Spurhaltens schließt das Szenario aus, dass das Auto zur Rettung Dritter etwa gegen eine Betonwand rast. Differenzierte moralische Optionen haben die Programmierer also gar nicht. Aber keine Angst: Autonome Autos werden stets viel rücksichtsvoller und langsamer fahren als viele Menschen hinterm Steuer. Das ist dann sowohl für Wildschweine als auch für Kleinkinder sicherer.

Lesen Sie hier noch einen Kommentar von Fabian Schmidt: Kommentar: Deutschland braucht autonom fahrende Autos auf seinen Straßen

Die Redaktion empfiehlt

WWW-Links

Audio und Video zum Thema