Autonomes Fahren in Deutschland Die Suche nach dem Moralmodul

Bild von Oliver Bendel
Professor für Wirtschaftsinformatik, FHNW

Expertise:

Oliver Bendel lehrt und forscht als Professor für Wirtschaftsinformatik an der Hochschule für Wirtschaft FHNW, mit den Schwerpunkten Wissensmanagement, Wirtschaftsethik, Informationsethik und Maschinenethik. 2016 sind seine Bücher „Die Moral in der Maschine“ (Heise Medien) und „300 Keywords Informationsethik“ (Springer) erschienen.

Oliver Bendel plädiert dafür, das autonome Fahren auf Autobahnen zu beschränken. Es seien keine Systeme und Sensoren in Sicht, die die Komplexität der Städte beherrschen würden. Ein Moralmodul, das bei Unfällen mit Menschen angemessen entscheidet, werde es kaum geben.

Das Auto hat sich und seine Umwelt immer wieder stark verändert. Am Anfang versuchte man, die Kutsche nachzuahmen, und fast wie in den Jahrhunderten zuvor holperte und wankte man über das Pflaster. Dann entdeckte man die Stromlinienförmigkeit, duckte sich in den Fahrerraum hinein, wand sich aus dem Sitz heraus. In die Lücke, die die Steine hinterlassen hatten, floss der Asphalt. Die Städte wurden umgebaut. Sie wurden so autofreundlich, dass der Gehsteig in manchen Ländern zum Strich verkam, auf dem man sich vorsichtig zwischen Verkehr und Mauer vorwärts bewegte. Vorwärts, vor allem im Sinne des Fortschritts, das war die Devise, bis man die Innenstädte wieder für die Fußgänger erschloss und Fußgängerzonen entstanden. Dann tat sich eine Weile nichts. Autoindustrie und Stadtplaner wirkten müde und schwach. Bis die Idee des autonomen Autos geboren wurde.

Die Idee des hoch- und vollautomatisierten Fahrens ist nicht neu. In einem Museum musste ich im Frühjahr um einen selbstfahrenden Daimler aus den 90ern herumschleichen, damit fernsehtaugliche Bilder entstanden. Ich blickte immer wieder in das Innere, und mein Erstaunen war nur teilweise gespielt: Überall Computer, und wenn man mitfahren wollte, musste man sich neben sie kauern. Vielleicht stand es dem Unternehmen förmlich vor Augen, dass die Zeit noch nicht reif war. Wenn man die Fachliteratur der letzten Jahrzehnte durchstöbert, wird schnell klar, dass Autobauer und Wissenschaftler früh fasziniert von den Möglichkeiten waren. Man widmete sich Fahrerassistenz- und Sensorsystemen, und vielleicht hatte man die Hoffnung, dass diese in der Summe das Roboterauto ergeben würden, die moderne Kutsche, nicht mehr von Pferd und Kutscher, sondern von der Technik gezogen, geführt und gelenkt.

Eine maschinelle Moral, die der menschlichen gleicht, wird man wohl nie erschaffen können

zustimmen
ablehnen
Ergebnis
Debattenübersicht

So ähnlich war es schließlich auch. Es wurden Notbrems- und Spurwechselassistenten sowie Kameras, Radar, Lidar und Systeme mit Ultraschall und Infrarot integriert. Die Computer wurden kleiner und leistungsfähiger, die Displays günstiger. Die Autos begannen zu kommunizieren, mit ihresgleichen und mit einer Infrastruktur, die nebenbei entstand. An beidem konnte man verdienen, und plötzlich waren alle hellwach, die Vertreter der Wirtschaft und der Wissenschaft – und der Politik. Zur deutschen Wirtschaft gehört die Automobilindustrie wie zur schweizerischen die Pharmaindustrie. Das autonome Auto wurde von Alexander Dobrindt zur Chefsache erklärt.

Im Silicon Valley schlief man nicht, und fast über Nacht entstanden das Google-Auto, der Tesla Model S und andere Prototypen. Mit dem Tesla war ich Anfang des Jahres bei Bern unterwegs. Auf der Autobahn habe ich den Autopiloten ausprobiert. Er beobachtete den Verkehr und überholte für mich. Auf der Landstraße habe ich beschleunigt, fast wie in einer Rakete. Ein verrücktes, großartiges Auto, aber eben höchstens eine Beta-Version, die das Vertrauen von Behörden und Verbrauchern noch nicht verdiente. Die Konkurrenz aus Kalifornien nahm man in Deutschland wahr, mitsamt der Tatsache, dass mit einem Mal elektrisch gefahren wurde. Auch etwas anderes nahm man wahr: Die junge Disziplin der Maschinenethik warf Fragen auf, die noch nicht alle hören wollten.

Die Maschinenethik ist eine dynamische Disziplin. Insbesondere in den USA werden Konferenzen durchgeführt, Fachbücher veröffentlicht und Plattformen aufgebaut. Bei uns ist man ebenfalls aktiv. Es geht um die Frage, ob moralische Maschinen möglich sind, und wie man sie umsetzt, wenn sie möglich sind. Der Begriff der maschinellen Moral wird von einigen Vertretern verwendet wie der Begriff der künstlichen Intelligenz, entweder metaphorisch oder intentional. Es sind neuartige, merkwürdige Subjekte der Moral, die als Roboterautos, Kampfdrohnen und Chatbots unsere reale und virtuelle Welt bevölkern, und eine maschinelle Moral, die der menschlichen gleicht, wird man wohl nie erzeugen können.

Die Grundforderungen des Bundesverkehrsministers sind richtig. 

zustimmen
ablehnen
Ergebnis
Debattenübersicht

Der Bundesverkehrsminister mit seiner Ethikkommission wird keine leichte Aufgabe haben. Er will den Weg für das autonome Auto freimachen, die deutsche Autoindustrie vor amerikanischen IT-Firmen schützen und ihr Regeln diktieren, die für sie und die Märkte gelten sollten, in denen sie aktiv sind, also für die ganze Welt. Seine Grundforderungen sind richtig: Das Auto soll bei einem Unfall 1. einen Sach- einem Menschenschaden vorziehen und 2. nicht qualifizieren, etwa den Manager als wichtiger ansehen als den Bettler. Diese Regeln, die moralische Implikationen haben, können sich die Mitglieder der Ethikkommission in das Handbuch schreiben, das sie Daimler und Co überreichen wollen. Die Frage ist, was noch darin stehen wird und ob es ein passendes Moralmodul überhaupt geben kann.

Es ist fraglich, ob es ein passendes Moralmodul geben kann. 

zustimmen
ablehnen
Ergebnis
Debattenübersicht

Es ist naheliegend, dass Autopilot und Roboterauto quantifizieren dürfen. Man würde sie durchzählen lassen und ähnlich wie beim klassischen Trolley-Problem eher den Mann auf dem Gehsteig opfern als die Gruppe auf dem Zebrastreifen. Der Wagen würde also, wenn die Bremsen versagen, das Lenkrad herumreißen und nicht einfach geradeaus fahren, wie es manche fordern, die der Meinung sind, dass man ihn überall zulassen und zugleich mit möglichst wenigen Entscheidungsmöglichkeiten versehen soll. Dabei vergessen sie, dass beim automatisierten Verkehr alles eine Entscheidung ist und man geradezu eine unterlassene Hilfeleistung einbauen kann. Vielleicht wird also erlaubt, dass die Maschinen quantifizieren – eine gute Lösung ist das nicht.

Die moralische Komplexität der Situationen ist zu groß. 

zustimmen
ablehnen
Ergebnis
Debattenübersicht

Ich konzipiere moralische Maschinen, und in einer einfachen, übersichtlichen Umgebung, im Haushalt, im Schrebergarten und auf einer Plattform im Web, sind sie möglich und sinnvoll. In einer komplexen, unübersichtlichen Umgebung wird es schwierig, außer man konzentriert sich auf ausgewählte Aspekte, bei Roboterautos z.B. auf die Vermeidung von Tierleid. Man müsste Millionen von Situationen voraussehen und moralische Urteile über Leben und Tod von Menschen erlauben, hinter denen vielleicht die Gesellschaft, aber vermutlich nicht das Opfer bzw. sein Umfeld stehen kann. Wenn man die Systeme selbst lernen, sie eigene Beobachtungen anstellen und eigene Regeln erstellen lässt, ist man zwar auf dem neuesten Stand der Technik, handelt sich aber auch die neuesten Probleme der Ethik ein.

Autonomes Fahren sollte nur auf Autobahnen stattfinden.

zustimmen
ablehnen
Ergebnis
Debattenübersicht

Ich plädiere dafür, autonomes Fahren auf Autobahnen zu beschränken. Gefährliche Situationen werden dort kaum entstehen, und es können tödliche Unfälle sogar vermieden werden. In den Städten wären diese an der Tagesordnung, es sei denn, man zwingt dem Autoauto eine einfache oder doppelte Schrittgeschwindigkeit auf, wie dem Shuttle in Sitten im Wallis. Es sind keine Systeme und Sensoren in Sicht, die die Komplexität von Berlin oder Hamburg beherrschen würden, und keine Mitglieder einer Ethikkommission, die dafür ein Moralmodul entwickeln könnten. Falls aber doch, ziehe ich meinen Hut vor allen Beteiligten und fahre mit meiner Kutsche davon.

 

Sie können an dieser Stelle derzeit keinen Kommentar schreiben.