Wenn sich selbstfahrende Autos in einem realen Umfeld bewegen, könnte dies die Wahrnehmung des autonomen Fahrens durch die Menschen verändern, sagt Dr. Bonnefon. Bildnachweis - Matt Spinner (CC BY-NC-ND 2.0)

"Das Vertrauen auf selbstfahrende Autos wird für die Menschen ein großer Schritt sein"

Wir sollten die Sicherheit von automatisierten Fahrzeugen nicht zu viel versprechen, sagt Dr. Jean-François Bonnefon.

von Jonathan O'Callaghan

Selbstfahrende Autos werden zu einer der größten Veränderungen in unserem globalen Verkehrssystem seit Jahrzehnten führen, aber ihr Potenzial zur Erhöhung der Verkehrssicherheit sollte nicht überbetont werden, wenn wir das Vertrauen der Menschen in automatisierte Fahrzeuge erhöhen wollen, sagt Dr. Jean-François Bonnefon von der Toulouse School of Economics, Frankreich, und dem Massachusetts Institute of Technology, USA.

Er ist Verhaltenswissenschaftler und studiert die Ethik von selbstfahrenden Autos. Er spricht auf der Europäischen Konferenz für vernetztes und automatisiertes Fahren (EUCAD) in Brüssel, Belgien, die vom 2. bis 3. April 2019 stattfindet.

Damit selbstfahrende Autos Erfolg haben können, müssen sich die Menschen in das gesamte Konzept einarbeiten. Was ist hier die größte Herausforderung?

„Es wird immer eine Frage des Vertrauens der Menschen in diese Maschinen sein, denn selbstfahrende Autos sind ein extremer Fall in der KI-Revolution (Künstliche Intelligenz). Selbstfahrende Autos sind für die körperliche Unversehrtheit der mitreisenden Personen verantwortlich. Sie können natürlich für andere Menschen genauso gefährlich sein wie jedes andere Auto, und sie treffen Entscheidungen so schnell, dass Sie nicht immer einen Menschen in der Schleife haben können. Das Vertrauen in diese Art von Maschine wird also für die Menschen ein großer Schritt sein. “

Warum sind Menschen besorgt um selbstfahrende Autos, wenn menschliche Fahrer für so viele Todesfälle verantwortlich sind?

„Man hört immer, dass selbstfahrende Autos letztendlich 90% der Unfälle beseitigen könnten, aber das wird nicht sofort passieren. Sie werden Unfälle haben. Wenn Sie sich vorstellen, dass selbstfahrende Autos 50% der Unfälle beseitigen könnten, wäre das unglaublich, aber es würde auch bedeuten, dass Menschen jeden Tag in selbstfahrenden Autos sterben würden. Das wird wirklich schwer, denn im Moment hören die Leute diese Zahlen über die ultimative Sicherheit dieser Autos und sind vielleicht nicht psychologisch gewillt, von all den Unfällen zu hören, die selbstfahrende Autos immer noch haben würden. "

Wenn es um die Ethik von selbstfahrenden Autos geht, konzentrieren sich die Leute oft auf das Problem mit dem Trolley, bei dem gefragt wird, ob ein Auto ausweichen sollte, um eine Person zu töten, anstatt viele. Dies wurde jedoch kritisiert, das Problem zu eng zu fassen. Welche anderen ethischen Fragen zu selbstfahrenden Autos gibt es?

„Eine große ethische Frage betrifft das absolute Sicherheitsniveau, das sie haben. Wann erlauben wir sie zum Beispiel auf der Straße? Ein Auto, das nur sicherer ist als der durchschnittliche menschliche Fahrer, bedeutet, dass es nicht so sicher ist wie viele, viele Fahrer. Also ist das okay? Einige Leute diskutieren auch, ob selbstfahrende Autos irgendwann zur Pflicht gemacht werden sollten. An welcher Stelle verbieten wir Menschen zu fahren? Weil wir die Sicherheitsvorteile eines selbstfahrenden Autos unterschätzen könnten. “

"Wenn wir den Leuten sagen, dass diese Autos fast vollkommen sicher sind, werden sie sich verraten fühlen, wenn sie von Unfällen hören."
- Dr. Jean-François Bonnefon, Hochschule für Wirtschaft in Toulouse, Frankreich

Berücksichtigen Unternehmen ethische Aspekte bei der Gestaltung der Fahrzeuge?

"Ich denke, es ist eigentlich nicht ihre Aufgabe. Vielleicht sind ihre Ressourcen besser für Ingenieure bestimmt, die das Auto (eher) sicherer machen, als Philosophen oder Leute wie mich, die sich darum kümmern, was in Rand-Szenarien zu tun ist. Diese Entscheidungen betreffen nicht nur ihre Kunden, sondern auch alle in der Umgebung. Daher kann es die Aufgabe von Regierungen oder Aufsichtsbehörden sein, moralische Entscheidungen zu treffen, die die Gesellschaft als Ganzes einbeziehen. “

Wie können wir Vertrauen in diese Fahrzeuge aufbauen?

„Als erstes können wir nicht zu viel versprechen. Wenn wir den Leuten sagen, dass diese Autos fast vollkommen sicher sind, werden sie sich verraten fühlen, wenn sie von Unfällen hören, selbst wenn es nur wenige gibt. Aber wie programmieren wir die Autos gleichzeitig in Bezug auf die Art von Unfällen, die sie haben werden? Werden wir den Kindern mehr Raum geben, auch wenn man Radfahrern näher kommt? Werden wir den LKWs mehr Platz machen, auch wenn wir Fußgängern näher kommen müssen? Alle diese kleinen Entscheidungen wirken sich auf das Risikoprofil der verschiedenen Verkehrsteilnehmer aus.

„Wenn selbstfahrende Autos 20% der Unfälle beseitigen können, ist es besser als der durchschnittliche menschliche Fahrer, aber es ist sehr schwer für die Menschen zu verstehen, ob sie davon persönlich profitieren würden. Wir müssen die Öffentlichkeit dazu motivieren, wie gut sie fahren und was es für ein Auto bedeutet, um 20% sicherer zu sein. “

Dr. Bonnefon sagt, dass Regierungen und Aufsichtsbehörden und nicht Ingenieure die moralischen Entscheidungen in Bezug auf selbstfahrende Autos treffen sollten. Bildnachweis - JF Bonnefon

Wie gehen wir das an?

„Nun, ich denke, wir brauchen viel Transparenz in der Öffentlichkeit. Ich denke auch, dass wir viel Arbeit haben, um die Öffentlichkeit in verantwortungsvoller Weise in Sicherheitsfragen zu engagieren. Vernünftige Versprechungen machen, den Menschen helfen, die Statistiken zu verstehen, und von der Gesellschaft Informationen darüber erhalten, wie Autos Risiken verteilen sollten. Nicht nur über das Problem mit dem Trolley, sondern auch darüber, wie selbstfahrende Autos das Risiko auf verschiedene Kategorien von Verkehrsteilnehmern verteilen sollten. “

Gibt es eine Rolle, die die EU dabei spielen kann?

„Ich denke, die EU kann zusätzliche Leitlinien zu diesen ethischen Fragen geben. Bei der Analyse der Daten der Moral Machine (ein Projekt, bei dem Millionen von Menschen zu ethischen Fragen bei selbstfahrenden Autos gefragt wurden), stellten wir fest, dass die Präferenzen für das Verhalten selbstfahrender Autos in der gesamten Europäischen Union ziemlich einheitlich waren. Was bedeutet, dass die EU absolut legitim ist, die Führung dieser Fragen zu übernehmen, weil die Öffentlichkeit in den Mitgliedstaaten zumindest in unseren Daten keine starken Meinungsverschiedenheiten zu haben scheint. “

Was möchtest du in den nächsten Jahren machen?

"Ich würde mir wünschen, dass einige konkrete Schritte unternommen werden, um ethische Fragen in Bezug auf selbstfahrende Autos auf umsetzbare Weise anzugehen. Denn bisher wurde diese Debatte auf sehr hohem, philosophischem Niveau geführt. Ich denke, was sehr interessant wird, ist zu sehen, wie sich selbstfahrende Autos in echten Zusammenhängen bewegen. Es wird faszinierend sein zu sehen, was passiert, wenn Menschen zum Beispiel autonomes Fahren beginnen, wenn sie auf der Autobahn im Stau stehen. Dies ist ein Kontext, in dem es völlig akzeptabel erscheint, das Auto einfach alle Entscheidungen treffen zu lassen. Und das könnte für die Wahrnehmung des autonomen Fahrens durch die Menschen sehr transformativ sein. “

Dieses Interview wurde aus Gründen der Länge und Klarheit bearbeitet.

Siehe auch

  • Ein "Kochbuch" für Fahrzeughersteller: Automatisierte Teile zum Reden bringen
  • Upgrades für die Straße, damit Menschen neben automatisierten Autos fahren können
  • Fit zu fahren? Das Auto wird urteilen

Mehr Info

Europäische Konferenz für vernetztes und automatisiertes Fahren

Ursprünglich bei horizon-magazine.eu veröffentlicht.