was passiert bei unf allen mit selbst fahrenden autos · einleitung selbstfahrende autos auf o enen...
TRANSCRIPT
![Page 1: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/1.jpg)
Was passiert bei Unfallen mit selbst fahrenden AutosSeminar: Ist Kunstliche Inteligenz gefahrlich?
Jochen Clormann
Universitat Heidelberg
18. Mai 2017
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 1 / 51
![Page 2: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/2.jpg)
Agenda
1 Einleitung
2 Safe State
3 Kostenfunktion
4 Consequence Engine
5 Studie
6 Zusammenfassung & Einschatzung
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 2 / 51
![Page 3: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/3.jpg)
Einleitung Selbstfahrende Autos auf offenen Straßen
Einleitung
Abbildung: Autonomer Tesla 2016 [7]
Breites Forschungsgebiet von Industrieund Wissenschaft mit großen Zielen:
+ Verringert Anzahl an Unfallen
+ Erhoht die Mobilitat
+ Verringert Umweltbelastung
± Weitere zahlreiche Moglichkeiten
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 3 / 51
![Page 4: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/4.jpg)
Einleitung Selbstfahrende Autos auf offenen Straßen
Google WAYMO
Abbildung: Waymo by Google [8]
Early Rider Programm in Phoenix, AZ
Studie: 94 % aller Unfalle durchmenschliches Versagen
Ziel: Verringerung Verkehrsunfalle
3M Meilen autonom gefahren
Lernfahige Autos mit Sicherheitsfahrer
Frequenz der”Eingriffe“ durch Fahrer
2015: 1.250 Meilen2016: 5.000 Meilen
[6]
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 4 / 51
![Page 5: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/5.jpg)
Einleitung Selbstfahrende Autos auf offenen Straßen
Google WAYMO
Abbildung: Google Waymo [10]Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 5 / 51
![Page 6: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/6.jpg)
Einleitung Selbstfahrende Autos auf offenen Straßen
Einleitung
Abbildung: Unvorsichtiger Fußganger [9]
Nicht alle Verkehrsteilnehmer sindautonom
Unvorhersehbare Ereignisse
→ Gefahrensituationen
Entscheidung zwischen:Verkehrsegeln brechen
Sachschaden verursachen
Menschen verletzen
[6]Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 6 / 51
![Page 7: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/7.jpg)
Einleitung Soziale Dilemma
Abbildung: Tote Kleinkind und Hund oder 5 Arzte [11]
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 7 / 51
![Page 8: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/8.jpg)
Einleitung Soziale Dilemma
Abbildung: Tote Kind, Verbrecher, Obdachloser & 2 Tiere oder 2 Kleinkinder & 3 Erwachsene [11]
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 8 / 51
![Page 9: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/9.jpg)
Einleitung Soziale Dilemma
Abbildung: Tote Frau mit Kind oder Verbrecher mit Geiseln (Frau & Kind) [11]
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 9 / 51
![Page 10: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/10.jpg)
Einleitung Leitsatz
Leitsatz fur Gefahrensituationen
...Alle Personen gut zu behandeln und keine Diskriminierung anhand vonRasse, Religion, Geschlecht, Behinderung, Alter, Nationalitat, Sexualitat,Geschlechtsidentitat oder Geschlechtsausdruck zu vollziehen...
Ubersetzt aus [3]
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 10 / 51
![Page 11: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/11.jpg)
Safe State
Safe State
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 11 / 51
![Page 12: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/12.jpg)
Safe State Definition und Anwendung
Definition
Das Verhuten von Unfallen darf nicht als eine Vorschrift des Gesetzesaufgefasst werden, sondern als ein Gebot menschlicher Verpflichtung und
wirtschaftlicher Vernunft.
(Werner von Siemens, 1880)
Sicherheitsnorm ISO 26262:2011
Safe State ist erreicht wenn das eingehende und ausgehende Risiko im aktuellenund zukunftigen Zustand unter einer gewissen Grenze bleibt.
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 12 / 51
![Page 13: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/13.jpg)
Safe State Definition und Anwendung
Risiko als Funktion
Abbildung: Zeit-Risiko Diagramm
Beinhaltet:
Alle Objekte der Umgebung
Bewegungsrichtungen
Regeln & Gesetze
Eigene”Mission“
Verfugbare Leistung
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 13 / 51
![Page 14: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/14.jpg)
Safe State Sicherheitsanforderungen
Performance
Functional Limits
Risk Level
Safe State
[12, 13, 14, 22]Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 14 / 51
![Page 15: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/15.jpg)
Safe State Safe State in LEONIE
Projekt LEONIE
Abbildung: LEONIE auf offentlicher Straße [23]
Gut dokumentiertes Projekt derTU Braunschweig
Radar und Lasertechnik
Im Notfall ubergabe an denSicherheitsfahrer
Forschungsbereiche:Umgebungsuberwachung(IT) LeistungWirkung
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 15 / 51
![Page 16: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/16.jpg)
Safe State Safe State in LEONIE
Abbildung: Beziehung zwischen Uberwachung, Verarbeitung und Wirkung [5]
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 16 / 51
![Page 17: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/17.jpg)
Kostenfunktion
Kostenfunktion
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 17 / 51
![Page 18: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/18.jpg)
Kostenfunktion Definition
Definition
Kostenfunktionen fur verschiedene Szenarien betrachtet:
Handlungswirkungen
”Eigener“ Schaden
SachschadenTod / Verletzung
RisikenUnvorhergesehene Auswirkungen
Eigene”Fahigkeiten“
”Bestes“ Szenario wahlbar?
Unerreichbares”bestes“ Ergebnis
Erreichbares”schlechtestes“ Ergebnis
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 18 / 51
![Page 19: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/19.jpg)
Kostenfunktion Anwendung
Anwendung bei Pfadabweichung
Abbildung: Aktueller und optimaler Pfad [4]
Berechnung uber SSE:
J = C1
N∑i=1
e(i)2 (1)
Entspricht der Pfadabweichung
Einbeziehung weiterer Faktoren:
J = C1
N∑i=1
e(i)2 + C2︸︷︷︸Gewicht
N−1∑j=1
|δ(j + 1)− δ(j)|︸ ︷︷ ︸Lenkwinkel
(2)
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 19 / 51
![Page 20: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/20.jpg)
Kostenfunktion Anwendung
Weitere (externe) Parameter:
Parameter Gewicht in Gefahr Normalgewicht
Verkehrsregeln gering ↔ hoch hochZeit zum Ziel gering hochDistanz zu anderen gering hochAnzahl Verletzte hoch hochAnzahl Tote hoch hoch
Tabelle: Fahrparameter mit Gewichtung
⇒ C (Unbekannte Parameter) >> C (Bekannte Parameter)
Ziel: Verringerung des Gesamtschadens
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 20 / 51
![Page 21: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/21.jpg)
Kostenfunktion Anwendung
Verringerung des Gesamtschadens heißt:
Minimierung der Kostenfunktion
durch Anpassung der Gewichte
Resultate:Selbstopferung
Auswahlen und”Anvisieren“ des robustesten Ziels
2 Beispiele..
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 21 / 51
![Page 22: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/22.jpg)
Kostenfunktion Gunstigster Unfall
Gesamtschaden verringern
Abbildung: Kradfahrer mit Schutzausrustung[16] Abbildung: Kradfahrer ohne Schutzausrustung[15]
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 22 / 51
![Page 23: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/23.jpg)
Kostenfunktion Gunstigster Unfall
Abbildung: Situation: Plotzlichentgegenkommendes Fahrzeug [17]
Moglichkeiten:
Auffahrunfall mit Verletzten ggf.Toten
Selbstopferung
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 23 / 51
![Page 24: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/24.jpg)
Kostenfunktion Deadlock-Problem
Einschrankungen:
Kein Verstoß gegenVerkehrsregeln
Außer Personen sind inGefahr
[4]
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 24 / 51
![Page 25: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/25.jpg)
Kostenfunktion Ergebnis
Zusammenfassung - Kostenfunktion
Gewichtung verschiedener Parameter
Abweichung zwischen optimalem und aktuellen Wert
Fahigkeit”Ziele“ zu bestimmen
Selbstopferung als Option
Deadlock Problem bei zu strengen Einschrankungen
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 25 / 51
![Page 26: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/26.jpg)
Consequence Engine
Consequence Engine
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 26 / 51
![Page 27: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/27.jpg)
Consequence Engine Definition
Definition
Steuerungseinheit von autonomenMaschinen
Bewertet einzelne Ereignisse mitnumerischen Werten
Klassifiziert nach ethisch,programmierten Prinzipien
i f ( f o r a l l r o b o t a c t i o n s ,th e human i s e q u a l l y s a f e )
thenoutput s a f e a c t i o n s
e l s eoutput a c t i o n ( s ) f o r l e a s tu n s a f e human outcome ( s )
Listing 1: Basis Algorithmus
[2]
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 27 / 51
![Page 28: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/28.jpg)
Consequence Engine Definition
Algorithmus & Logik
: name : e t h i c a l g: agent : r o b o t
: Outcome Scores :
s a f e = 0c o l l i s i o n = 4h o l e = 10
: E t h i c a l Precedence :human > r o b o t
Listing 2: Schadens und Ethik Definition
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 28 / 51
![Page 29: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/29.jpg)
Consequence Engine Mathematisches Modell
Implementierbares Modell
Gegeben:Objekte
LandeschaftMenschenGefahrenquellen
Bewegungsrichtungen
Gesucht:
Meist gefahrdetes Objekt (MgO)
Aktion um MgO zu beschutzen
”Beste“ Aktion
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 29 / 51
![Page 30: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/30.jpg)
Consequence Engine Mathematisches Modell
Identifyall actions& objects
Identifyobject-action
oi , ai∀i ∈ N
oi , ai
< oi , aj >, ..
EvaluatingOutcomes
< hi , hole >, ..
ranked list
=∑
<a,<o,out>> ≤∑
<a′,<o,out′>>
performaction
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 30 / 51
![Page 31: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/31.jpg)
Consequence Engine Studie mit e-puk Robotern
Versuch mit Mini Robotern
Abbildung: e-pukt Roboter [19]
Versuchsaufbau:
Mensch bewegt sich aufGefahrenstelle zu
Roboter soll dies erkennen
Roboter soll Menschen beschutzen
ggf. sich selbst der Gefahr aussetzen
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 31 / 51
![Page 32: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/32.jpg)
Consequence Engine Studie mit e-puk Robotern
Versuchsdurchfuhrung
. . . H1 . .
. . . . . .
. . . O . .
. . . . . .
. R1 . . . .
1 Mensch H1 lauft auf Grube O zu
2 Roboter R1 kann sich selbst in dieGrube fahren
3 Roboter R1 kann Mensch H1 aufhalten
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 32 / 51
![Page 33: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/33.jpg)
Consequence Engine Studie mit e-puk Robotern
Versuchsdurchfuhrung
. . . H1 . .
. . . . . .
. . . O . .
. . . . . .
. R1 . . . .
1 Mensch H1 lauft auf Grube O zu
2 Roboter R1 kann sich selbst in dieGrube fahren
3 Roboter R1 kann Mensch H1 aufhalten
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 32 / 51
![Page 34: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/34.jpg)
Consequence Engine Studie mit e-puk Robotern
Versuchsdurchfuhrung
. . . H1 . .
. . . . . .
. . . O . .
. . . . . .
. R1 . . . .
1 Mensch H1 lauft auf Grube O zu
2 Roboter R1 kann sich selbst in dieGrube fahren
3 Roboter R1 kann Mensch H1 aufhalten
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 32 / 51
![Page 35: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/35.jpg)
Consequence Engine Studie mit e-puk Robotern
Versuchsdurchfuhrung II
. . . H1 . .
. . . . . .
. . . O . H2
. . . . . .
. R1 . . . .
1 Mensch H1,H2 lauft auf Grube O zu
2 Roboter R1 kann sich selbst in dieGrube fahren
3 Roboter R1 kann Mensch H1 oder H2
aufhalten
4 Roboter muss sich zwischen zweiMenschen entscheiden
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 33 / 51
![Page 36: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/36.jpg)
Consequence Engine Studie mit e-puk Robotern
Ergebnisse
Ein”Mensch“:
Mensch konnte immer gerettet werden
Zwei”Menschen“ :
9% beide Menschen gerettet
59% min. Ein Mensch gerettet
32% kein Mensch gerettet
Einschatzung:
32% im Labor zu viel
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 34 / 51
![Page 37: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/37.jpg)
Studie
Studie
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 35 / 51
![Page 38: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/38.jpg)
Studie
Studie 1:
n=182Vergleich zwischen:
Wie werden AF programmiertWie sollten AF programmiert werden
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 36 / 51
![Page 39: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/39.jpg)
Studie
Studie 2:
n=451
Anzahl der Personen fur dieFahrzeuginsassen geopfert werdensollten
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 37 / 51
![Page 40: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/40.jpg)
Studie
Studie 3
n = 259
Gerechte SelbstopferungKaufe ein Auto das:
Schaden minimiertDen Fahrer beschutzt
..unter Berucksichtigung derBeziehung zu Passagieren
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 38 / 51
![Page 41: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/41.jpg)
Studie
Studie 4:
n = 267Verteilung von 100 Budget Points auf:1 Tote 1 Fußganger, verschone 10 Fußganger2 Tote Passagier, verschone 10 Fußganger3 Tote 1 Fußganger, verschone 1 Fußganger
In den Bereichen:Gerechte SelbstopferungFur andere AutosFur mein Auto
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 39 / 51
![Page 42: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/42.jpg)
Studie
Studie 5:
n = 376Vergleich zwischen:
Mensch opfert sich, verschont 1Algorithmus opfert Passagier fur 1Mensch opfert sich, verschont 10Algorithmus opfert Passagier fur 10
Gerechte Entscheidung
Gesetzlich verpflichtend
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 40 / 51
![Page 43: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/43.jpg)
Studie
Studie 6
n = 393
Kaufbereitschaft bei gesetzlichkontrollierten Algorithmen
Fahren mit Familie oder Kind
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 41 / 51
![Page 44: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/44.jpg)
Studie
Zusammenfassung Studienergebnisse
Gesetzliche Regulierung notig aber auch kontraproduktiv
Zustimmung zur Minimierung des Gesamtschadens
Abhangigkeit der Beifahrer Beziehung
geringe Kaufbereitschaft fur Selbst opfernde Autos
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 42 / 51
![Page 45: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/45.jpg)
Zusammenfassung & Einschatzung
Zusammenfassung & Einschatzung
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 43 / 51
![Page 46: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/46.jpg)
Zusammenfassung & Einschatzung Zusammenfassung
Zusammenfassung
Safe StateDefinition von SicherheitsbedingungenSicherheitsanforderungen inLeistung, Risiko und Funktionalitat
KostenfunktionBerucksichtigung von Handlungsauswirkungen und RisikenSelbstopferungDeadlock
Consequence EngineBetrachtung einzelner Aktionen
SudieBefragte sind
”einverstanden“ mit Selbstopferung
geringe Kaufbereitschaft
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 44 / 51
![Page 47: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/47.jpg)
Zusammenfassung & Einschatzung Einschatung
Einschatung
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 45 / 51
![Page 48: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/48.jpg)
Zusammenfassung & Einschatzung Einschatung
Unfallursachen durch Fehlverhalten:
Ursache Anzahl
Alkoholeinfluss 12.660Falsche Straßennutzung 24.763Geschwindigkeit 47.024Abstand 50.667Uberholfehler 13.445Vorfahrt & Manoverfehler 110.336Fehlverhalten geg. Fußganger 16.629∑
275.524
Weitere Unfallursachen:
Ursache Anzahl
Glatte durch Regen 6.362Glatte durch Schnee, Eis 4.974Sichtbehinderung (Nebel) 456Sichtbehinderung (Sonne) 3.116Ungesicherte Baustellen 125Wild 2.580Tiere auf der Fahrbahn 1.076∑
18.689
Unfalle mit Todesfolge: 3.459Entspricht ca. 792 Unfalle mit Personenschaden & 9 Tote pro Tag [20, 21]
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 46 / 51
![Page 49: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/49.jpg)
Zusammenfassung & Einschatzung Einschatung
Einschatzung
Autonome Fahrzeuge konnen:
Keine Fehler machen die Personen machen
In Gefahrensituationen den Uberblick behalten
Autonome Fahrzeuge konnen (noch) nicht:Entscheidungen treffen die..
..moralisch vertretbar sind,gesellschaftlich anerkannt sind,keinen Autobauer benachteiligen.
Außerdem..
Wer ist der Angeklagte??
Wer sichert wie gegen Hacker??
Wettbewerbsvorteil durch bessere Technik??Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 47 / 51
![Page 50: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/50.jpg)
Quellen
Quellen I
[1] Bonnefon, J.-F., Shariff, A., & Rahwan, I. (2016). The social dilemma ofautonomous vehicles. In Science, 352(6293), 1573–1576.http://doi.org/10.1126/science.aaf2654
[2] Dennis, L. A., Fisher, M., & Winfield, A. F. T. (2015). Towards VerifiablyEthical Robot Behaviour. In CoRR, abs/1504.0, 1–11. Retrieved fromhttp://arxiv.org/abs/1504.03592
[3] Lin, P. (2016). Why Ethics Matters for Autonomous Cars. In AutonomousDriving (pp. 69–85). Berlin, Heidelberg: Springer Berlin Heidelberg.http://doi.org/10.1007/978-3-662-48847-8 4
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 47 / 51
![Page 51: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/51.jpg)
Quellen
Quellen II
[4] Gerdes, J. C., Thornton, S. M., Gerdes, J. C., Thornton, A. S. M., & Thornton,S. M. (n.d.). 5 Implementable Ethics for Autonomous Vehicles.http://doi.org/10.1007/978-3-662-48847-8 5
[5] Reschka, A., Bohmer, J. R., Nothdurft, T., Hecker, P., Lichte, B., & Maurer, M.(2012). A surveillance and safety system based on performance criteriaand functional degradation for an autonomous vehicle. In IEEE Conferenceon Intelligent Transportation Systems, Proceedings, ITSC, pp. 237–242.http://doi.org/10.1109/ITSC.2012.6338682
[6] https://waymo.com/
[7] https://en.wikipedia.org/wiki/Autonomous_car#/media/File:
Tesla_Model_S_Hwy_40.jpg
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 48 / 51
![Page 52: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/52.jpg)
Quellen
Quellen III
[8] https://www.google.com/selfdrivingcar/
[9] http://blog.audi.de/2017/03/24/audi-mit-lte-v-auf-der-cebit/
[10] https://www.youtube.com/watch?v=fbWeKhAPMig
[11] http://moralmachine.mit.edu/hl/de
[12] http://imagenes.km77.com/fotos/bbtcontent/clipping/
KM7KPH20090616_0113/3.jpg
[13] http://www.gebrauchtwagen.net/auto-lexikon/seitenstreifen
[14] https://www.automobil-produktion.de/maerkte/
bosch-ist-teil-der-global-ncap-initiative-106.html
[15]http://www.tagesspiegel.de/images/roller/11576590/3-format43.jpg
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 49 / 51
![Page 53: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/53.jpg)
Quellen
Quellen IV
[16] http:
//cdn.salzburg.com/nachrichten/uploads/pics/2016-05/orginal/
bischofshofen-motorradfahrer-bei-unfall-getoetet-41-64401963.jpg
[17] https://www.mottekundbommel.de/wp-content/uploads/2016/02/
Mittagspause-mit-den-Kollegen.gif
[18] http://www.activistpost.com/wp-content/uploads/2014/08/0825.
sdt-news.jpg
[19] https://www.generationrobots.com/img/cms/Epuck_devices.png
[20] https://www.destatis.de/DE/ZahlenFakten/Wirtschaftsbereiche/
TransportVerkehr/Verkehrsunfaelle/Tabellen/
FehlverhaltenFahrzeugfuehrer.html
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 50 / 51
![Page 54: Was passiert bei Unf allen mit selbst fahrenden Autos · Einleitung Selbstfahrende Autos auf o enen Straˇen Google WAYMO Abbildung:Waymo by Google [8] Early Rider Programm in Phoenix,](https://reader033.vdocuments.net/reader033/viewer/2022042622/5fa5db17f62004752c153d22/html5/thumbnails/54.jpg)
Quellen
Quellen V
[21] https://www.destatis.de/DE/ZahlenFakten/Wirtschaftsbereiche/
TransportVerkehr/Verkehrsunfaelle/Tabellen/
UrsachenPersonenschaden2.html
[22] http://www.tagesspiegel.de/images/verkehr_dpa/6751762/
3-format6001.jpg
[23] https://www.tu-braunschweig.de/Medien-DB/presse/leonie/leonie3_
tu-braunschweig.jpg
Jochen Clormann (Universitat Heidelberg) Ethisches Verhalten im Verkehr 18. Mai 2017 51 / 51