Moral der Maschinen

Original von TyCobb
@pg89:

Die KI kann augenscheinlich nicht die Intention hinter dem Hindernis erkennen, daher irrelevant.

Spätestens wenn so ein Fall mal auftritt ist es alles andere als irrelevant. Was meinst du wohl was los ist wenn ein unschuldiger stirbt, weil irgendwelche drogenjunkies mal ausprobieren wollten was passiert, wenn sie vor ein autonomes Auto springen? Dann wird die vorher so hoch gelobte Vorgehensweise von wegen "immer die Anzahl der Toten minimieren" aber ganz schnell wieder in Frage gestellt, da bin ich mir sicher.

Original von TyCobb
Ok:

Wir haben 2 Optionen: Geradeaus fahren, vor uns ist ein Hindernis und der Fahrer stirbt zu 100%, wenn er geradeaus fährt. Es gibt eine Alternativroute, auf der aber ein Mensch steht, der zu 100% stirbt, dafür aber der Fahrer überlebt. Deiner Meinung müsste das Fahrzeug also bremsen, prüfen ob es Ausweichmöglichkeiten gibt. Die gibt es, ist aber blockiert. Als Konsequenz, KI fährt gebremst geradeaus in den Tod, besser?

Genauso sollte die KI reagieren. Selbst wenn auf der Ausweichroute die Person nur zu 25% sterben würde, wäre die richtige Entscheidung geradeaus zu fahren.

Original von pg89

Original von TyCobb
@pg89:

Die KI kann augenscheinlich nicht die Intention hinter dem Hindernis erkennen, daher irrelevant.

Spätestens wenn so ein Fall mal auftritt ist es alles andere als irrelevant. Was meinst du wohl was los ist wenn ein unschuldiger stirbt, weil irgendwelche drogenjunkies mal ausprobieren wollten was passiert, wenn sie vor ein autonomes Auto springen? Dann wird die vorher so hoch gelobte Vorgehensweise von wegen "immer die Anzahl der Toten minimieren" aber ganz schnell wieder in Frage gestellt, da bin ich mir sicher.

Selbstverständlich ist es für die Entscheidungsfindung der KI irrelevant.

ich hab mir das hier mal durchgelesen und merke mal an das doch im zweifelsfall immer der überfahren werden muss der selber den grössten fehler gemacht hat - heisst bevor mein fahrzeug den auf der strasse stehenden kindern ausweicht und die fussgänger auf dem gehweg überfährt, bremst es halt nur um die überlebenswahrscheinlichkeiten aller zu erhöhen. dazu kommt das die ki ja nie die reaktionen der anderen seite vorberechnen kann und eine 100% tot wahrscheinlichkeit kann es kaum geben - schon garnicht für den fahrer der wohl wieterhin in einer relativ sicheren umgebung unterwegs sein dürfte.. (ausser man entschliesst sich autonome fahrzeuge unfassbar abzuspecken was sicherheit angeht-ist aber erst denkbar, wenn fast alle fahrzeuge autonom fahren und sich auch miteinander unterhalten wo der andere gerade ist)
ich muss sagen ich bin eher alte schule und möchte selber lenken - wenn es system gibt die mir helfen andere zu schützen (die ersten notbremsassis gibts ja schon) ist das sicher toll.. ich mache mir aber auch sorgen was passiert wenn sone elektronik mal ausflippt weil irgendwelche sensoren spinnen..

Original von AyCaramba44

Original von TyCobb
Ok:

Wir haben 2 Optionen: Geradeaus fahren, vor uns ist ein Hindernis und der Fahrer stirbt zu 100%, wenn er geradeaus fährt. Es gibt eine Alternativroute, auf der aber ein Mensch steht, der zu 100% stirbt, dafür aber der Fahrer überlebt. Deiner Meinung müsste das Fahrzeug also bremsen, prüfen ob es Ausweichmöglichkeiten gibt. Die gibt es, ist aber blockiert. Als Konsequenz, KI fährt gebremst geradeaus in den Tod, besser?

Genauso sollte die KI reagieren. Selbst wenn auf der Ausweichroute die Person nur zu 25% sterben würde, wäre die richtige Entscheidung geradeaus zu fahren.

Dann werden wir niemals kommerzielles autonomes Fahren haben.

Original von TyCobb

Original von AyCaramba44

Original von TyCobb
Ok:

Wir haben 2 Optionen: Geradeaus fahren, vor uns ist ein Hindernis und der Fahrer stirbt zu 100%, wenn er geradeaus fährt. Es gibt eine Alternativroute, auf der aber ein Mensch steht, der zu 100% stirbt, dafür aber der Fahrer überlebt. Deiner Meinung müsste das Fahrzeug also bremsen, prüfen ob es Ausweichmöglichkeiten gibt. Die gibt es, ist aber blockiert. Als Konsequenz, KI fährt gebremst geradeaus in den Tod, besser?

Genauso sollte die KI reagieren. Selbst wenn auf der Ausweichroute die Person nur zu 25% sterben würde, wäre die richtige Entscheidung geradeaus zu fahren.

Dann werden wir niemals kommerzielles autonomes Fahren haben.

Warum?

Original von AyCaramba44

Original von TyCobb

Original von AyCaramba44

Original von TyCobb
Ok:

Wir haben 2 Optionen: Geradeaus fahren, vor uns ist ein Hindernis und der Fahrer stirbt zu 100%, wenn er geradeaus fährt. Es gibt eine Alternativroute, auf der aber ein Mensch steht, der zu 100% stirbt, dafür aber der Fahrer überlebt. Deiner Meinung müsste das Fahrzeug also bremsen, prüfen ob es Ausweichmöglichkeiten gibt. Die gibt es, ist aber blockiert. Als Konsequenz, KI fährt gebremst geradeaus in den Tod, besser?

Genauso sollte die KI reagieren. Selbst wenn auf der Ausweichroute die Person nur zu 25% sterben würde, wäre die richtige Entscheidung geradeaus zu fahren.

Dann werden wir niemals kommerzielles autonomes Fahren haben.

Warum?

Weil sich kein geistig gesunder Mensch in ein Fahrzeug setzen sollte, dass das Leben anderer bevorzugt. Nochmal mMn muss der Schutz des Fahrers (ganz offensichtlich zumindest für mich) an erster Stelle stehen.

Original von weissnich
ich mache mir aber auch sorgen was passiert wenn sone elektronik mal ausflippt weil irgendwelche sensoren spinnen..

Wichtige Sensoren sollten natürlich doppelt vorkommen und wenn die Sensoren unterschiedliche Ergebnisse liefern oder die Zahlen aus einem bestimmten Bereich springen, dann gehts in den Sicherheitsmodus und das Auto hält an. Ist aber ein sehr interessantes Gebiet in der Informatik und ich durfte "Embedded systems" hören und dort wurden auch zeitkritische und sicherheitsrelevante Systeme programmiert.

Du fährst übrigens ja schon mit solchen Systemen. ESP greift auch komplett ein und funktioniert perfekt. Wenn da die Elektronik ausflippt, dann wird das Auto auch nicht aus der Bahn geworfen, sondern es gibt eine Fehlermeldung und du musst in die Werkstatt.

Original von TyCobb
Weil sich kein geistig gesunder Mensch in ein Fahrzeug setzen sollte, dass das Leben anderer bevorzugt. Nochmal mMn muss der Schutz des Fahrers (ganz offensichtlich zumindest für mich) an erster Stelle stehen.

Und der Fahrradfahrer, der bevorzugt und unschuldig durch das autonome Auto umgefahren werden darf, ohne Strafe, soll also dann mit autonomen Autos einverstanden sein? Warum sollte jemand in einem Auto einem Fahrradfahrer bevorzugt werden?

Warum sollte ich mich nicht in ein Auto setzen, was super sicher ist und wo im Jahr viel weniger Tote vorkommen, als beim jetzigen Autoverkehr?

Original von TyCobb

Original von pg89

Original von TyCobb
@pg89:

Die KI kann augenscheinlich nicht die Intention hinter dem Hindernis erkennen, daher irrelevant.

Spätestens wenn so ein Fall mal auftritt ist es alles andere als irrelevant. Was meinst du wohl was los ist wenn ein unschuldiger stirbt, weil irgendwelche drogenjunkies mal ausprobieren wollten was passiert, wenn sie vor ein autonomes Auto springen? Dann wird die vorher so hoch gelobte Vorgehensweise von wegen "immer die Anzahl der Toten minimieren" aber ganz schnell wieder in Frage gestellt, da bin ich mir sicher.

Selbstverständlich ist es für die Entscheidungsfindung der KI irrelevant.

Es geht hier darum wie man die Systeme moralisch korrekt programmiert bzw. Was moralisch richtig ist. Die Argumentation ist oft, dass man die Anzahl der Toten minimieren sollte. Und ich bin eben der Meinung, dass man das nicht so pauschal sagen kann, weil es beispielsweise in dieser Situation imo nicht so eindeutig ist.

Ach komm. Du würdest also freiwillig mit Deinem Fahrzeug und allen Insassen in den Tod gehen, damit ein "random" Menschenleben gerettet wird? Das kannst Du mir nicht ernsthaft erzählen. Es widerspricht einfach mMn einen natürlichen Überlebensinstinkt, den ich ja an der Fahrertür eines Pkw nicht einfach ablege. Das es immer andere Interessen gibt (den Fahrradfahrer bsw) ist für meine Entscheidung, welchen Maßstab ich selbst bei einem Fahrzeug, in das ich selbst einsteigen würde, anlege, nicht beachtlich.

Hier mal der Bericht der Ethik Kommission zu dem Thema. Kurzer Abschnitt ab Seite 16:

https://www.bmvi.de/SharedDocs/DE/Publikationen/DG/bericht-der-ethik-kommission.pdf?__blob=publicationFile

Original von TyCobb
Ach komm. Du würdest also freiwillig mit Deinem Fahrzeug und allen Insassen in den Tod gehen, damit ein "random" Menschenleben gerettet wird? Das kannst Du mir nicht ernsthaft erzählen. Es widerspricht einfach mMn einen natürlichen Überlebensinstinkt, den ich ja an der Fahrertür eines Pkw nicht einfach ablege. Das es immer andere Interessen gibt (den Fahrradfahrer bsw) ist für meine Entscheidung, welchen Maßstab ich selbst bei einem Fahrzeug, in das ich selbst einsteigen würde, anlege, nicht beachtlich.

Umso besser, dass nicht DU sondern das Auto entscheidet! Ich bin überzeugt, dass du das autonome Auto benutzt, weil es als Alternative keine selbst steuernde Autos mehr geben wird, da sie viel zu gefährlich sind.

Original von pg89

Original von TyCobb

Original von pg89

Original von TyCobb
@pg89:

Die KI kann augenscheinlich nicht die Intention hinter dem Hindernis erkennen, daher irrelevant.

Spätestens wenn so ein Fall mal auftritt ist es alles andere als irrelevant. Was meinst du wohl was los ist wenn ein unschuldiger stirbt, weil irgendwelche drogenjunkies mal ausprobieren wollten was passiert, wenn sie vor ein autonomes Auto springen? Dann wird die vorher so hoch gelobte Vorgehensweise von wegen "immer die Anzahl der Toten minimieren" aber ganz schnell wieder in Frage gestellt, da bin ich mir sicher.

Selbstverständlich ist es für die Entscheidungsfindung der KI irrelevant.

Es geht hier darum wie man die Systeme moralisch korrekt programmiert bzw. Was moralisch richtig ist. Die Argumentation ist oft, dass man die Anzahl der Toten minimieren sollte. Und ich bin eben der Meinung, dass man das nicht so pauschal sagen kann, weil es beispielsweise in dieser Situation imo nicht so eindeutig ist.

In dem Punkt bin ich natürlich dann vollkommen bei Dir, dass im Rahmen einer moralischen Diskussion natürlich auch solche Dinge zu berücksichtigen sind. Die Vorfrage ist ja, ob man überhaupt eine "moralisch korrekte Programmierung" braucht.

Original von AyCaramba44

Original von TyCobb
Ach komm. Du würdest also freiwillig mit Deinem Fahrzeug und allen Insassen in den Tod gehen, damit ein "random" Menschenleben gerettet wird? Das kannst Du mir nicht ernsthaft erzählen. Es widerspricht einfach mMn einen natürlichen Überlebensinstinkt, den ich ja an der Fahrertür eines Pkw nicht einfach ablege. Das es immer andere Interessen gibt (den Fahrradfahrer bsw) ist für meine Entscheidung, welchen Maßstab ich selbst bei einem Fahrzeug, in das ich selbst einsteigen würde, anlege, nicht beachtlich.

Umso besser, dass nicht DU sondern das Auto entscheidet! Ich bin überzeugt, dass du das autonome Auto benutzt, weil es als Alternative keine selbst steuernde Autos mehr geben wird, da sie viel zu gefährlich sind.

Verstehe den leicht persönlichen Unterton zwar nicht, aber a) bis es keine Alternativen mehr gibt, also alle für den Straßenverkehr zugelassenen Fahrzeug autonom fahren müssen, wird noch ne Menge Zeit vergehen; b) ich fahre bereits fast kein Auto sondern überwiegend mit den öffentlichen Verkehrsmitteln und glaub mir bitte, dass ich in dieser alternativen Zukunft mit SICHERHEIT (Stand jetzt) nicht in ein solches Fahrzeug als Fahrer einsteigen werden. Also maße Dir bitte nicht an beurteilen zu können, wie ich mich entscheiden würde. Danke.

Ich wollte damit nur ausdrücken, dass ein Mensch häufig nicht eine gute Lösung wählt, weil er eben nur an sich denkt oder in Sekundenbruchteilen einfach irrational entscheidet. Das war gar nicht so sehr auf dich bezogen, sondern so sehe ich alle Menschen. Das Auto kann in brenzligen Situation völlig klar sein Programm abspulen.

Flugzeuge fliegen ja schon fast autonom, U-Bahnen zum Teil auch schon, Busse, Taxis usw. werden folgen...

Ich bin davon überzeugt das wir mindestens bis 2050 keine autonom fahrenden Fahrzeuge sehen werden ausser auf Versuchsstrecken...

In den USA nehmen doch heute schon tausende selbsfahrende Autos ganz regulär am Straßenverkehr teil.

Ok und was hat Tesla da Programmiert wenn sich leute vors Fahrzeug schmeissen dann muss es ja schon ne definition geben und unsere ganze diskussion wäre hinfällig.

Was Tesla da zeigt ist kein autonomes Fahren, sondern fernab der günstigen Teststrecke eher teilautomatisiertes Fahren, also Stufe 2-3 von 5. Beim autonomen Fahren sind wir noch lange nicht und selbst wenn man optimistisch ist, wird das auch sicher noch 10 Jahre dauern.

Zweites Level: Teilautomatisiertes Fahren

Der Fahrer beherrscht ständig sein Fahrzeug
Der Fahrer muss den Verkehr ständig im Blick behalten
Der Fahrer haftet für Verkehrsverstöße und Schäden
Unter definierten Bedingungen hält das Fahrzeug die Spur, bremst und beschleunigt

Autonomes Fahren Stufe2
Die zweite Stufe: teilautomatisiertes Fahren

Beim teilautomatisierten Fahren kann der Pkw manche Aufgaben zeitweilig selbst ausführen – ganz ohne Eingriff eines Menschen. Zum Beispiel ist ein Level-2-Wagen dazu in der Lage, auf der Autobahn gleichzeitig die Spur zu halten, zu bremsen und zu beschleunigen.

Dafür kombinieren die Autohersteller verschiedene Einzelsysteme miteinander – in diesem Fall den automatischen Abstandsregeltempomat mit dem Notbrems- und dem Spurhalteassistent. Auch der Überholassistent ist eine Level-2-Funktion. Ebenso das automatische Einparken, bei dem der Fahrzeugführer nicht mehr zum Lenkrad greifen muss. Diese Fähigkeiten haben etwa der Autopilot von Tesla sowie Distronic+, der Lenkassistent in der Mercedes S-Klasse.

Im Unterschied zum assistierten Fahren bei Level 1 kann der Fahrer von Level-2-Autos die Hände kurz vom Steuer nehmen, wenn der Wagen im teilautomatisierten Modus unterwegs ist. Allerdings muss er die Assistenzsysteme stets überwachen und Fehlfunktionen korrigieren. Für einen Unfall wäre er verantwortlich – auch wenn sein Wagen keine Fehlfunktion gemeldet hat.

https://www.adac.de/rund-ums-fahrzeug/autonomes-fahren/grundlagen/autonomes-fahren-5-stufen/

Sieht sicher schön aus, aber das ist jetzt nichts besonders bahnbrechendes.

Naja er fährt ja auch der Autobahn hält an Stopschildern und roten Ampeln und nimmt keinem die Vorfahrt beim abbiegen...