Moral der Maschinen

Das Missverständnis, das hier herrscht, ist zu glauben, man müsse jede denkbare Situation in ein Auto einprogrammieren. Dann wäre es aber keine KI, sondern ein deterministischer Algorithmus.

Das besondere an einer KI ist, dass man nur wenige Regeln programmiert, z.B. die Verkehrsregeln. Das Auto lernt dann mit der Zeit selbst, wie es sich in gewissen, ihm unbekannten Situationen zu verhalten hat.

Natürlich lernt bei Tesla nicht jedes Auto neu für sich, sondern wenn ein Auto einen Fehler macht, dann lernt daraus die gesamte Flotte und kein Tesla wird diesen Fehler wiederholen. Das ist dem Menschen weit überlegen, wo doch sogar einzelne Menschen nicht aus ihren Fehlern lernen und sie immer wieder machen.

Naja, man muss der ki aber sagen was richtig und was falsch ist. Und da kann man schon auch moralische regeln vorgeben.
Ki wird auch zumindest momentan eher bei der Auswertung der sensordaten eingesetzt und nicht direkt beim Verhalten im Verkehr.

Original von bumblebeebee
Natürlich lernt bei Tesla nicht jedes Auto neu für sich, sondern wenn ein Auto einen Fehler macht, dann lernt daraus die gesamte Flotte und kein Tesla wird diesen Fehler wiederholen. Das ist dem Menschen weit überlegen, wo doch sogar einzelne Menschen nicht aus ihren Fehlern lernen und sie immer wieder machen.

Das wäre super, in der Praxis aber ist das allerdings nicht so einfach umsetzbar. Die KI ist unfähig einen Fehler zu verstehen und zu bewerten, die Ursachen zu definieren und auf Basis dessen anders zu handeln. Maschinelles Lernen funktioniert momentan auch für relativ simple Probleme nur mit vergleichsweise riesigen Datenmengen, indem statistische Korrelationen der Daten zum Ergebnis genommen und bewertet werden und das Verhalten auf Basis dessen angepasst wird. Dann halt rinse and repeat.

Das klappt bei Schach, Go, Starcraft und vielen anderen Sachen super, weil du drölfzig Simulationen durchlaufen lassen kannst, Daten generierst, die einfach zu bewerten sind, und viele Evolutionen durchlaufen kannst. Beim Autofahren hingegen wird das sehr viel schwieriger, weil es eine vergleichsweise hochkomplexe Situation ist und auch nicht trivial zu simulieren oder bewerten ist.

Es ist nicht so, dass ein Tesla gegen irgendeinen Poller fährt und kein Fahrzeug danach mehr gegen einen Poller fahren wird.

Original von Fantomas741
Ok und was hat Tesla da Programmiert wenn sich leute vors Fahrzeug schmeissen dann muss es ja schon ne definition geben und unsere ganze diskussion wäre hinfällig.

Die Teslas fahren auf bestimmten Strecken quasi autonom. Allerdings mit der Einschränkung, auch rechtlich, dass es möglicherweise Situationen gibt wo der Fahrer eingreifen muss.

Wenn sich eine Person vor einem Tesla wirft, dann wird gebremst und NICHT ausgewichen. Als Fahrer kannst du aber zusätzlich lenken, wenn du es für richtig erachtest.

Original von bumblebeebee

In den USA nehmen doch heute schon tausende selbsfahrende Autos ganz regulär am Straßenverkehr teil.

Interessantes Video inklusive der beiden bekannten Fahrtechniken "jetzt überholen wir mal rechts" und "schleichen auf der Mittelspur" (wobei da aber vielleicht einfach das Tempolimit strikt umgesetzt wurde). Ist in den USA aber wohl Standard und es gibt keine dem entgegenstehenden Verkehrsregeln. Das Stoppen an Stoppschildern und Abstand halten waren aber geradezu vorbildlich. Auch Spurwechsel wurden durchgehend angezeigt. Das würden menschliche Fahrer vielleicht etwas laxer handhaben, speziell in den USA.

Die Regeln gibt es in den USA nicht, wie du selbst geschrieben hast. Also alles gut. Für den europäischen Markt müsste man das Verhalten natürlich entsprechend anpassen.
Einer ki würde man jetzt übrigens im übertragenen Sinne einen Strafzettel gebenund das neuronale Netz müsste rausfinden, was es falsch gemacht hat. Sowas wird in der Praxis aber obv nicht gemacht.

Industrie 6.0 beschäftigt sich damit Ki dezentral zu vernetzen und dort natürlich auch Zugriff auf BigData-Analysen zu haben. So wird ein Computer mit einer sehr viel höheren Wahrscheinlichkeit besser entscheiden als ein Mensch. Alles andere sind dann Einzelfälle, wo die Ki einfach dazu lernt. Irgendwann wird es ne App geben die Passanten bei Gefahr warnt, weil ein Auto zu schnell auf sie zu kommt oder noch anders ... das Auto wird gestoppt, weil sich ein Fussgänger auf Kollisionskurs befindet.

Wenn jeder Mensch ein Chip trägt und per 5G ans Netz angeschlossen wäre mit aktuellen Positionsdaten, dürfte kein autonomes Auto je wieder einen Menschen verletzen. Gleichzeitig könnte bei einem gesundheitlichen Problem oder Überfall auch automatisch die richtigen Leute informiert werden. Wenn also ein Kind versteckt einem Ball hinterherläuft, dann muss das Auto das Kind gar nicht mehr sehen und würde trotzdem anhalten.

wenn wir uns alle ans bett fesseln und nicht mehr die wohnung verlassen würden, dann wird auch kein autonomes auto je wieder einen menschen verletzen.

Original von cHaiNSawMasSacRe
wenn wir uns alle ans bett fesseln und nicht mehr die wohnung verlassen würden, dann wird auch kein autonomes auto je wieder einen menschen verletzen.

In einigen Gebieten nehmen komplett fahrerlose Taxis am gewöhnlichen Straßenverkehr teil.
Es gibt wirklich keine Grund zu glauben, dass es noch jahrzehnte dauern würde, bis das flächendeckend verfügbar sein soll.

https://techcrunch.com/2019/11/01/hailing-a-driverless-ride-in-a-waymo/

Hm doch trotz dieser ganzen vermeintlich erfolgreichen "Tests" wirds noch bis 2050 dauern, warum geht autonomes Fahren dann z.B. im Schienenverkehr so langsam vorran wos eigentlich nen Kinderspiel wäre den Fahrer zu ersetzen im vergleich zum PKW Verkehr.

Die deutsche Bahn hat schon Probleme das bisherige Schienen-Netz zu digitalisieren, aber das wäre Voraussetzung für autonome Züge und dann müsste man natürlich auch ganz Deutschland umstellen. Macht einfach wenig Sinn kurze Strecken autonom fahren zu können um dann für den nächsten Streckenabschnitt wieder einen Zugführer zu brauchen. Durch diese Problematik wird die Umstellung eine teure Mammutaufgabe.

In kleineren Abschnitten/Städten sieht man aber den deutlichen Trend zu autonomen Bahnen. In immer mehr Städten werden autonome U-Bahnen eingeführt:
https://www.allianz-pro-schiene.de/presse/pressemitteilungen/uebersicht-selbstfahrende-metros-europa/
In China und Japan geht es auch ordentlich voran!

Das Auto ist eine noch kleinere Einheit und da kann man sogar ein einziges Auto autonom losschicken. Aus dem Grund sehe ich auch bis 2030 autonome Autos auf den Straßen. 5G wird das letzte Puzzleteil sein.

Bahn hat auch einfach deutlich längere Entwicklungszyklen. Viele Züge sind noch aus 19xx, die meisten Autos gerade mal ein paar Jahre alt. Abgesehen davon dass Züge nochmal andere Sicherheitsstandards haben, einfach weil bei einem verunglückten Zug mehrere 100 Leute betroffen sind, in einem Auto meistens < 10.

Original von pg89
Bahn hat auch einfach deutlich längere Entwicklungszyklen. Viele Züge sind noch aus 19xx, die meisten Autos gerade mal ein paar Jahre alt. Abgesehen davon dass Züge nochmal andere Sicherheitsstandards haben, einfach weil bei einem verunglückten Zug mehrere 100 Leute betroffen sind, in einem Auto meistens < 10.

Naja wenn 100 Autounfälle Bundesweit wär jetzt auch kein alzu seltenes Ereignis...