Klar sind Schwachstellen denkbar. Immer dann, wenn dem neuronalen Netz eine Situation unterkommt, die total anders als alles Trainierte ist. Die Netze können zwar generalisieren, aber da kommt auch nur was sinnvolles raus, wenn eine ähnliche Situation schon mal trainiert wurde. Ansonsten, tja. Das Netz wird zwar schalten, aber ob das dann im Sinne der Insassen ist
Oder es kommen Situationen, die bei der Sensorik nicht bedacht wurden. Überschwemmung einer Brücke oder Steinschlag von oben(Berghang) etc.
@Seedy:
Das Entscheidungsverhalten wird - wenn es sich um eine Steuerung mittels neuronaler Netze handelt, wovon stark auszugehen ist - nicht fest einprogrammiert. Das Netz wird trainiert.
Mit einem sogenannten Teacher kannst du dir das so vorstellen:
Das Netz wird mit verschiedenen Situationen konfrontiert und entscheidet dann. Danach wird dem Netz per Feedback mitgeteilt, wie gut die Entscheidung war. Daraufhin passt sich das Netz entsprechend an, sodass es in einer ähnlichen Situation auch wieder ähnlich reagieren wird.
Ist diese Trainingsphase abgeschlossen, verändert sich das Netz nicht mehr, sondern reagiert nur noch.
Man kann das Netz natürlich auch weiter lernen lassen, aber übertreibt man es mit dem Training, verliert es seine Generalisierungsfähigkeit. Es wird sozusagen zum "Fachidiot".
Das mal stark vereinfacht dargestellt.
Man kann dem Netz natürlich auch beibringen, Menschen zu erkennen. Von sich aus wird es natürlich ein Kind nicht bevorzugt behandeln, da ihm das nötige Hintergrundwissen fehlt. Menschen trainieren ja ihr neuronales Netz mind. 16 Jahre lang, bevor sie motorisierte Gefährte bewegen dürfen
Fraglich ist dann nur, ob man da alle Einzelheiten im Voraus bedenken kann. Aber kann man im Voraus mit Sicherheit sagen, wie ein Mensch in dieser und jener Situation reagiert?
--- [2014-04-29 14:29 CEST] Automatisch zusammengeführter Beitrag ---
Da das Auto keine "Wahl zwischen Pest und Cholera" treffen kann, also "Überfahr ich lieber das Kind oder rausche ich beim Ausweichen in die Rentnergruppe?"
Na ob ein Mensch da in einer Notsituation in der Geschwindigkeit so eine reflektierte Entscheidung trifft, das steht auch auf einem andern Blatt.