AI-based Connected and Cooperative Automated Mobility: Trustworthy, Explainable, and Accountable

Die Forschung im Bereich der vernetzten und kooperativen automatisierten Mobilität (CCAM) blüht dank der künstlichen Intelligenz, die mit dem Aufkommen hochentwickelter Deep-Learning-Methoden und der Entwicklung von Technologien für das autonome Fahren (Kommunikation, Mikroelektronik, Sensoren und Infrastrukturen) einen herausragenden Durchbruch erzielt hat. CCAM-Lösungen haben von der Anwendbarkeit von KI-basierten Wahrnehmungs-, Situationserkennungs- und Entscheidungskomponenten profitiert, deren Reaktion in Verkehrsszenarien unter realen Bedingungen jedoch weitestgehend unvorhersehbar ist, so dass sie von Nutzern und Interessenvertretern oft als Blackboxen betrachtet werden, da es ihnen an Transparenz und Interpretierbarkeit mangelt.

Der zunehmende Einsatz von KI-Komponenten in Fahrzeugen und im Verkehr führt uns auf einen Weg, bei dem der Computer Entscheidungen trifft und wir Menschen der KI blind vertrauen und mit diesen Entscheidungen leben müssen. Erklärbare KI wird immer mehr zu einem Bereich von großem Interesse für verschiedene Nutzergruppen, beispielsweise Bürger, die den von ihnen genutzten Systemen vertrauen wollen, juristische Personen, die für die Haftung und Rechenschaftspflicht verantwortlich sind, und Forscher, die die Grenzen der KI verstehen und die Modelle verbessern wollen. Das Ziel von AITHENA ist die Erforschung und Entwicklung von Methoden zum Schaffen von Transparenz und Interpretierbarkeit von KI-Modellen für den Einsatz in CCAM-Lösungen.