Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) und TÜV SÜD starten eine Kooperation, um Systeme mit Künstlicher Intelligenz (KI), die beim autonomen Fahren im Einsatz sind, zu zertifizieren und um einen „TÜV für Algorithmen“ zu entwickeln. Dazu erforschen die Experten das Lernverhalten der KI-Systeme, um deren Reaktionen kontrollieren zu können. Kernstück ist die Entwicklung einer offenen Plattform für OEM, Zulieferer und Technologieunternehmen. Die digitale Plattform mit dem Namen „Genesis“ soll Module Künstlicher Intelligenz validieren und damit die Grundlagen für Zertifizierungen schaffen.
TÜV SÜD unterstreicht damit seinen Führungsanspruch als neutrale Prüforganisation bei der Entwicklung autonomen Fahrens.
„TÜV SÜD kümmert sich seit mehr als 150 Jahren um die Sicherheit und Akzeptanz technischer Innovationen – so auch beim autonomen Fahren. Wir freuen uns, das Fahren von morgen gemeinsam mit dem DFKI sicher zu machen und die Herausforderungen bei der Künstlichen Intelligenz anzunehmen“, sagt Dr. Houssem Abdellatif, Global Head Autonomous Driving bei TÜV SÜD. KI-Systeme finden immer mehr Eingang in die Elektronik autonomer Fahrzeuge, um die enorme Zahl möglicher Verkehrssituationen – TÜV SÜD-Fachleute schätzen 100 Millionen Situationen pro vollautomatisierter Fahrfunktion – sicher meistern zu können. Solche Systeme reagieren nicht deterministisch und damit nicht exakt vorhersehbar. Sie lernen vielmehr aus dem Verkehrsgeschehen (Stichwort: Deep Learning) und ziehen eigene Rückschlüsse für die richtige Reaktion – treffen also autonome Entscheidungen. Damit die stets im Sinne der Verkehrssicherheit ausfallen, wird TÜV SÜD die zugrunde liegenden Algorithmen validieren und zertifizieren. Dr. Abdellatif: „Bisher weiß man nur sehr wenig darüber, wie KI-Systeme genau lernen. Wir leisten hier Pionierarbeit.“ Anwender der neuen Genesis-Plattform sollen zukünftig ihre Daten und Module hochladen können und nach einer Prüfung ein entsprechendes TÜV SÜD-Zertifikat für die funktionale Sicherheit erhalten.
Dr. Christian Müller, Head of Team Autonomous Driving ASR & Competence Center Autonomous Driving CCAD, DFKI: „Das Interesse seitens der Industrie ist groß. Viele Unternehmen stehen bereits in den Startlöchern, um sich an Genesis zu beteiligen. Wir freuen uns, mit TÜV SÜD einen renommierten Partner im Boot zu haben, der international für die Fahrzeug- und Verkehrssicherheit steht.“
Autonome Fahrzeuge müssen zur Führerscheinprüfung
Wie schwierig es ist, Methoden für die Sicherheit von Systemen mit Künstlicher Intelligenz zu entwickeln, liegt auf der Hand. Denn die KI-Systeme ziehen ihre eigenen Schlüsse aus den vorhandenen Daten und lernen beim Trainieren von Verkehrssituationen jedes Mal neu dazu – vergleichbar einem Fahrschüler. Die Sicherheit, dass das Fahrzeug richtig reagiert, wird dadurch kontinuierlich höher. Das Erlernte kann dann in einer Prüfung, ähnlich wie bei der theoretischen Führerscheinprüfung, abgefragt werden. Dr. Abdellatif: „Bisherige Ergebnisse, die mit der Deep-Learning-Methode erreicht wurden, zeigen verblüffend gute Ergebnisse in der Praxis – allerdings weiß bisher niemand genau, was dort eigentlich geschieht. Das werden wir nun gemeinsam erforschen.“
Um autonomen Fahrzeugen dann aber auch für die Straße grünes Licht geben zu können, braucht es zudem eine praktische Prüfung. Dazu müssen die Experten erforschen, wie die KI-Systeme lernen. „Wenn wir genau verstehen, welche Rückschlüsse die Systeme ziehen, können wir eingreifen und das Lernen gezielt steuern. Wir müssen nicht nur wissen, ob ein Fahrzeug bremst, sondern auch warum“, erläutert Dr. Abdellatif. Beispiel: Überholvorgang auf der Autobahn. Das autonome Fahrzeug überholt auf der linken Spur einen Lkw. Von hinten nähert sich mit großer Geschwindigkeit ein anderes Fahrzeug. Wird das automatisierte Auto abbremsen, um gleich nach dem Überholvorgang auf die rechte Spur zu wechseln, oder wird es die Geschwindigkeit anpassen und ebenfalls beschleunigen? „Solche Fragestellungen zu erarbeiten und die Antworten darauf zu formulieren – das wird unsere Arbeit in den kommenden Jahren sein“, sagt der Experte. Daten, die aus virtuellen Verkehrssituationen gewonnen werden, überwachen und korrigieren dabei die Lernphase des Algorithmus. Das Ziel: ein Zertifikat (Führerschein) dafür, dass ein Algorithmus ausreichend sicher ist.
TÜV SÜD unterstreicht damit seinen Führungsanspruch als neutrale Prüforganisation bei der Entwicklung autonomen Fahrens.
„TÜV SÜD kümmert sich seit mehr als 150 Jahren um die Sicherheit und Akzeptanz technischer Innovationen – so auch beim autonomen Fahren. Wir freuen uns, das Fahren von morgen gemeinsam mit dem DFKI sicher zu machen und die Herausforderungen bei der Künstlichen Intelligenz anzunehmen“, sagt Dr. Houssem Abdellatif, Global Head Autonomous Driving bei TÜV SÜD. KI-Systeme finden immer mehr Eingang in die Elektronik autonomer Fahrzeuge, um die enorme Zahl möglicher Verkehrssituationen – TÜV SÜD-Fachleute schätzen 100 Millionen Situationen pro vollautomatisierter Fahrfunktion – sicher meistern zu können. Solche Systeme reagieren nicht deterministisch und damit nicht exakt vorhersehbar. Sie lernen vielmehr aus dem Verkehrsgeschehen (Stichwort: Deep Learning) und ziehen eigene Rückschlüsse für die richtige Reaktion – treffen also autonome Entscheidungen. Damit die stets im Sinne der Verkehrssicherheit ausfallen, wird TÜV SÜD die zugrunde liegenden Algorithmen validieren und zertifizieren. Dr. Abdellatif: „Bisher weiß man nur sehr wenig darüber, wie KI-Systeme genau lernen. Wir leisten hier Pionierarbeit.“ Anwender der neuen Genesis-Plattform sollen zukünftig ihre Daten und Module hochladen können und nach einer Prüfung ein entsprechendes TÜV SÜD-Zertifikat für die funktionale Sicherheit erhalten.
Dr. Christian Müller, Head of Team Autonomous Driving ASR & Competence Center Autonomous Driving CCAD, DFKI: „Das Interesse seitens der Industrie ist groß. Viele Unternehmen stehen bereits in den Startlöchern, um sich an Genesis zu beteiligen. Wir freuen uns, mit TÜV SÜD einen renommierten Partner im Boot zu haben, der international für die Fahrzeug- und Verkehrssicherheit steht.“
Autonome Fahrzeuge müssen zur Führerscheinprüfung
Wie schwierig es ist, Methoden für die Sicherheit von Systemen mit Künstlicher Intelligenz zu entwickeln, liegt auf der Hand. Denn die KI-Systeme ziehen ihre eigenen Schlüsse aus den vorhandenen Daten und lernen beim Trainieren von Verkehrssituationen jedes Mal neu dazu – vergleichbar einem Fahrschüler. Die Sicherheit, dass das Fahrzeug richtig reagiert, wird dadurch kontinuierlich höher. Das Erlernte kann dann in einer Prüfung, ähnlich wie bei der theoretischen Führerscheinprüfung, abgefragt werden. Dr. Abdellatif: „Bisherige Ergebnisse, die mit der Deep-Learning-Methode erreicht wurden, zeigen verblüffend gute Ergebnisse in der Praxis – allerdings weiß bisher niemand genau, was dort eigentlich geschieht. Das werden wir nun gemeinsam erforschen.“
Um autonomen Fahrzeugen dann aber auch für die Straße grünes Licht geben zu können, braucht es zudem eine praktische Prüfung. Dazu müssen die Experten erforschen, wie die KI-Systeme lernen. „Wenn wir genau verstehen, welche Rückschlüsse die Systeme ziehen, können wir eingreifen und das Lernen gezielt steuern. Wir müssen nicht nur wissen, ob ein Fahrzeug bremst, sondern auch warum“, erläutert Dr. Abdellatif. Beispiel: Überholvorgang auf der Autobahn. Das autonome Fahrzeug überholt auf der linken Spur einen Lkw. Von hinten nähert sich mit großer Geschwindigkeit ein anderes Fahrzeug. Wird das automatisierte Auto abbremsen, um gleich nach dem Überholvorgang auf die rechte Spur zu wechseln, oder wird es die Geschwindigkeit anpassen und ebenfalls beschleunigen? „Solche Fragestellungen zu erarbeiten und die Antworten darauf zu formulieren – das wird unsere Arbeit in den kommenden Jahren sein“, sagt der Experte. Daten, die aus virtuellen Verkehrssituationen gewonnen werden, überwachen und korrigieren dabei die Lernphase des Algorithmus. Das Ziel: ein Zertifikat (Führerschein) dafür, dass ein Algorithmus ausreichend sicher ist.
