Zur Entwicklung des TÜV für Künstliche Intelligenz, erforschen die Experten das Lernverhalten der KI-Systeme, um deren Reaktionen kontrollieren zu können. Kernstück ist die Entwicklung einer offenen Plattform für OEM, Zulieferer und Technologieunternehmen. Die digitale Plattform namens Genesis soll Module Künstlicher Intelligenz validieren und damit die Grundlagen für Zertifizierungen schaffen.
Autonome Entscheidungen im Sinne der Verkehrssicherheit
KI-Systeme finden immer mehr Eingang in die Elektronik autonomer Fahrzeuge, um die enorme Zahl möglicher Verkehrssituationen – TÜV Süd-Fachleute schätzen 100 Millionen Situationen pro vollautomatisierter Fahrfunktion – sicher meistern zu können. Solche Systeme reagieren nicht deterministisch und damit nicht exakt vorhersehbar. Sie lernen vielmehr aus dem Verkehrsgeschehen – Stichwort: Deep Learning – und ziehen eigene Rückschlüsse für die richtige Reaktion – treffen also autonome Entscheidungen. Damit die stets im Sinne der Verkehrssicherheit ausfallen, wird TÜV Süd die zugrunde liegenden Algorithmen validieren und zertifizieren. Dr. Abdellatif: „Bisher weiß man nur sehr wenig darüber, wie KI-Systeme genau lernen. Wir leisten hier Pionierarbeit.“ Anwender der neuen Genesis-Plattform sollen zukünftig ihre Daten und Module hochladen können und nach einer Prüfung ein entsprechendes TÜV Süd-Zertifikat für die funktionale Sicherheit erhalten.
Autonome Fahrzeuge müssen zur Führerscheinprüfung
Wie schwierig es ist, Methoden für die Sicherheit von Systemen mit Künstlicher Intelligenz zu entwickeln, liegt auf der Hand. Denn die KI-Systeme ziehen ihre eigenen Schlüsse aus den vorhandenen Daten und lernen beim Trainieren von Verkehrssituationen jedes Mal neu dazu – vergleichbar einem Fahrschüler. Die Sicherheit, dass das Fahrzeug richtig reagiert, wird dadurch kontinuierlich höher. Das Erlernte kann dann in einer Prüfung, ähnlich wie bei der theoretischen Führerscheinprüfung, abgefragt werden. Dr. Abdellatif: „Bisherige Ergebnisse, die mit der Deep-Learning-Methode erreicht wurden, zeigen verblüffend gute Ergebnisse in der Praxis – allerdings weiß bisher niemand genau, was dort eigentlich geschieht. Das werden wir nun gemeinsam erforschen.“
Um autonomen Fahrzeugen dann aber auch für die Straße grünes Licht geben zu können, braucht es zudem eine praktische Prüfung. Dazu müssen die Experten erforschen, wie die KI-Systeme lernen. „Wenn wir genau verstehen, welche Rückschlüsse die Systeme ziehen, können wir eingreifen und das Lernen gezielt steuern. Wir müssen nicht nur wissen, ob ein Fahrzeug bremst, sondern auch warum“, erläutert Dr. Abdellatif. Beispiel: Überholvorgang auf der Autobahn. Das autonome Fahrzeug überholt auf der linken Spur einen Lkw. Von hinten nähert sich mit großer Geschwindigkeit ein anderes Fahrzeug. Wird das automatisierte Auto abbremsen, um gleich nach dem Überholvorgang auf die rechte Spur zu wechseln, oder wird es die Geschwindigkeit anpassen und ebenfalls beschleunigen? „Solche Fragestellungen zu erarbeiten und die Antworten darauf zu formulieren – das wird unsere Arbeit in den kommenden Jahren sein“, sagt der Experte. Daten, die aus virtuellen Verkehrssituationen gewonnen werden, überwachen und korrigieren dabei die Lernphase des Algorithmus. Das Ziel: ein Zertifikat, beziehungsweise Führerschein, dafür, dass ein Algorithmus ausreichend sicher ist.
