Künstliche Intelligenz hebt im Safety-Umfeld die Beschränkungen deterministischer Software auf. Das bedeutet, dass die Software auf ein und dasselbe Ereignis nicht mehr eindeutig in der gewünschten Art und Weise reagiert. Das liegt einerseits an dem höheren Freiheitsgrad, den eine Künstliche Intelligenz von Haus aus mit sich bringt. Andererseits sorgt das beständige Nachtrainieren der KI dafür, dass sich einmal erlernte Reaktionen auf Ereignisse sowie Verhaltensweisen verändern können. Traditionelle Standards und Prozesse zur Verifizierung und Validierung von funktionaler Sicherheit sind deshalb nicht mehr uneingeschränkt anwendbar.
Sicherheit und KI: Automobilindustrie sehr besorgt
Bester Beleg dafür sind die Bedenken zu KI hinsichtlich ihrer Auswirkungen auf Safety und Security von 650 Verantwortlichen aus der Automobilindustrie weltweit, die im Rahmen der Perforce-Software-Studie „2025 State of Automotive Software Development” befragt wurden. So sind für 78 Prozent der Studienteilnehmer die funktional sichere Entscheidungsfindung von KI-Algorithmen in autonomen und halbautonomen Fahrzeugen extrem (49 Prozent) oder sehr (27 Prozent) besorgniserregend, während das Vermeiden von Sicherheitslücken und Cyberangriffen als Folge der Einführung von fortgeschrittenen KI-Technologien bei 63 Prozent extreme (26 Prozent) oder sehr große (37 Prozent) Besorgnis auslösen. Und 71 Prozent der Befragten bejahten die Frage, ob der geplante neue Standard ISO/DPAS 8800 mit dem Titel „Road Vehicles – Safety and Artificial Intelligence“ für sie relevant sein werde.
Diese und weitere Ergebnisse der jährlichen weltweiten Umfrage präsentieren Jill Britton, Director of Compliance, Static Analysis Tool, und ihr Kollege Steve Howard, Director of Product & Field Engineering, Static Analysis Tool, von Perforce Software in ihrem Vortrag am 12. März um 11 Uhr im Ausstellerforum in Halle 3.
Präzise Vorgaben zu KI und funktionaler Sicherheit fehlen noch
Umso mehr müssen die Funktionalitäten selbst in den Mittelpunkt der Betrachtung rücken wie auch die Art und Weise, wie die KI-Modelle in diesem Zusammenhang verwendet werden. Werden sie in der Entwicklung von Softwareanwendungen genutzt, aber nicht in der finalen Version? Kommen diese Anwendungen im Feld zum Einsatz? Ob die traditionellen Safety-Standards und -Vorschriften im Einzelfall weiter ausreichen, hängt von den Funktionalitäten und der Art ihrer Verwendung ab. In immer mehr Fällen dürfte die Antwort allerdings negativ ausfallen. Daher sind neue Ansätze erforderlich, um die Standards bei der funktionalen Sicherheit einzuhalten.
Zwar schreiben die ersten KI-Regulierungen wie der EU AI Act vor, dass KI-Anwendungen den Anforderungen hinsichtlich funktionaler und IT-Sicherheit genügen und robust sein müssen. Doch was fehlt, sind präzise Vorgaben, wie sich diese Ziele erreichen lassen. Diese Vorgaben zu finden und auszuformulieren, ist die große Herausforderung sowohl der Hersteller als auch der Anwender und der Regulierungsbehörden. Diesen Fragen geht Jill Britton in ihrem Vortrag mit Titel „Can AI Applications be Functionally Safe?“ nach, den sie auf der Embedded World 2025 am 13. März von 12:15 Uhr bis 12:45 Uhr im NCC Ost Convention Center halten wird.
Mehr Safety and Security mit KI
Perforce Software arbeitet zurzeit an KI-gestützten Funktionalitäten, die dazu dienen sollen, Safety und Security in der Embedded-Entwicklung zu erhöhen. Zu den für 2025 geplanten KI-Funktionalitäten gehören:
„AI Checker“ – die Fähigkeit, mithilfe von KI automatisch neue Analyseprüfungen auf der Grundlage von Anforderungen in natürlicher Sprache zu erstellen. Eine Organisation oder ein Projektteam möchte die Regel aufstellen und durchsetzen, dass es keine direkte Kommunikation zwischen den Komponenten innerhalb des Systems geben darf. Mithilfe des AI Checker lässt sich eine entsprechende Prüfroutine mittels natürlicher Spracheingabe formulieren und den bereits vorhandenen Analyseprüfungen hinzufügen. Sie wird bei der nächsten Safety-Prüfung automatisch angewendet.
„AI-assisted Issue Search“ – KI-optimierte Suche und Filterung der Liste mit den erkannten Problemen, um Kunden dabei zu helfen, die Suchergebnisse nach Relevanz und möglichem Zusammenhang mit einem ganz bestimmten Problem oder einer speziellen Komponente zu priorisieren. Dadurch kann ein Team auf einfache Art und Weise zum Beispiel nach „allen potenziellen Pufferüberläufen in der Bluetooth-Stack-Komponente“ suchen und die relevanten Ergebnisse übersichtlich anzeigen lassen. Das hilft den Entwicklungsteams, die berühmte Nadel im Heuhaufen auf den ersten Blick zu finden, anstatt wie bisher viele Stunden ohne Erfolgsgarantie darauf zu verwenden.
Weitere Perforce-Expertenvorträge auf der Embedded World 2025
Neben den beiden bereits genannten Beiträgen beteiligt sich Perforce Software mit zwei weiteren Expertenvorträgen am Konferenzprogramm der Embedded World 2025:
„Iron Corbide: Applying MISRA Rules to C and Rust in Practice“: Rust verbreitet sich rasant in der Entwicklung von Embedded-Systemen, insbesondere von Safety-kritischen Embedded-Systemen. Alex Celeste, Principal Software Engineer bei Perforce Software, geht in ihrem Vortrag am 11. März von 17 Uhr bis 17.30 Uhr im NCC Ost Convention Center den Erfahrungen und Herausforderungen nach, die Entwicklungsteams beim Schreiben von Rust-Code begegnen, um bestehende Bibliotheken in C zu ergänzen oder zu ersetzen. Außerdem stellt sie Regeln für die Entwicklung mit Rust auf Basis der Erfahrungen mit dem Standard MISRA C vor. Mit Hilfe dieser Regeln können Entwicklerinnen und Entwickler Modellen für Functional Safety folgen, die denen für C ähneln und sich dort bewährt haben.
„Typedefs and Records and Generics, oh my: New Type Safety Features in C2Y”: C23 ist da und schon haben die Arbeiten an der nächsten Version begonnen. Entsprechend dem erklärten Ziel, dass die kommende C-Version die sicherste („safe“ & „secure“) aller Zeiten sein wird, gibt Alex Celeste einen Überblick über die vorgeschlagenen und bereits angenommenen Features in der nächsten Version, die dazu beitragen sollen, dieses Ziel zu erreichen. Ihr zweiter Vortrag auf der Embedded World 2025 findet am 13. März von 10.30 Uhr bis 11 Uhr im NCC Ost Convention Center statt.
Präsentierte Perforce-Lösungen
Darüber hinaus zeigt Perforce die neuesten Versionen seiner Lösungen für statische Analyse, Rückverfolgbarkeit und Versionskontrolle. Sie helfen Unternehmen dabei, Design und Entwicklung selbst der komplexesten eingebetteten Systeme und Produkte zu beschleunigen, ohne dabei Kompromisse bei der Qualität oder Sicherheit einzugehen.
Als etablierter Anbieter von Softwarelösungen für Embedded-Ingenieure befasst sich Perforce mit den unterschiedlichsten Themen wie Anforderungsmanagement, Code-Qualität und -Compliance, Identifizierung von Sicherheitslücken, projekt- und plattformübergreifendem Management von geistigem Eigentum und Infrastrukturskalierung zur Unterstützung global verteilter Teams. Zu den am Messestand vorgestellten Produkten gehören Helix QAC und Klocwork (statische Analyse), Helix Core (Datenmanagement und Versionskontrolle), Helix IPLM (Lebenszyklusmanagement von geistigem Eigentum), Helix ALM (Lebenszyklusmanagement von Applikationen) und Helix Plan (Projektmanagement).
Perforce Software auf der Embedded World 2025
Alle Neuheiten von Perforce Software zum Thema KI und Sicherheit – „Safety“ & „Security“ – in der Embedded-Entwicklung präsentieren die Experten des Unternehmens interessierten Fachbesuchern am Unternehmensstand mit der Nr. 4-510 in Halle 4.
