KI-Systeme können in nahezu allen Lebensbereichen zum Einsatz kommen und sind schon heute in der Lage, Aufgaben schneller und zuverlässiger zu erledigen als der Mensch. Damit Unternehmen mit dem Einsatz von Künstlicher Intelligenz entscheidende Wettbewerbsvorteile erzielen können, sollten die Systeme vertrauenswürdig sein und verlässlich funktionieren.
Dazu braucht es prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichen und Anwendern sowie Verbrauchern Auskunft über zugesicherte Eigenschaften von KI-Technologien geben. Solche Prüfverfahren wollen das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS nun gemeinsam entwickeln.
Vertrauen der Anwender erlangen
„KI-Methoden werden im Zuge der Digitalisierung zunehmend und im großen Maßstab auch für sicherheitskritische Aufgaben eingesetzt“, sagt Arne Schönbohm, Präsident des BSI. „Auch das BSI befasst sich intensiv mit dem Thema und unterstützt die Bundesregierung dabei, den technologisch und wirtschaftlich erfolgreichen sowie gesellschaftlich akzeptierten Einsatz von KI-Lösungen in Deutschland voranzutreiben.“
Wichtig für die Akzeptanz neuer Technologien sei dabei das Vertrauen der Anwendenden. Es entstehe unter anderem durch transparente Prüfung, Bewertung und Zertifizierung von KI-Systemen. „Grundlage für einheitliche Standards und Normen ist die Erarbeitung von Prüfverfahren, die wir nun mit unserem langjährigen Partner Fraunhofer IAIS angehen. Mit dem Wirtschaftsministerium NRW haben wir gleichzeitig einen verlässlichen Partner, der gute Rahmenbedingungen für Innovation schafft und fördert“, sagt Schönbohm.
Flaggschiff-Projekt startet nächstes Jahr
Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer IAIS, kündigt dabei an, dass erste Prüfungen mit Unternehmen bereits im kommenden Jahr durchgeführt werden sollen. Dazu startet Anfang 2021 ein großes Flaggschiff-Projekt, das vom Land Nordrhein-Westfalen im Rahmen der Kompetenzplattform KI.NRW gefördert wird.
In dem Projekt arbeiten renommierte Partner aus Forschung und Anwendung zusammen, darunter die Universität Bonn, die Universität zu Köln, die RWTH Aachen, das Deutsche Institut für Normung DIN sowie zahlreiche DAX-30- und weitere Unternehmen aus unterschiedlichen Branchen wie Telekommunikation, Banken, Versicherungen, Chemie und Handel.
In branchen- und technologiebezogenen Anwenderkreisen definieren die Beteiligten konkrete Bedarfe, legen Kriterien und Maßstäbe für eine Prüfung in der Praxis fest und führen Pilotprüfungen durch. Mit diesem breiten Beteiligungsprozess soll sichergestellt werden, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln und gleichzeitig durch rechtliche, ethische und philosophische Betrachtungen flankiert werden.
„Mit der Entwicklung marktfähiger Prüfverfahren nähern wir uns dem Ziel mit großen Schritten“, sagt Prof. Dr. Andreas Pinkwart, Minister für Wirtschaft, Innovation, Digitalisierung und Energie des Landes Nordrhein-Westfalen. „Dieses wichtige Projekt mit starken Partnern aus Nordrhein-Westfalen zeigt die große Innovationskraft, die zur Etablierung der Marke ‚KI made in Germany‘ beiträgt.“
Basis bereits 2019 gelegt
Wichtige Grundlagen für die Entwicklung einer KI-Zertifizierung hat das Fraunhofer IAIS bereits 2019 im Rahmen eines interdisziplinären Forschungsprojekts mit Wissenschaftlern aus den Bereichen Informatik, Recht und Philosophie gelegt. Hierzu haben diese die zentralen Handlungsfelder identifiziert und erste Leitplanken für die Entwicklung eines Prüfkatalogs zur Zertifizierung von KI-Systemen formuliert. Die Ergebnisse wurden in dem Whitepaper „Vertrauenswürdiger Einsatz von Künstlicher Intelligenz“ publiziert.
