Der Einsatz von Künstlicher Intelligenz und anderen digitalen Technologien sollte mit Menschenrechten, Demokratie und Verbraucherschutz vereinbar sein – darüber sind sich die europäischen Gesellschaften weitgehend einig. Die Europäische Union hat in den vergangenen Jahren umfangreiche Gesetze erlassen, die dem Einsatz von KI einen Rahmen geben, darunter den AI Act, den Data Act und den Digital Markets Act. Wie wirken diese Regulierungen in der Praxis? Wie wenden die Nutzerinnen und Nutzer die Funktionen an, die zu ihrem Schutz gedacht sind? Und wie gefährdet der Einsatz von KI in Staaten, die nicht dieselben Werte teilen, die Ziele der europäischen Politik?
Diese Fragen wird ein internationales, interdisziplinäres Forschungsteam im Projekt AI4POL untersuchen. Die Forschenden wollen der Politik nicht nur neue Erkenntnisse, sondern auch KI-Tools und datenwissenschaftliche Methoden zur Verfügung stellen, mit denen Politik und Behörden die Wirkungen ihrer Gesetze und Maßnahmen besser beobachten, auswerten und somit verbessern können.
Wettbewebsfähig – ohne Werteverlust
„Europa hat das Ziel, innovativ und wettbewerbsfähig zu sein, ohne seine Werte aufs Spiel zu setzen. Das kann nur mit einem wirksamen Regulierungsrahmen und gut informierten Entscheiderinnen und Entscheidern in Politik und öffentlicher Verwaltung gelingen“, sagt Projektleiter Prof. Jens Prüfer, Direktor des Tilburg Law and Economics Center an der Universität Tilburg. „Für solch ein Monitoring können wiederum Künstliche Intelligenz und Datenwissenschaft sehr hilfreich sein. Wir wollen die Politik unterstützen, die nicht tausende hochqualifizierte KI-Expertinnen und -Experten in ihren Reihen hat – anders als die großen Tech-Unternehmen.“
Bei AI4POL werden Forschende aus Technologieentwicklung, Ethik, Rechtswissenschaft, Ökonomie und Politikwissenschaft zusammenarbeiten. Beteiligt sind die Universität Tilburg, die Technische Universität München (TUM), die University of East Anglia (UEA), Visionary Analytics, Centerdata, die Università degli Studi di Roma Unitelma Sapienza und der TUM Think Tank. Das Forschungsteam wird von einem Advisory Board mit Vertreterinnen und Vertretern aus Regulierungsbehörden, Verbraucherschutzorganisationen, zivilgesellschaftlichen Organisationen und Unternehmen beraten. Die Europäische Union fördert das Projekt mit drei Millionen Euro.
Wie werden die Maßnahmen wahrgenommen?
Schwerpunkte wird das Forschungsteam zum einen auf den Verbraucherschutz und zum anderen auf die Finanzbranche legen. „Wir wissen zum Beispiel wenig darüber, wie viel die Menschen von den Hinweisen bei Onlineverträgen verstehen – und ob sie nicht einfach auf ,okay‘ klicken, weil die Texte viel zu lang und in juristischer Fachsprache verfasst sind“, sagt Gjergji Kasneci, Professor für Responsible Data Science an der TUM. „Wir wollen deshalb herausfinden, wie diese Verbraucherschutzmaßnahmen wahrgenommen werden, wie Unternehmen und Politik Feedback bekommen können und wie die Wirkung verbessert werden kann. Dabei können wiederum KI-Tools helfen, indem sie die komplizierten Texte vereinfacht zusammenfassen.“
Prof. Sean Ennis, Direktor des Centre for Competition Policy an der UEA, ergänzt: „KI verändert die Art und Weise, wie Informationen erzeugt und verarbeitet werden. Im Finanzwesen ist sie zu einem integralen Bestandteil der Entscheidungsfindung geworden, zum Beispiel bei der Kreditwürdigkeitsprüfung, bei automatisierter Geldanlage oder beim Handel per Algorithmus. Auch bei der Einhaltung von Vorschriften, der Betrugserkennung und der Sicherheit spielt KI eine wichtige Rolle. Wir werden sowohl die Chancen als auch die Risiken von KI in solchen Anwendungen untersuchen."
Wertlos werden könnten die europäischen Bestrebungen, sollten sich Technologien durchsetzen, die in Staaten mit anderen ethischen Maßstäben entwickelt werden. Deshalb wird das Forschungsteam ein Verfahren erarbeiten, mit dem die KI-Forschung und -Entwicklung in autoritären Staaten analysiert und spezifische Gefahren für Europa quantifiziert werden können.
Lesen Sie mehr: Wie sieht die Industrie den AI Act? oder das Neueste zum Hot Topic KI!
