Kampf gegen Missinformation und Manipulation Künstliche Intelligenz für mehr Demokratie

Während der Projektlaufzeit soll insbesondere ein neues Softwaretool (KonCheck) entwickelt und erprobt werden, das als benutzerfreundliche Anwendung politisch relevante Informationen kontextualisieren und auf ihre Authentizität und Vertrauenswürdigkeit prüfen kann.

Bild: iStock, Alicja Nowakowska
24.07.2024

Die politische Meinungsbildung zählt zu den Grundlagen einer funktionierenden demokratischen Gesellschaft. Allerdings ist sie in den letzten Jahren großen Änderungen unterworfen: Filterblasen, und Echokammern verzerren und verbergen Informationen. Daher befasst sich die Daimler und Benz Stiftung mit neuen Technologien für die politische Partizipation. Erforscht werden soll, wie Informationen mit Hilfe Künstlicher Intelligenz geprüft und kontextualisiert werden können.

Zu den Grundlagen einer funktionierenden demokratischen Gesellschaft gehört die politische Meinungsbildung. Sie hat sich in den letzten Jahren stark verändert: Neben den klassischen Medien bestimmen heute eine Vielzahl von Akteuren den öffentlichen Diskurs, der häufig von einseitigen Filterblasen und Echokammern geprägt ist. Für die Bürgerinnen und Bürger sind Verunsicherung, Unübersichtlichkeit und nicht zuletzt Polarisierung die Folge. Ob und wem sie ihre Stimme geben, hängt entscheidend von den Informationen ab, die sie im Alltag konsumieren.

Die Informationslandschaft ist in unterschiedliche Content-Anbieter fragmentiert: Soziale Medien, Influencer, Messanger-Dienste und viele mehr. Informationen werden dort häufig ohne Quellenangaben und einordnenden Kontext dargestellt. Im Gegensatz zu Informationen aus dem klassischen Journalismus haben Rezipienten hier keine Überprüfungsmöglichkeiten. Falschdarstellungen, Manipulationen, Verzerrungen oder künstlich erstellten Inhalten sind Tür und Tor geöffnet. Demokratische Prozesse, wie politische Meinungsbildung und freie Wahlen, werden gestört, bestehende Anschauungen verfestigt und konstruktive Diskurse untergraben.

KI-Tool für mehr Vertrauenswürdigkeit

An dieser Stelle setzt der von der Stiftung geförderte Forschungsverbund an. Nach einem umfangreichen Auswahlverfahren stehen dem Forschungsverbund unter der Leitung von Prof. Dr. Jens Gerken, Technischen Universität Dortmund, für einen Zeitraum von drei Jahren 1,5 Millionen Euro zur Verfügung. Während der Projektlaufzeit soll insbesondere ein neues Software-Werkzeug (KonCheck) entwickelt und erprobt werden, das als anwenderfreundliche App politisch relevante Informationen kontextualisieren sowie auf ihre Echtheit und Vertrauenswürdigkeit hin überprüfen kann.

Technologisch sollen dabei Sprachmodelle der Künstlichen Intelligenz zum Einsatz kommen. Nutzer können dann Fragen zu bestimmten Texten stellen, sich Quellen anzeigen lassen, Artikel in einfacher Sprache abrufen oder sich Inhalte im Kontext einordnen lassen. KonCheck soll Menschen zur Partizipation motivieren, indem es einfache Möglichkeiten zur Interaktion schafft.

Die Gestaltung des KI-Tools erfolgt in einem intuitiven und leicht verständlichen Design, da es sich vor allem an vulnerable Nutzergruppen richtet. Dazu gehören Menschen mit kognitiven Beeinträchtigungen, Senioren und junge Erstwähler. Als sogenannte Digital Immigrants teilen ältere Menschen wegen mangelnder Medienkompetenz mitunter gefährliche Fake News. Jungwähler hingegen sind durch den frühen Konsum sozialer Medien oftmals in polarisierenden Informationsumgebungen sozialisiert und wenig kompromissbereit.

Leiter und Koordinator des interdisziplinären Forschungsverbunds ist Prof. Dr. Jens Gerken, der an der Technischen Universität Dortmund die Forschungseinheit „Inklusive Mensch-Roboter-Interaktion“ verantwortet. Die Entstehung des neuen KI-Tools wird aus sozialpsychologischer und kommunikationswissenschaftlicher Perspektive begleitet. Erklärtes Ziel des Ladenburger Kollegs „KI-basierte Methoden zur Unterstützung von Meinungsbildung und Partizipation“ ist es, Menschen in persönlichen Entscheidungsprozessen zu unterstützten und ihre Resilienz gegenüber Manipulation zu stärken. Politische Partizipation ist ein Ausdruck sozialer Gerechtigkeit und stärkt demokratische Mechanismen.

Firmen zu diesem Artikel
Verwandte Artikel