Auf die Wassermassen folgte eine zweite Flut: Eine Fülle von Falschmeldungen und Desinformationen verunsicherte zahlreiche Menschen, nachdem die Hochwasser-Katastrophe im Juli 2021 Teile Deutschlands heimgesucht hatte. So kursierten in den sozialen Netzwerken vorgebliche Warnungen, dass der Damm der Steinbachtalsperre gebrochen sei. Die Folge: Menschen in der Region flüchteten in Panik aus ihren Häusern.
Falschmeldungen oder Fake News sind nichts grundsätzlich Neues. Neu sind die Geschwindigkeit und die Reichweite, mit der sie in den digitalen Medien verbreitet werden. Nicht immer werden Fake News absichtlich in die Welt gesetzt. Aber auch die unbeabsichtigten Fehlinformationen sind problematisch.
Im Forschungsprojekt „Nutzerzentrierte KI-basierte Erkennung von Fake News und Fehlinformationen“ (NEBULA) arbeitet die Hochschule Bonn-Rhein-Sieg zusammen mit drei weiteren Hochschulen und einer Software-Firma an einer Technik, die Fake News und Fehlinformationen in sicherheitsrelevanten Situationen automatisiert erkennen soll. Unterstützt wird das Projekt durch weitere Partner, darunter das Landespolizeipräsidium Hessen.
Fake-News-Erkennung mit Erklärungen zur Entscheidungsfindung
Behörden wie das Landespolizeipräsidium und andere Organisationen mit Sicherheitsaufgaben stehen immer wieder vor der Herausforderung, sich ein Bild von den kursierenden Fake News zu machen. Dies ist für sie von entscheidender Wichtigkeit, um in besonderen Situationen schnell und zielgruppengerecht die potenziell gefährlichen Falschinformationen richtigstellen zu können.
Für Mediennutzerinnen und -nutzer auf der anderen Seite kann es schwierig sein, sich in unübersichtlichen Katastrophensituationen zutreffende Informationen zu beschaffen, wie das Beispiel des Juli-Hochwassers zeigt.
„Die Transparenz der Identifikation von Fake News soll auch dazu beitragen, die User zu befähigen, selbst zuverlässige Quellen von unzuverlässigen unterscheiden zu können“, erklärt Professor Hektor Haarkötter, der an der H-BRS Kommunikationswissenschaft mit Schwerpunkt Politische Kommunikation lehrt. „Wir beschäftigen uns hier schon lange mit den gesellschaftlichen Auswirkungen von Nachrichtenauswahl und Nachrichtenzuverlässigkeit. Fake News tragen stark zur Desorientierung der Bevölkerung bei und sind darum auch demokratiefeindlich.“
Die neue Technik soll Fake News nicht nur mit Hilfe Künstlicher Intelligenz besonders akkurat identifizieren, sondern auch erklären, warum eine Nachricht als irreführend oder falsch gekennzeichnet wird. Die Transparenz der Entscheidungsfindung hat in dem Projekt eine Schlüsselrolle. Die Verbundpartner wollen auf diese Weise möglichen Widerständen gegen eine automatische Bewertung vorbeugen, das eigene Mitdenken fördern sowie Vertrauen in die Künstliche Intelligenz schaffen.
Indem die geplante Technik die treffgenaue automatisierte Fake-News-Erkennung mit Erklärungen zur Entscheidungsfindung kombiniert, stellt sie eine neuartige Lösung dar. Ein besonderes Merkmal des Forschungsprojekts ist darüber hinaus, dass es Nutzergruppen in den Blick nimmt, die als potenziell anfälliger für Falschinformationen und Meinungsmanipulationen gelten. Dazu gehören Menschen höheren Alters, Jugendliche sowie Nicht-Muttersprachlerinnen und -sprachler. Das Ziel ist die Entwicklung einer mobilen App und eines Browser-Plugins.
Internet-Plattform soll aktuelles Lagebild darstellen
Ein weiteres Ziel ist die Bereitstellung einer anwenderfreundlichen Internet-Plattform, die dieselben Methoden zur Erkennung von Fake News und Falschinformationen nutzt. Sie soll Behörden und Organisationen mit Sicherheitsaufgaben dazu dienen, sich ein aktuelles Lagebild zu verschaffen, welche Art von irreführenden Informationen vor allem in den sozialen Medien im Umlauf sind.
Die erarbeiteten technischen Innovationen sollen als Open-Source-Lizenz der breiten Öffentlichkeit zur Verfügung gestellt werden. Das Landespolizeipräsidium Hessen will als erster Anwender die neue Technik aus dem NEBULA-Projekt für seine Arbeit bei der Erkennung von Falschinformationen nutzen. Nach Projektende sollen auch andere Sicherheitsbehörden die neuen technischen Lösungen erhalten können. Auch für Medienunternehmen und Redaktionen ist die Technik interessant.
Die Hochschule Bonn-Rhein-Sieg bringt in das NEBULA-Projekt vor allem ihre Expertise in der Erforschung der Formen von Desinformation in der Onlinekommunikation ein. Am Lehrstuhl von Professor Hektor Haarkötter werden Methoden der (Online-)Recherche und Verifikation entwickelt und in Workshops in Medienhäusern und Journalistenschulen vermittelt.
