DeMasKI – Desinformation und ihre Muster erkennen

© AdobeStock/laStockVision

Identifikation populistischer Emotionalisierung mit einem hybriden KI-Ansatz

Digitale Desinformation verdrängt zunehmend die sachliche Auseinandersetzung durch emotionalisierende und alarmistische Botschaften. Das trägt zur Polarisierung gesellschaftlicher Debatten bei und kann demokratische Diskurse schwächen. Das Forschungsprojekt untersucht die sprachlichen Muster, mit denen schwach begründete Behauptungen überzeugend wirken und die Aufmerksamkeit von einer sachlichen Auseinandersetzung ablenken.

Dazu werden zwei Textsammlungen aufgebaut und iterativ analysiert. Das bedeutet, dass die Ergebnisse jeder Auswertung in die weiteren Analysen einfließen. Die erste umfasst antike Texte zur Rhetorik und Argumentation, unter anderem von Platon, den Sophisten und Isokrates, die manipulative Formen der Rede darstellen und reflektieren. Die zweite besteht aus aktuellen populistischen Kommunikationsformaten wie Social-Media-Beiträgen, Podcasts, Wahlkampfreden und Pressekonferenzen in deutscher und englischer Sprache. Zu einem späteren Zeitpunkt soll die Textsammlung um weitere europäische Sprachen erweitert werden.

Durch den Vergleich der beiden Textsammlungen identifiziert das Forschungsteam der UTN charakteristische sprachliche Merkmale manipulativer und emotionalisierender Kommunikation. Darauf aufbauend untersucht es, wie sich irreführende Argumentationsmuster erkennen und wirksam begegnen lassen. Die Analyse geht dabei über die sprachliche Ebene hinaus und bezieht auch ethische Grundannahmen sowie unterschiedliche Weltanschauungen ein, die den Umgang mit Desinformation prägen können. Die gewonnenen Erkenntnisse fließen wiederum in die Entwicklung von Bildungsansätzen ein, die kritisches Denken fördern und die Widerstandsfähigkeit gegenüber manipulativer Kommunikation stärken.

Aus technischer Sicht setzt der Verbund auf einen innovativen hybriden Ansatz mit erklärbarer Künstlicher Intelligenz. Dafür kombiniert er leistungsfähige Sprachmodelle auf Basis von Transformer-Verfahren mit induktiver logischer Programmierung. So erkennt die KI sprachliche Muster nicht nur, sondern kann auch nachvollziehbar erklären, wie sie zu ihren Ergebnissen kommt. Die dabei entwickelten Merkmale werden kontinuierlich mit der Weiterentwicklung der KI abgeglichen und in Pilotstudien überprüft. Anschließend werden sie in eine nutzbare Toolchain mit Web-Anwendung überführt.

Langfristig entwickelt der Verbund Verfahren, mit denen sich neue Formen der Desinformation frühzeitig erkennen lassen. Außerdem entstehen frei verfügbare Lehr- und Lernmaterialien (Open Educational Resources) sowie didaktische Formate für die Demokratiebildung und die Lehrkräftefortbildung. Mit einer Toolbox und verschiedenen Formaten zum Wissenstransfer richtet sich das Projekt zugleich an die Informatik-Gemeinschaft. Ziel ist es, ein wissenschaftlich fundiertes Verständnis von Manipulationstechniken im öffentlichen Diskurs sowie wirksamen Möglichkeiten zu ihrer Erkennung und Eindämmung zu entwickeln. Diese Erkenntnisse sollen in technisch umsetzbare Konzepte überführt werden, sodass erklärbare Künstliche Intelligenz künftig dazu beitragen kann, gesellschaftliche Resilienz zu stärken und einen gut informierten öffentlichen Diskurs zu fördern.