Blog

Wie uns Fake News mithilfe von manipulierten Bildern und Videos in die Irre führen

• von Jan Philipp Rudloff

Fake News bestehen längst nicht mehr nur aus Text - mithilfe von Künstlicher Intelligenz manipulierte Fotos, Videos oder Tonspuren machen es zunehmend schwerer, zwischen wahren und falschen Informationen zu unterscheiden. Was haben wir diesen neuen Formen von Manipulation entgegenzusetzen? Vielleicht mehr als wir denken.

März 2022. Ein Video des ukrainischen Nachrichtensenders Ukraine 24 verbreitet sich rasant im Netz. Es zeigt den ukrainischen Präsidenten Wolodymyr Selenskyj, der zur Kapitulation vor Russland aufruft. Kurz darauf stellt sich heraus: Ukraine 24 ist Ziel eines Hackerangriffs geworden und beim verbreiteten Video handelt es sich um ein Deepfake, ein mithilfe von Künstlicher Intelligenz (KI) manipuliertes Video. Ein Jahr später, im März 2023, verbreiten sich auf Social Media Fotos, die angeblich die Verhaftung des ehemaligen US-Präsidenten Donald J. Trump zeigen. Ähnlich wie im Falle des zuvor beschriebenen Videos handelt es sich bei den vermeintlichen Fotos von Trumps Verhaftung ebenfalls um mithilfe von KI manipuliertes Bildmaterial. Die nachträgliche Bearbeitung von Ton-, Bild- und Videodateien wird schon seit Längerem praktiziert, aber die neuartigen, KI-gestützten Technologien ermöglichen es, in beeindruckend kurzer Zeit jegliche Art von Text oder (bewegtem) Bild herzustellen - und das ohne großes Know-How. Noch lassen sich Deepfakes oft an merkwürdigen Kopf- oder Lippenbewegungen erkennen und auch mit der Anzahl menschlicher Finger pro Hand nimmt es KI nicht so genau – all das wird sich jedoch ändern.

Wir stehen also vor der Frage, wie wir uns in Zukunft vor Fake News schützen können. Neben den viel diskutierten Faktenchecks, also der nachträglichen Richtigstellung von Falschnachrichten, gibt es einen weiteren vielversprechenden Ansatz. Beim sogenannten Prebunking versucht man, Menschen über die Strategien und Methoden aufzuklären, die Fake News so erfolgreich machen, z.B. über die Art und Weise, wie Themen emotional aufgeladen, Zitate aus dem Zusammenhang gerissen oder manipuliertes Bild-, Ton- oder Videomaterial verwendet wird, um glaubwürdig zu erscheinen. Dieses Wissen soll dann in Zukunft vor Fake News schützen. Aktuell wird diese Idee von Google verfolgt - das Unternehmen macht auf Social Media in Form von Kurzvideos auf die Gefahr durch Falschnachrichten und deren Strategien aufmerksam.

Faktenchecks und Prebunking sind effektive Methoden zur Bekämpfung von Falschinformationen (Lewandowsky & van der Linden, 2021; Walter et al., 2020) - es gibt allerdings ein weiteres Problem, das bisher wenig Beachtung gefunden hat. Was ist mit Menschen, die grundsätzlich an Fakten zweifeln? Was ist mit denjenigen, die überzeugt sind, dass alle Meinungen gleichwertig sind, dass es kein Wahr oder Falsch gibt? Sie würde man weder mit Faktenchecks noch mit Aufklärungsvideos erreichen. Unsere persönlichen Vorstellungen davon, was Wissen ist und wie dieses entsteht, werden als epistemische Überzeugungen bezeichnet und sind entscheidend für unseren Umgang mit neuen Informationen. Wer auf seine Intuition vertraut, wenig Wert auf Beweise legt und davon überzeugt ist, dass die Mächtigen im Land entscheiden, was als wahr gilt und was nicht, ist anfälliger für Verschwörungstheorien (Rudloff et al., 2022) und Fake News (Rudloff & Appel, 2022).

So ernüchternd die Erkenntnis sein mag, dass es Menschen gibt, die wir selbst mit dem besten Faktencheck nicht erreichen können, sie birgt gleichzeitig eine weitere Maßnahme im Kampf gegen falsche oder irreführende Informationen. Unsere epistemischen Überzeugungen entwickeln wir in der Regel im Kindes- und Jugendalter. Meist geschieht dies durch unser soziales Umfeld, z. B. unsere Erziehung durch Eltern oder den Schulunterricht. Ein wichtiges Ziel der Bildungsarbeit sollte es sein, Kindern und Jugendlichen die Bedeutung von Beweisen und die Bewertung von Argumenten als Grundlage für rationale Entscheidungen zu vermitteln. Als besonders effektiv haben sich dabei disziplinspezifische Interventionen erwiesen, die die unterschiedlichen Ansätze des Wissenserwerbs berücksichtigen, die in verschiedenen Fachbereichen verwendet werden. So kann beispielsweise ein Experiment in vielen Natur- und Sozialwissenschaften eine verlässliche Wissensquelle sein, während es in der Geschichtswissenschaft oder anderen Geistes- und Kulturwissenschaften von geringem Nutzen ist. Auch gelten in verschiedenen Disziplinen unterschiedliche Grade der Gewissheit von Wissen als akzeptabel. Lehrkräfte sollten also nicht nur über ein ausreichendes disziplinspezifisches Wissen verfügen, sondern auch über ein tiefgreifendes Verständnis dafür, wie Wissen in ihrem Fachgebiet erworben wird. Diese Lehrinhalte könnten sich als äußerst wichtig erweisen, um den immer ausgefeilteren Methoden derjenigen, die Fake News verbreiten, etwas entgegensetzen zu können.

Literaturverzeichnis

Lewandowsky, S., & van der Linden, S. (2021). Countering misinformation and fake news through inoculation and prebunking. European Review of Social Psychology, 32(2), 348-384. https://doi.org/10.1080/10463283.2021.1876983

Rudloff, J. P., & Appel, M. (2022). When truthiness trumps truth: Epistemic beliefs predict the accurate discernment of fake news. Journal of Applied Research in Memory and Cognition. Advance online publication. https://doi.org/10.1037/mac0000070

Rudloff, J. P., Hutmacher, F., & Appel, M. (2022). Beliefs about the nature of knowledge shape responses to the pandemic: Epistemic beliefs, the dark factor of personality, and COVID-19-related conspiracy ideation and behavior. Journal of Personality, 90, 937– 955. https://doi.org/10.1111/jopy.12706

Walter, N., Cohen, J., Holbert, R. L., & Morag, Y. (2020). Fact-checking: A meta-analysis of what works and for whom. Political Communication, 37(3), 350-375. https://doi.org/10.1080/10584609.2019.1668894