Forum

Fake oder echt – Welcher Nachricht kann ich trauen?

Stand

Marion Theis diskutiert mit
Kathrin Demmler, JFF - Institut für Medienpädagogik in Forschung und Praxis
Carla Reveland, ARD-Faktenfinder
PD Dr. Jochen Roose, Konrad-Adenauer-Stiftung

Gefälschte Regierungsdokumente, irreführende Bilder, manipulierte Politikeraussagen: Seit dem Hamas-Angriff auf Israel hat die Desinformation einen neuen Höhepunkt erreicht, auch dank Künstlicher Intelligenz. Das verunsichert Leser und Zuschauer.

Wie lassen sich Lügentexte und -bilder erkennen? Und was bringt eine Kennzeichnungspflicht für KI?

Aktuell sehen wir tatsächlich eine Flut an Desinformationen und Falschinformationen rund um den Krieg im Nahen Osten, wie wir es so noch nicht erlebt haben. Es kursieren neben authentischen Bildern und Videos eben sehr, sehr viele falsche Aufnahmen, irreführende Aussagen oder eben auch manipulierte, angebliche Regierungsdokumente oder Beweise. Und dazu mischen sich dann Propaganda, Narrative, die ja darauf abzielen, bestehende Ressentiments und Feindbilder zu schüren.

Mehr zu KI und Fake News

Künstliche Intelligenz Gefälschte Audios von Tagesschau-Sprechern im Umlauf

Es hört sich fast echt an: Tagesschau-Sprecher*in Susanne Daubner und Jens Riewa entschuldigen sich für vermeintliche Lügen, die die Tagesschau über Corona, die Ukraine, Rechtsextreme und Reichsbürger verbreitet haben soll – aber: Es sind eindeutig Fakes.

SWR2 Impuls SWR2

Gespräch Tagesschau-Fake: Wie einfach ist es, Jens Riewa zu fälschen?

Zurzeit kursieren im Netz Audiodateien, die wie Mitschnitte der Tagesschau mit Susanne Daubner oder Jens Riewa klingen. Das sei möglich mittels „Stimmsynthese“, erklärt Sandra Müller, multimediale Redaktionsleiterin des SWR-Studios Tübingen. Die KI schaue sich die Besonderheit der Stimme an und könne genau diese Stimme neu synthetisieren, sagt Müller

SWR2 Kultur aktuell SWR2

Chaostage bei Twitter Massenentlassungen und freie Fahrt für Donald Trump: Sorge um Twitter

Exodus bei den Mitarbeitenden, Fake-Accounts mit blauen Häkchen, ausbleibende Werbeeinnahmen und nun vielleicht die Rückkehr von Donald Trump: Seit der Übernahme durch Multimilliardär Elon Musk befindet sich Twitter in der Abwärtsspirale. Steht das Unternehmen vor dem Verlust seiner Glaubwürdigkeit? Die aktuellen Entwicklungen im Überblick.

Was geht - was bleibt? Zeitgeist. Debatten. Kultur. KI-Fake-News in Bild und Ton: Droht uns die Infokalypse?

Mitten drin im „Informationskrieg“ – nach dem Anschlag der Hamas in Israel hat die Menge an Fake-News in den Netzwerken eine nie da gewesene Qualität erreicht. Nachrichten werden für die einen selbst Kriegswerkzeug dank Manipulation.

Von angeblichen Kidnapping-Videos palästinensischer Mädchen, über aus dem Kontext gerissene ägyptische Fallschirmspringer bis hin zu Cristiano Ronaldo angeblich mit einer palästinensischen Flagge im Stadion. Das stellt den Journalismus vor neue Herausforderungen, sagt Josha Weber, Journalist beim Fact-Checking Deutsche Welle: “So eine Flut an aus dem Kontext gerissenen Falschinformationen wie wir sie derzeit erleben, hat es so auch im Ukrainekrieg noch nicht gegeben. Wir kommen als Fakten-Checker gar nicht hinterher, wir können nur einen kleinen Teil davon analysieren.”

„Wir müssen die Plattformen, auf denen Desinformationskampagnen stattfinden, noch stärker in die Verantwortung nehmen. Gerade Elon Musk versucht zurzeit X/Twitter wieder so zu führen wie 2008“, sagt Christian Katzenbach, Professor für Kommunikations- und Medienwissenschaft Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG)

Mit ihm gehen wir der Problematik um YouTube, Facebook, TikTok, Instagram, WhatsApp, Telegram und den vielen anderen Plattformen auf den Grund. “Die benutzen wir immer noch zu achtlos”, sagt Bernhard Pörksen, Medienprofessor Universität Tübingen, "Wir achten beim Medienkonsum bisher viel zu wenig auf die Quelle. Aber die Quelle einer Information ist das entscheidende Detail bei der Einordnung”

Laut Josha Weber fordern manche sogar noch mehr: “KI-Experten sagen uns, wir müssen lernen umzudenken: Wir müssen in Zukunft davon ausgehen, dass das, was im Netz steht, erstmal nicht stimmt.” Der Manipulationsverdacht wird also künftig allgegenwärtig.

Mailt uns Feedback und Themenideen an kulturpodcast@swr.de.

Host: Christian Batzlen
Showrunner: Julian Burmeister
Sendungsmusik (Intro): “The Great Debate” (Dream Theater)

Links zur Sendung:
https://www.nzz.ch/feuilleton/weltbilder-erschuettern-mit-arnold-schwarzenegger-oder-wie-man-desinformation-und-propaganda-wirksam-bekaempft-ld.1691236

https://uni-tuebingen.de/forschung/zentren-und-institute/internationales-zentrum-fuer-ethik-in-den-wissenschaften/publikationen/blog-bedenkzeiten-alt/weitere-blog-artikel/schaden-deepfakes-wirklich-der-demokratie/

https://www.boell.de/de/2020/10/12/fehlinformationen-verstehen-unsere-gesellschaft-unsere-technologie-wir-selbst

Deepfakes im Internet Das neue Zeitalter der Unwahrheitsvermutung: Droht die Infokalypse im Netz?

Ungeprüfte Falschnachrichten und -bilder im Netz sind eine wachsende Herausforderung für alle. Wir werden umdenken müssen, wenn Wahrheit und Fiktion kaum zu unterscheiden sind.

Stand
Autor/in
SWR