Können KI-generierte Fake News Wahlen beeinflussen?

Desinformationen im Netz sind ein großes Problem. Viele der sogenannten Fake News sind schwer von echten Nachrichten zu unterscheiden. Auch in diesem Jahr finden auf der ganzen Welt Wahlen statt. Bei uns in Baden-Württemberg zuletzt die Kommunal- und Europawahlen. Wie sehr werden wir bei unserer Wahlentscheidung von manipulierten Meldungen im Internet beeinflusst? Experten sehen darin eine Gefahr.

Fake News werden besser geklickt und haben mehr Reichweite

Wie leicht Informationen im Internet mittels Künstlicher Intelligenz manipuliert werden können, zeigt das FZI Forschungszentrum Informatik in Karlsruhe. Die Experten dort haben dafür einen "Large Language Media Manipulator" entwickelt. In diesen Sprachmanipulator kann man einen Nachrichtenartikel von einer seriösen Quelle eingeben und diesen mit bestimmten Parametern verändern - zum Beispiel die politische Sichtweise.

Was der Sprachmanipulator aus einem Artikel der SWR Aktuell Homepage gemacht hat, zeigt der Film:

Video herunterladen (56 MB | MP4)

Mit der Software will das FZI verdeutlichen, wie leicht Informationen manipuliert und Userinnen und User im Netz beeinflusst werden können. Die Experten sehen nicht nur eine Gefahr an diesen Fake News an sich, sondern auch an ihrer Verbreitung. KI-generierte Inhalte sind emotionaler und werden so besser geklickt und verbreitet als sachlich neutrale Nachrichtentexte.

Das Wichtige ist, dass die (KI-generierten Texte) Emotionen hervorrufen und dadurch die Aufmerksamkeit des Nutzers länger halten. Wenn sie die Aufmerksamkeit des Nutzers länger halten können, werden Sie auch durch den Algorithmus priorisiert und stärker verbreitet.

Karlsruher Forscher entwickeln App, die Fake News erkennt und meldet

Fake News erreichen oft sehr viele Menschen. Aber wie erkennen wir, ob eine Nachricht gefaked ist? Auch daran arbeitet das FZI in Karlsruhe. Das Forschungszentrum hat eine App mit Künstlicher Intelligenz (KI) trainiert, die in den Sozialen Medien charakteristische Faktoren und Stilmittel von Desinformationen erkennen kann.

Wenn die App Fake News erkennt, meldet sie diese und markiert die auffälligen Wörter:

Die App soll helfen Fake News besser zu erkennen. Oft geht es wie im Beispiel im Bild oben um politische Inhalte. Daher sehen auch die Experten am FZI die Gefahr, dass Wahlentscheidungen durch KI-manipulierte Nachrichten beeinflusst werden können. Trotzdem könne man in Sozialen Netzwerken Fakenews nicht ganz verhindern, sagt Christof Weinhardt, der dort für die App zuständig ist.

Es ist natürlich sehr schwierig, eine Demokratie mit Meinungsfreiheit da einzugreifen, dass es nicht zur totalen Zensur kommt. Und ich glaube, diese Balance müssen wir noch finden. Da sind wir noch alle nicht so weit, die ganze Gesellschaft nicht so weit, würde ich mal heute behaupten. Von manchen wird es schamlos ausgenutzt. Andere sind ziemlich wehrlos dagegen. Und deswegen sehe ich darin auch eine große Gefahr.

Politikberater: "KI wird in Zukunft starken Einfluss auf Wahlen haben"

Auch Politikberater Juri Schnöller aus Ludwigsburg glaubt, dass KI im Internet einen Einfluss auf die Meinungsbildung von Menschen haben kann und daher auch in Zukunft einen sehr starken und bedeutenden Einfluss auf Wahlen haben wird.

Video herunterladen (50,7 MB | MP4)

Im SWR-Interview betonte er aber auch, dass Technologie wie KI immer ein Werkzeug sei. Es liege an der Menschheit, sie zum Guten oder zum Schlechten zu nutzen. "Aktuell sehen wir, wie autoritäre Staaten wie China oder Russland diese Technologien nutzen, um ganze Gesellschaften zu destabilisieren und es liegt an uns, diese Technologie auch im Guten einzusetzen", so Schnöller.