Safer Internet Month: Die Veränderungen digitaler Desinformation
Angesichts des diesjährigen Aktionsmonats gegen Desinformation beleuchten wir die technologischen Veränderungen bei der Verbreitung von Falschinformationen im digitalen Raum.
Jedes Jahr im Februar erinnert der internationale Aktionstag „Safer Internet Day“ an die Bedeutung eines sicheren und verantwortungsvollen Umgangs mit digitalen Medien, insbesondere für Kinder und Jugendliche. In diesem Jahr wurde dieser Aktionstag zu einem ganzen Aktionsmonat erweitert. Unter dem Motto „Keine Likes für Lügen“ soll dabei verstärkt auf die Gefahren von Desinformation aufmerksam gemacht werden.
Doch wie genau haben sich Desinformation und ihre Verbreitung durch den technologischen Fortschritt verändert? Welche neuen Herausforderungen ergeben sich und welche Trends sollten wir besonders im Blick behalten?
Künstliche Intelligenz als Desinformationstreiber
Eine der zentralen Veränderungen in der Welt der Desinformation ist der Einfluss Künstlicher Intelligenz (KI). Mithilfe generativer KI-Tools kann nahezu jede Person täuschend echte Bilder, Videos und Audioaufnahmen in kürzester Zeit und nie dagewesener Qualität und Quantität erstellen. Auswertungen zeigen, dass KI-generierte Inhalte im vergangenen Superwahljahr weltweit bereits in mehr als der Hälfte aller nationalen Wahlen zum Einsatz kamen.
Speziell sogenannte Deepfakes bergen hier ein großes Bedrohungspotenzial. So wurden im US-Wahlkampf 2024 vermehrt KI-generierte Bilder und Dokumente eingesetzt, um Manipulationen zu unterstützen. So deckte Microsoft eine Kampagne auf, die gefälschte Videos verbreitete, um Kamala Harris zu diskreditieren. Ein Video zeigte angebliche Harris-Anhänger, die Teilnehmer einer Trump-Kundgebung angriffen.
KI kommt aber auch bei der Erstellung und dem Betrieb von Bot-Netzwerken und automatisierten Accounts in sozialen Medien zum Einsatz, mit deren Hilfe Falschinformationen verbreitet werden, um zum Beispiel politische Stimmungen zu beeinflussen.
Trolle, Bot-Netzwerke und personalisierte Inhalte
Die Verbreitung von Falschinformationen auf digitalem Weg durchlief dabei mehrere Phasen: Zunächst wurden gezielt bezahlte Trolle und Influencer eingesetzt, um falsche Informationen in sozialen Netzwerken zu verbreiten. In einem weiteren Schritt kamen automatisierte Bot-Netzwerke hinzu, die es ermöglichten, Falschinformationen kostengünstig in großer Reichweite und Geschwindigkeit zu verbreiten. In der nächsten Phase ermöglichen personalisierte Desinformationskampagnen durch maschinelles Lernen gezielte Angriffe auf Einzelpersonen und Gruppen, indem Persönlichkeitsprofile genutzt werden, um maßgeschneiderte Inhalte zu erstellen.
Diese Methoden ergänzen sich zunehmend und werden oft kombiniert eingesetzt, zum Beispiel jüngst bei der Wahlbeeinflussung in Rumänien. Zudem sind nicht mehr nur Staaten und deren Öffentlichkeiten betroffen – auch Unternehmen geraten zunehmend ins Visier von Desinformationskampagnen.
Wie Falschinformationen transportiert werden
Bei der Verbreitung von gezielten Falschinformationen haben sich zuletzt insbesondere Messenger wie WhatsApp und Telegram als beliebte Mittel entpuppt. Vor allem Telegram ermöglicht mit minimalen Kosten die Einrichtung offizieller Kanäle, über die gezielt Gegenöffentlichkeiten zu den klassischen Medien mit teilweise hunderttausenden Followern geschaffen werden können. Wieviel Desinformation auf den Messengerdiensten tatsächlich kursiert, ist allerdings nur schwer messbar.
Von zentraler Bedeutung bleiben zudem die großen Social-Media-Plattformen wie Facebook, YouTube, X/Twitter oder TikTok – auch weil ihre Algorithmen emotionale und polarisierende Inhalte bevorzugen und Nutzer:innen schnell in digitale Echokammern ziehen können. Ein weiteres Problem stellen Social Bots dar, die in diesen Netzwerken als „falsche Freunde“ agieren, dort gezielt Desinformationen verstärken und gegenseitig die Reichweite ihrer Inhalte steigern.
Weitere Quellen für Desinformation
Daneben gibt es aber auch weniger offensichtliche digitale Räume, die für die Verbreitung von Falschinformationen eingesetzt werden. Gaming-Plattformen und Online-Foren etwa werden von unterschiedlichen Akteuren genutzt, um Propaganda, Desinformation und extremistische Ansichten zu streuen und Spieler:innen zu radikalisieren. Auch Augmented Reality (AR) und erweiterte virtuelle Welten bergen das Potenzial für eine solche Instrumentalisierung, erreichen allerdings noch kein großes Publikum.
Als mögliche neue Quelle erscheinen KI-Freundschafts-Apps, bei denen eine virtuelle Freundschaft mit einem KI-Chatbot aufgebaut wird. Neben großen Datenschutzproblemen besteht hier ebenfalls die Gefahr (unbeabsichtigt) Desinformation zu verbreiten. Dies ergibt sich unter anderem aus verzerrten Trainingsdaten der zugrundeliegenden Sprachmodelle, mangelnder Echtzeitprüfung von Informationen oder dem Filterblasen-Effekt. Durch die emotionale Bindung, die die Nutzer:innen zu ihren KI-„Freunden“ aufbauen sollen, besteht hier ein besonderes Risiko der Manipulation und Beeinflussung. Allerdings liegen bisher kaum Daten zur Nutzung und Breitenwirkung solcher Apps vor.
Crossmediale Desinformation als neue Herausforderung
All dies zeigt: Die Verbreitung von Desinformation erfolgt längst nicht mehr isoliert auf einzelnen Plattformen. Stattdessen durchzieht sie verschiedene Medienformate und Kanäle – von Social Media über Messenger-Dienste bis hin zu Gaming-Communities. Dadurch wird die Identifikation und Bekämpfung falscher Informationen erheblich erschwert.
Umso wichtiger ist es angesichts dieser beständigen Weiterentwicklung der Methoden und Quellen, die Aufmerksamkeit in der Gesellschaft für diese Problematik weiter zu fördern und die digitale Medienkompetenz zu stärken. Gerade Kinder und Jugendliche sollten lernen, Desinformation zu erkennen und kritisch mit digitalen Inhalten umzugehen.
Mehr Informationen:
Schüler-Projekttag zum Thema Desinformation: „Auch wenn man Fake News nicht glaubt, bleibt etwas hängen“
Bundestagswahl 2025: Warum Desinformation weiterhin von Bedeutung ist
Empfehlung der Redaktion
Artikel teilen
Autor:in
