Wie gefährlich sind Desinformationskampagnen? Der Rechtswissenschaftler Matthias Kettemann hält den oft beschworenen Zusammenhang zwischen Fehlinformationen und „Demokratiegefährdung“ für fragwürdig. Im Gespräch erklärt er, was wir über Desinformation wirklich wissen müssen.
„Wir müssen nicht den Abgesang auf die Demokratie anstimmen“
Herr Kettemann, fast jeden Tag hört und liest man: Die Demokratie ist durch Desinformationen bedroht. Was ist da dran?
Die Demokratie ist resilient. Wir müssen nicht den Abgesang auf die Demokratie anstimmen, wenn wir uns die fundamentalen Veränderungen der letzten 20 Jahre durch die digitale Transformation vor Augen führen. Kommunikationskulturen und -strukturen haben sich verändert – und trotzdem funktioniert Meinungsbildung im Großen und Ganzen.
Wenn wir allerdings negativ über diesen Wandel urteilen, indem wir sagen: „Das ist das Ende der Demokratie“, dann ist das wertegeleitet. Aber man sollte nicht so tun, als sei es unbestreitbar, dass die Demokratie in der Krise ist.
Es ist immer wichtig, die rechten und linken Ränder zu beobachten. Es ist immer wichtig, zivilgesellschaftliches Engagement zu unterstützen. Es ist immer wichtig, für das Recht einzutreten – gerade auch in Online-Räumen. Es ist also durchaus sinnvoll, neuere Tendenzen im Bereich der Demokratieentwicklung kritisch zu betrachten. Man sollte deswegen aber weder Angst haben noch einschlafen.
Es gab einige kritische Reaktionen auf Ihre Aussage, dass die Rolle von Desinformation in der Demokratie überschätzt wird. „Etwas nicht nachweisen können heißt noch lange nicht, dass es nicht existiert“, hieß es unter anderem. Was sagen Sie dazu?
Dem stimme ich voll und ganz zu. Man kann nichts Negatives beweisen. Aber wenn ich sehr lange nach rosa Zebras suche und keine finde, dann bin ich irgendwann damit zufrieden zu sagen, dass es bestimmt keine rosa Zebras gibt.
Desinformation und Meinungsbildung als zwei Moloche zu sehen, die in einem klaren kausalen Zusammenhang stehen, ist wissenschaftlich nicht haltbar. Man kann nicht behaupten, dass Desinformation einen substanziellen Einfluss auf individuelle oder gesellschaftliche Meinungsbildungsprozesse hat, ohne dies nachweisen zu können. Und wenn man es nicht nachweisen kann, sollte man es auch nicht behaupten.
In unserer Studie sagen wir nicht, dass alles gut ist und dass es keine Desinformation gibt. Die gibt es auf jeden Fall. Aber wir dürfen nicht so tun, als wäre unsere Demokratie so schwach, dass sie durch ein paar manipulierte Informationen in die Knie geht.
In welchem Kontext hat Desinformation Ihrer Ansicht nach besonders starke Auswirkungen?
Information Ecosystems and Troubled Democracy
Die Meta-Analyse des International Observatory on Information and Democracy untersucht die Auswirkungen von Informationsökosystemen auf Demokratie, Medienfreiheit und politische Prozesse. Der Bericht fasst Forschungsergebnisse zu drei zentralen Themen zusammen: Vertrauen in Medien und Politik, Einfluss von künstlicher Intelligenz auf Informationsflüsse und Datenregulierung. Ein besonderer Schwerpunkt liegt auf der Verbreitung von Desinformation. Basierend auf über 1.600 Quellen liefert die Studie eine Bestandsaufnahme und Handlungsempfehlungen für Politik und Forschung.
Desinformation muss zunächst als das erkannt werden, was sie ist: ein Phänomen der Kommunikation. Es ist ein Versuch Russlands – oder anderer Akteur*innen – Europa zu schwächen, Deutschland zu schwächen, Zukunftsängste zu schüren und jene Parteien zu unterstützen, die tendenziell eine Politik verfolgen, die diesen Akteur*innen genehm ist.
All diese Aspekte spielen hier eine Rolle. Deshalb müssen wir – und das ist ein wichtiger Punkt – auf die Kommunikationskultur achten.
Gefährden dann die Praktiken von großen Tech-Konzernen die Demokratie, weil sie nicht ausreichend auf die „Kommunikationskultur“ in den sozialen Plattformen achten?
Ich habe ehrlich gesagt ein Problem mit dem Begriff „Demokratiegefährdung“. Er impliziert ein ziemlich negatives Bild unserer Demokratie. Die Demokratie ist stark. Ja, sie wird ständig angegriffen. Es gibt Menschen und Parteien, die das Ziel haben, die Demokratie zu destabilisieren – oder zumindest demokratische Prozesse in Frage zu stellen oder zu unterlaufen.
Aber ich glaube immer noch nicht, dass ein Satz wie „Social Media gefährden die Demokratie“ eine empirische Basis hat. Soziale Medien verändern die Art und Weise, wie wir demokratische Prozesse führen. Sie sind eine Herausforderung für die Demokratie, wie wir sie heute verstehen – nämlich als einen umfassenden Prozess, in dem wir auf einer gemeinsamen Faktenbasis gute gesellschaftliche Entscheidungen treffen. Denn die großen sozialen Medien betreiben Kommunikationsräume, in denen nicht die Vermittlung einer gemeinsamen Faktenbasis oder eines gemeinsamen Wissensbestandes im Vordergrund steht, sondern die ökonomische Nutzung der Aufmerksamkeit der dort präsenten Nutzer*innen.
Können Sie das erklären?
Plattformen wie TikTok und Elon Musks X sind anfällig für das Verbreiten von Desinformationen, aber nicht in erster Linie, weil die Plattformmacher*innen Desinformation toll finden. Sie haben einfach ihre Algorithmen darauf trainiert, was ihnen Geld bringt. Und was bringt ihnen Geld? Wenn die Menschen lange auf der Plattform bleiben. Und sie bleiben lange auf der Plattform, wenn sie emotional involviert sind. Und Desinformationen sprechen oft Emotionen, gerade unseren niedrigen Gefühlsneigungen, an. Das erkennen die Empfehlungssysteme und verstärken diese Inhalte. Mehr Engagement bedeutet dann mehr Geld.
Was denken Sie, woher kommt das Unbehagen, was in „die sozialen Medien gefährden die Demokratie“ anklingt?
Das entsteht durch den Unterschied zwischen dem traditionellen öffentlichen Raum und den heutigen Plattformen. Es gab das Gefühl, dass wir einen kollektiven Entscheidungsraum hatten, in dem wir gemeinsam sprachen. Natürlich war dieser Raum oft elitär, aber es gab zumindest die Vorstellung, dass der öffentliche Diskurs einigermaßen unter Kontrolle war und rational verlief.
Das Unbehagen, das wir heute erleben, hat viel damit zu tun, dass gerade Führungskräfte in Medien, Politik und Staat merken: Sie haben nicht mehr diese Kontrolle über die gesellschaftlichen Kommunikationsprozesse. Und das kann positiv oder negativ sein.
Einerseits ist diese Entwicklung enorm emanzipatorisch. Andererseits führt diese neue Vielfalt an Interaktionsmöglichkeiten, diese Filterlosigkeit zu einem diffusen Gefühl des Unbehagens. Und dieses Unbehagen wird dann oft unscharf als „Demokratiekrise“ beschrieben. Das merken besonders die, die den öffentlichen Diskurs bisher geprägt und dominiert haben – traditionelle Medien, Politiker*innen oder solche, die besonders stark von Desinformation betroffen sind. Und das wiederum befeuert das Narrativ das Desinformation zu krisenhaften Entwicklungen in den Demokratie führt.
„Das Unbehagen, das wir heute erleben, hat viel damit zu tun, dass gerade Führungskräfte in Medien, Politik und Staat merken: Sie haben nicht mehr diese Kontrolle über die gesellschaftlichen Kommunikationsprozesse.“
Welche Auswirkungen hat der Rückzug bei der Moderation und dem Fact-Checking auf Plattformen wie Meta auf den gesellschaftlichen Zusammenhalt?
Die Änderungen sind von einer „Trumpisierung“ der Plattform geprägt und von einem unehrlichen Gestus getragen. Es wird suggeriert, dass es um mehr Redefreiheit geht – dabei wird aber verkannt, dass Redefreiheit kein absoluter Begriff ist, sondern immer mit Verantwortung einhergeht.
Zudem greift Meta in seinen Äußerungen zunehmend Kampfbegriffe der neuen Rechten und der Trump-Administration auf. Wenn Meta-Chef Zuckerberg von „Legacy Media“ sprechen oder verspricht, nicht mehr „Zensur“ zu üben, ist das irreführend, aber zugleich eine „Dog Whistle“ gegenüber Trumps MAGA-Team. Natürlich findet keine Zensur auf Meta statt. Zensur setzt voraus, dass der Staat Inhalte verbietet. Plattformen hingegen moderieren Inhalte – und sollten das oft sogar besser tun.
Wird es dadurch mehr Hate Speech geben? Wahrscheinlich ja. Was wir aber nicht sagen können, ist, dass die bisherigen Faktenchecks einen drastischen Einfluss auf Meinungsänderungen hatten. Studien zeigen, dass einzelne Faktenchecks in der Regel keine weitreichenden Meinungsänderungen bewirken, aber kurzfristig falsche Wahrnehmungen korrigieren können.
Die Änderungen sind von einer „Trumpisierung“ der Plattform geprägt und von einem unehrlichen Gestus getragen.
Warum sind Fakt-Checking-Ansätze in ihrer Wirkung begrenzt?
Weil Menschen komplex sind und sich ihre Meinungen aus vielen verschiedenen Quellen bilden. Informationen werden nicht isoliert aufgenommen, sondern in bestehende Weltbilder eingebettet. Und unsere Medienrepertoires sind breit gefächert.
Wenn jemand fest davon überzeugt ist, dass es keinen Klimawandel gibt – wird ein einziger Faktencheck diese Person umstimmen? Wohl kaum. Fact-Checking kann in Einzelfällen erfolgreich sein, vor allem bei Menschen, die unsicher oder offen für Diskussionen sind.
Sollten wir dann trotzdem weiter Facht-Checking betreiben?
Das ist symbolisch sehr wichtig. Ich bin ein großer Fan der Broken-Windows-Theorie, die besagt: Wenn man kleine, sichtbare Regelverstöße toleriert – wie zerbrochene Fensterscheiben in einer Stadt -, dann entsteht eine Atmosphäre der Unsicherheit und des Verfalls. Übertragen auf den digitalen Raum heißt das: Wenn Plattformen keine Faktenchecks durchführen, entsteht ein Umfeld, in dem Unwahrheiten ungehindert stehen bleiben.
Die meisten Formen der Desinformation sind nicht illegal – und das macht sie so schwer zu bekämpfen. Aber sie haben eine Wirkung: Sie prägen die Wahrnehmung der Plattform, auf der sie verbreitet werden, und sie können zu einer Verrohung der Kommunikationskultur beitragen.
„Wenn man kleine, sichtbare Regelverstöße toleriert - wie zerbrochene Fensterscheiben in einer Stadt -, dann entsteht eine Atmosphäre der Unsicherheit und des Verfalls. “
Deshalb sind Faktenchecks sinnvoll und wichtig. Und gemessen an den Einnahmen der Plattformen sind die Kosten geradezu lächerlich gering. Ihre Abschaffung ist eine rein politische Entscheidung.
Wenn Fact-Checking allein nicht ausreicht, um Desinformation effektiv einzudämmen – was bräuchte es stattdessen?
Wenn Meta sagt, dass die Moderation bisher nicht optimal war, dann ist die Lösung nicht weniger Moderation, sondern bessere Moderation. Diese Firmen haben eine enorme Kapitalkraft – sie könnten sich eine sorgfältigere Moderation leisten, wenn sie wollten.
Besonders schade finde ich diesen Rückschritt bei Meta, weil sie in den letzten Jahren eigentlich mit kreativen Ideen vorangegangen sind. Ein Beispiel ist das Oversight Board – eine Art unabhängiges Gremium, das die Entscheidungen der Plattform überprüft. Dafür haben sie 150 Millionen Euro investiert. Es hat zwar nicht den großen Einfluss gehabt, den sich viele erhofft hatten, aber es war zumindest ein Versuch, die Plattformregeln auf globaler Ebene transparenter zu machen. Diesen Weg jetzt zu verlassen, halte ich für eine unerfreuliche Entwicklung.
„Wenn Meta sagt, dass die Moderation bisher nicht optimal war, dann ist die Lösung nicht weniger Moderation, sondern bessere Moderation.“
Können Nutzer*innen wirklich durch Community Notes verlässliches Fact-Checking von Inhalten gewährleisten, oder ist das ein Trugschluss?
Die Idee der Community Notes ist gut. Das ist genau das, worum es im demokratischen Prozess geht: den Menschen die Möglichkeit zu geben, die Wahrheit in der Gemeinschaft auszuhandeln.
Aber in der Praxis funktionieren sie nicht. Weil sich nur sehr wenige Leute beteiligen, und dann oft solche, die sehr starke Meinungen haben. Außerdem erscheinen die Hinweise in der Regel sieben bis acht Stunden nach einem Kommentar, was zu lange ist.
Das reicht nicht aus, um Rechtsverletzungen zu verhindern. Community-Moderation allein ist keine bessere Alternative – vor allem, weil dann noch weniger Profis in die Moderation involviert sind und oft nur Lai*innen über die Inhalte entscheiden.
Gibt es spezifische Faktoren, die die Ergebnisse Ihrer Studie in bestimmten Regionen beeinflussen?
Unsere Studie hat eine Einschränkung, die besagt, dass Desinformation im globalen Süden ein viel größeres Problem darstellt. Erstens, weil wir weniger darüber wissen – es gibt weniger Studien zu diesem Thema.
Zweitens haben die Menschen in diesen Ländern oft eine geringere Medienkompetenz und ein kleineres Medienrepertoire. Das korreliert mit dem Entwicklungsstand eines Landes, gemessen am Bruttoinlandsprodukt. Außerdem moderieren die Plattformen viel weniger und investieren weniger. Das ist sozusagen der perfekte Sturm, der manche Gesellschaften anfälliger für Desinformation macht.
Zum Weiterlesen
Mansell, R., Durach, F., Kettemann, M., Lenoir, T., Procter, R., Tripathi, G., and Tucker, E. (2025) Information Ecosystems and Troubled Democracy: A Global Synthesis of the State of Knowledge on New Media, AI and Data Governance. International Observatory on Information and Democracy. Paris.
Weiterlesen
