Die Broschüre wurde im Rahmen des Projekts „Monitoring Disinformation Flows“ von der Organisation Human Rights International (HRI) Armenien erstellt.

Das Hauptziel des Projekts besteht darin, die Medienkompetenz zu stärken und Journalisten sowie junge Fachkräfte dabei zu unterstützen, Desinformationsströme im modernen Informationsumfeld besser zu erkennen, zu analysieren und ihnen entgegenzuwirken.

ÜBERWACHUNG VON DESINFORMATIONSSTRÖMEN – Ein Leitfaden mit theoretischen und praktischen Hinweisen für Journalisten, Forscher und Vertreter der Zivilgesellschaft

Überwachung von Desinformationsströmen

Lehr- und Praxishandbuch

© Internationale Menschenrechtsgemeinschaft (IHRC) Armenien, 2026

EINFÜHRUNG

Wir leben in einem Zeitalter beispielloser Informationsüberlastung. Jeden Tag erhalten wir Hunderte von Nachrichten, Meldungen, Videos und Publikationen aus sozialen Netzwerken, Medien und Messengern. In diesem riesigen Informationsstrom wird es immer schwieriger, Fakten von Falschmeldungen und verlässliche Quellen von manipulativen Inhalten zu unterscheiden.

Desinformation ist zu einer der bedeutendsten Herausforderungen für moderne Gesellschaften geworden. Sie kann die öffentliche Meinungsbildung, politische Prozesse, Wahlen, Entscheidungen im Gesundheitswesen und sogar die nationale Sicherheit beeinflussen.

Auch der Informationsraum Armeniens ist vor diesen Herausforderungen nicht gefeit. Unüberprüfte Informationen, manipulative Kommentare, gefälschte Fotos und Videos sowie Elemente externer Einflussoperationen werden häufig über soziale Netzwerke, Messenger und verschiedene Medienplattformen verbreitet.

Ziel dieses Leitfadens ist es, Journalistinnen und Journalisten, Forscherinnen und Forschern, Vertretern der Zivilgesellschaft sowie aktiven Bürgerinnen und Bürgern zu helfen:

• ✅ die Hauptarten von Desinformation zu verstehen,

• ✅ Informationsmanipulationen zu erkennen,

• ✅ grundlegende Methoden des Faktenchecks anzuwenden,

• ✅ sich sicher im Informationsraum zu bewegen.

1. WAS IST DESINFORMATION?

Desinformation sind falsche oder irreführende Informationen, die vorsätzlich erstellt und verbreitet werden, um Menschen zu täuschen, die öffentliche Meinung zu beeinflussen oder bestimmte Ziele zu erreichen.

Die drei Hauptformen von Informationsfehlern

DENKEN SIE DARAN: Nicht jede Fehlinformation ist Desinformation. Ein entscheidendes Merkmal von Desinformation ist die Absicht, zu täuschen, zu beeinflussen oder Schaden anzurichten.

2. WARUM IST DESINFORMATION GEFÄHRLICH?

Desinformation ist nicht einfach nur „Fake News“. Sie kann Entscheidungen von Menschen, die Stimmung in der Gesellschaft und sogar die Sicherheit von Staaten beeinflussen.

Im Informationszeitalter wird Desinformation häufig als Einflusswerkzeug genutzt, um:

• ✅ die öffentliche Meinung zu steuern,

• ✅ gesellschaftliche Spaltungen zu vertiefen,

• ✅ das Vertrauen in staatliche und öffentliche Institutionen zu schwächen,

• ✅ politische Prozesse zu beeinflussen,

• ✅ Panik oder Unsicherheit zu schüren.

Die Hauptfolgen von Desinformation

• Rückgang des öffentlichen Vertrauens: Wenn Menschen ständig mit widersprüchlichen oder falschen Informationen konfrontiert werden, verlieren sie das Vertrauen – nicht nur in die Medien, sondern auch in staatliche Stellen, Experten und Fakten selbst.

• Polarisierung: Desinformation stellt die Welt oft in Schwarz-Weiß dar und spaltet die Gesellschaft in gegnerische Lager.

• Panik und Orientierungslosigkeit: In Krisen, Kriegen, Pandemien oder Notfällen kann sich Desinformation rasch ausbreiten und Verunsicherung erzeugen.

• Auswirkungen auf die Demokratie: Informationsmanipulationen können Wahlprozesse, öffentliche Debatten und politische Entscheidungen beeinträchtigen.

Erfahrungen in Armenien

In den letzten Jahren war der armenische Informationsraum wiederholt Informationsdruck, Falschmeldungen, manipulativen Narrativen und koordinierten Kampagnen in sozialen Netzwerken ausgesetzt. Besondere Brisanz besitzen dabei:

• Sicherheitsrelevante Themen

• Außenpolitische Fragen

• Militärische Ereignisse und Grenzvorfälle

• Soziale und politische Krisen

In solchen Situationen ist die Überprüfung von Informationen von zentraler Bedeutung.

3. HYBRIDE BEDROHUNGEN UND FIMI

In der modernen Welt nutzen Staaten und andere Akteure nicht mehr ausschließlich militärische Mittel, um ihre Ziele zu erreichen. Immer häufiger kommen sogenannte hybride Methoden zum Einsatz.

Was ist eine hybride Bedrohung?

Eine hybride Bedrohung ist der kombinierte Einsatz verschiedener Instrumente, um Einfluss auf ein anderes Land, eine Gesellschaft oder eine Institution auszuüben. Diese Instrumente umfassen:

• Desinformation

• Informationsmanipulation

• Cyberangriffe

• Wirtschaftlichen Druck

• Politische Einflussnahme

• Diplomatischen Zwang

Oft werden diese Mittel gleichzeitig und aufeinander abgestimmt eingesetzt.

Was bedeutet FIMI?

FIMI steht für Foreign Information Manipulation and Interference (Fremde Informationsmanipulation und Einmischung).

FIMI bezeichnet koordinierte Aktivitäten, bei denen externe Akteure versuchen, die öffentliche Meinung, politische Prozesse oder den Informationsraum anderer Länder zu beeinflussen.

Wie wird FIMI umgesetzt?

Häufig genutzte Mittel sind:

• ✔ falsche oder irreführende Publikationen,

• ✔ koordinierte Social-Media-Kampagnen,

• ✔ Fake-Accounts und Bots,

• ✔ manipulative Videos,

• ✔ falsche Experten,

• ✔ durch künstliche Intelligenz generierte Inhalte.

Warum ist das für Armenien wichtig?

Länder mit kleineren und offenen Informationsräumen sind oft anfälliger für externe Informationsbeeinflussung. Daher ist es entscheidend:

• Manipulationsversuche zu erkennen,

• Quellen zu überprüfen,

• Narrative zu verstehen,

• Medienkompetenz aufzubauen.

DENKEN SIE DARAN: Nicht jede Falschmeldung ist eine hybride Bedrohung. Das Hauptmerkmal hybrider Operationen ist ihr koordinierter und strategischer Charakter.

4. DIE HÄUFIGSTEN ARTEN VON DESINFORMATION

Desinformation kann viele Formen annehmen. Sie ist nicht immer komplett erfunden; manchmal werden reale Fakten in einem verzerrten oder manipulativen Kontext präsentiert.

1. Fake News: Vollständig erfundene oder falsche Informationen, die als echte Nachrichten getarnt werden.

   • Beispiel: Ein Social-Media-Beitrag behauptet, ein bekannter Amtsträger sei zurückgetreten, obwohl es dazu keine offiziellen Bestätigungen gibt.

2. Manipulative Schlagzeilen (Clickbait): Reißerische Überschriften, die Aufmerksamkeit erregen und zum Klicken verleiten sollen.

   • Beispiel: 🚨 „SCHOCK: Alle sprechen über diese geheime Entscheidung“ / 🚨 „Sie werden nicht glauben, was passiert ist“. Solche Titel entsprechen meist nicht dem Inhalt.

3. Falscher Kontext: Ein echtes Foto oder Video wird als angeblicher Beleg für ein ganz anderes Ereignis verwendet.

   • Beispiel: Ein Foto aus dem Jahr 2016 wird als Aufnahme eines aktuellen Geschehens ausgegeben.

4. Bearbeitete Bilder und Videos: Fotos oder Videos werden verändert, um Täuschendes vorzutäuschen (Ausschneiden von Sequenzen, Entfernen des Kontextes, Hinzufügen gefälschter Elemente).

5. Verschwörungstheorien: Behauptungen, dass wichtige Ereignisse von geheimen Kräften gesteuert werden.

   Verschwörungstheorien zeichnen sich meist dadurch aus, dass sie:

   • ❌ nicht auf überprüfbaren Beweisen basieren,

   • ❌ übermäßig einfache Erklärungen liefern,

   • ❌ widersprechende Fakten konsequent ablehnen.

6. Mit KI generierte Inhalte: Moderne KI-Werkzeuge können Texte, Bilder, Stimmen und Videos erzeugen. Sensationsgeladene oder ungewöhnliche Inhalte sollten daher doppelt geprüft werden.

Schnelle Checkliste

Verlangt eine Publikation nach zusätzlicher Überprüfung?

• [ ] Ist der Tonfall extrem emotional?

• [ ] Schürt der Beitrag Angst oder Wut?

• [ ] Fehlt eine klare Quellenangabe?

• [ ] Wird zu einer sofortigen Weiterverbreitung aufgefordert?

• [ ] Enthält die Meldung reißerische Behauptungen?

Trifft mindestens ein Punkt zu, ist eine genaue Überprüfung erforderlich.

5. DEEPFAKES UND KÜNSTLICHE LOGIK

Die Entwicklung der künstlichen Intelligenz hat den Informationsraum grundlegend verändert. Heute ist es möglich, Bilder, Töne und Videos zu erzeugen, die kaum noch vom Original zu unterscheiden sind.

Was ist ein Deepfake?

Ein Deepfake ist ein Video, Foto oder Audio, das mithilfe von künstlicher Intelligenz erstellt oder verändert wurde und als real ausgegeben wird.

Warum sind Deepfakes gefährlich?

Sie können:

• Personen Aussagen zuschreiben, die diese nie getätigt haben,

• gefälschte Beweise erzeugen,

• den Ruf von Personen schädigen,

• politische Prozesse beeinflussen,

• sich extrem schnell in sozialen Netzwerken verbreiten.

Wie erkennt man einen Deepfake?

• Mimik und Gesichtsbewegungen: Unverhältnismäßige Gesichtsausdrücke, merkwürdiges Blinzeln, Gesichtsverzerrungen.

• Menschliche Stimme: Unnatürliche Intonation, plötzliche Stimmveränderungen, Asynchronität zwischen Lippenbewegung und Ton.

• Quelle prüfen: Wer hat das Material veröffentlicht? Gibt es eine Originalquelle? Wird der Inhalt von verlässlichen Medien bestätigt?

Kurzregel zur Überprüfung von Deepfakes:

Ist das Video extrem reißerisch, taucht es nur in einer einzigen Quelle auf und schlägt in sozialen Netzwerken hohe Wellen? Erst überprüfen, dann vertrauen.

Künstliche Intelligenz an sich ist keine Bedrohung. Das Problem liegt in ihrem Missbrauch zur Erstellung von Desinformation und Manipulation.

6. IN 5 SCHRITTEN ZUM FAKTENCHECK

Der Faktencheck ist eines der wirksamsten Mittel gegen Desinformation. Bevor Sie einer Information vertrauen oder sie teilen, gehen Sie folgende fünf Schritte durch:

[Schritt 1: Quelle prüfen] ➔ [Schritt 2: Ursprung finden] ➔ [Schritt 3: Abgleichen] ➔ [Schritt 4: Medien prüfen] ➔ [Schritt 5: Innehalten]

1. Schritt 1: Quelle prüfen

   • Wer hat die Information veröffentlicht?

   • Handelt es sich um eine bekannte und zuverlässige Quelle?

   • Sind Autor und Veröffentlichungsdatum angegeben?

   • Gibt es Kontaktinformationen oder ein Impressum?

     (Lässt sich die Quelle nicht nachvollziehen, ist Vorsicht geboten.)

2. Schritt 2: Ursprung finden

   • Viele Beiträge berufen sich vage auf „Medien“, „Experten“ oder „vertrauliche Quellen“.

   • Finden Sie heraus: Wo wurde die Information zuerst veröffentlicht? Wer ist der Erstautor? Gibt es eine offizielle Stellungnahme?

3. Schritt 3: Mit anderen Quellen vergleichen

   • Prüfen Sie, ob etablierte Medien, Behörden, internationale Organisationen oder unabhängige Experten ebenfalls darüber berichten. Berichtet nur eine einzige Quelle über ein wichtiges Ereignis, ist eine Skepsis angebracht.

4. Schritt 4: Fotos und Videos überprüfen

   • Desinformation nutzt oft alte oder manipulierte Bilder.

   • Nutzen Sie Tools zur Bilderrückwärtssuche (z. B. Google Lens, TinEye, Yandex Images), um zu sehen, ob ein Bild früher in einem anderen Kontext verwendet wurde.

5. Schritt 5: Nicht voreilig teilen

   • Das Haupttriebmittel für Desinformation ist die schnelle Weiterverbreitung.

   • Wenn Sie unsicher sind: Nicht verbreiten, nicht als Fakt darstellen, nicht als Quelle nutzen.

DIE GOLDENE REGEL DES FAKTENCHECKS:

Wirkt eine Information zu reißerisch, ist die Wahrscheinlichkeit hoch, dass sie einer zusätzlichen Überprüfung bedarf.

7. OSINT: SCHLÜSSELWERKZEUGE FÜR OFFENE QUELLEN

OSINT (Open Source Intelligence) bezeichnet die Methodik zur Sammlung und Überprüfung von Informationen aus frei zugänglichen Quellen.

Schnelle OSINT-Checkliste

Wenn Sie auf einen verdächtigen Beitrag stoßen:

• [ ] Wer ist die Quelle?

• [ ] Gibt es eine nachweisbare Erstquelle?

• [ ] Wurde das Foto überprüft?

• [ ] Wurde das Video verifiziert?

• [ ] Liegt eine unabhängige Bestätigung vor?

• [ ] Passt die Aussage zum Gesamtkontext?

DENKEN SIE DARAN: OSINT ist keine reine Technologie, sondern eine Denkweise. Ein guter Rechercheur fragt stets: „Wie kann ich diese Information unabhängig überprüfen?“

8. ALGORITHMEN UND DIE VERBREITUNG VON DESINFORMATION

Wir sehen in den sozialen Medien nicht alle Beiträge in chronologischer Reihenfolge. Algorithmen wählen Inhalte aus, die maximale Aufmerksamkeit versprechen.

Warum verbreiten sich Falschmeldungen oft schneller?

Beiträge, die Wut, Angst, Erstaunen oder Bewunderung hervorrufen, erzielen höhere Interaktionsraten. Viele Kommentare und Shares signalisieren der Plattform „Interesse“ – der Beitrag wird weiteren Nutzern angezeigt. Der Algorithmus prüft dabei nicht, ob der Inhalt wahr oder falsch ist.

Die Informationsblase (Echokammer)

Folgen wir nur Seiten mit der gleichen Meinung, schlägt die Plattform zunehmend ähnliche Inhalte vor. Es entsteht eine Informationsblase: Die wiederholte Konfrontation mit derselben Behauptung erzeugt die Illusion von Wahrheit.

So verringern Sie diesen Effekt:

• [ ] Bewerten Sie Aussagen nicht nach der Anzahl von Likes und Shares.

• [ ] Vergleichen Sie verlässliche Quellen mit unterschiedlichen Perspektiven.

• [ ] Halten Sie bei reißerischem Material inne und suchen Sie die Originalquelle.

• [ ] Teilen Sie Inhalte nicht nur deshalb, weil sie Ihre eigene Meinung bestätigen.

Hohe Aufrufzahlen sind kein Beweis für Glaubwürdigkeit. Popularität zeigt nur das Ausmaß der Verbreitung, nicht die Richtigkeit.

9. NARRATIVE UND SYSTEMATISCHE INFORMATIONSKAMPAGNEN

Eine einzelne Falschmeldung ist meist eine punktuelle Behauptung. Ein Narrativ hingegen ist ein übergeordnetes Erklärungs- und Deutungsmuster, das über einen langen Zeitraum wiederholt wird. Ein Narrativ kann auf realen Fakten basieren, stellt diese jedoch selektiv dar, um Haltungen gezielt zu verändern.

Wie erkennt man ein Narrativ?

• Dieselben Formulierungen tauchen auf verschiedenen Seiten und Medienkanälen auf.

• Komplexe Ereignisse werden auf einen einzigen, einfachen Sündenbock reduziert.

• Begriffe, die Angst, Feindseligkeit oder Ausweglosigkeit schüren, werden gezielt eingesetzt.

• Widersprechende Fakten werden verschwiegen oder als „Teil einer Verschwörung“ abgetan.

Anzeichen systematischer Verbreitung

Verdacht ist geboten, wenn mehrere Konten innerhalb kurzer Zeit identische Texte, Hashtags oder Videos veröffentlichen, wenn neu erstellte Seiten ausschließlich zu einem Thema aktiv sind oder die Zahl der Interaktionen unnatürlich hoch erscheint. Ein einzelnes Merkmal reicht nicht aus, aber die Kombination mehrerer Anzeichen erfordert eine vertiefte Recherche.

Format für eine einfache Analyse

1. Welche Hauptidee wird wiederholt?

2. Wer hat sie zuerst verbreitet?

3. Auf welches Publikum und welche Emotionen zielt sie ab?

4. Welche Fakten werden aus dem Zusammenhang gerissen?

5. Wer profitiert von dieser Darstellung?

10. VERTIEFTE PRÜFUNG VON FOTOS UND VIDEOS

Ein echtes Bild kann irreführend sein, wenn es mit einer falschen Geschichte über Ort, Zeit oder Ereignis verknüpft wird. Es gilt daher nicht nur zu prüfen, ob ein Bild bearbeitet wurde, sondern auch, ob der Kontext stimmt.

• Schritt 1: Ausgangsmaterial sichern

  Link, Autorennamen, Datum und Begleittext sichern. Falls der Beitrag gelöscht wird, bleibt der Überprüfungsprozess nachvollziehbar.

• Schritt 2: Rückwärtssuche durchführen

  Google Lens, TinEye oder Yandex Images nutzen. Bei Videos prägnante Einzelbilder (Keyframes) extrahieren und einzeln suchen.

• Schritt 3: Sichtbare Details analysieren

  • [ ] Straßenschilder und Werbeflächen

  • [ ] Architektur und geografische Besonderheiten

  • [ ] Wetterlage, Schattenwurf und Vegetation

  • [ ] Kennzeichen, Uniformen oder Abzeichen

• Schritt 4: Mit unabhängigen Daten abgleichen

  Offizielle Berichte, Karten, Wetterdaten und Berichte anderer Medien heranziehen. Lässt sich der Ort oder Zeitpunkt nicht zweifelsfrei bestätigen, ist diese Unsicherheit transparent zu machen.

Wichtiges Prinzip: Das Fehlen von Metadaten ist kein Beweis für eine Fälschung – viele Plattformen entfernen diese automatisch. Die Bewertung sollte immer auf mehreren unabhängigen Belegen beruhen.

11. FAKE-ACCOUNTS, BOTS UND FALSCHE EXPERTEN

Fake-Accounts können sich als gewöhnliche Bürger, Journalisten oder Experten ausgeben. Ihr Ziel ist es oft, Glaubwürdigkeit vorzutäuschen, Debatten abzulenken oder eine künstliche Mehrheit zu erzeugen.

Merkmale zur Bewertung von Accounts

• Das Konto ist neu, weist aber ein extrem hohes Beitragsaufkommen auf.

• Nahezu alle Beiträge drehen sich um ein einziges Thema oder eine Person.

• Biografie, Profilbild oder Berufserfahrung sind unvollständig oder nicht verifizierbar.

• Identische Texte werden von mehreren Konten geteilt.

• Der Account greift vorrangig Personen an, anstatt überprüfbare Fakten zu liefern.

Wie prüft man „Experten“?

Suchen Sie nach einer beruflichen Biografie auf offiziellen Organisations-Websites, in akademischen Datenbanken oder Veröffentlichungen. Prüfen Sie, ob die Person im Rahmen ihrer tatsächlichen Fachdisziplin spricht. Medienpräsenz oder hohe Followerzahlen sind für sich genommen keine fachliche Qualifikation.

Nicht voreilig urteilen: Anonymität oder häufiges Posten machen ein Konto noch nicht automatisch zum Bot. Nutzen Sie mehrere Kriterien, sichern Sie Belege und trennen Sie Fakten von Spekulationen.

12. VORGEHEN NACH DEM AUFFINDEN VON DESINFORMATION

Das Aufdecken von Falschmeldungen ist nicht der letzte Schritt. Die Richtigstellung muss umsichtig erfolgen, um die Reichweite der Falschbehauptung nicht ungewollt zu erhöhen.

1. Beweise sichern: Link, Screenshot, Veröffentlichungsdatum und Account-Daten speichern. Sensible personenbezogene Daten nur verarbeiten, wenn es das öffentliche Interesse erfordert.

2. Richtigstellung strukturiert aufbauen:

   • ✔ Zuerst den gesicherten Fakt nennen.

   • ✔ Dann kurz die falsche bzw. irreführende Behauptung beschreiben.

   • ✔ Die Methode der Überprüfung erklären und Quellen angeben.

   • ✔ Zum Abschluss die korrekte Information nochmals betonen.

3. Verhältnismäßig reagieren: Falschmeldungen mit geringer Reichweite meldet man am besten direkt der Plattform. Betrifft das Material die Gesundheit, Sicherheit oder Wahlprozesse, ist ein rascher, öffentlicher Faktencheck notwendig.

4. Eigene Fehler korrigieren: Haben Sie selbst unüberprüfte Informationen geteilt, löschen Sie diese nicht kommentarlos. Veröffentlichen Sie eine transparente Korrektur.

Ziel: Es geht nicht darum, Diskussionen zu „gewinnen“, sondern verifizierbare Fakten bereitzustellen und das Vertrauen in verlässliche Informationen wiederherzustellen.

ABSCHLIESSENDER SCHNELLCHECK

Wenn Sie auf einen verdächtigen Beitrag stoßen, beantworten Sie zuerst diese Fragen:

• [ ] Wer ist die Quelle?

• [ ] Gibt es eine überprüfbare Erstquelle?

• [ ] Wurde das Foto verifiziert?

• [ ] Wurde das Video überprüft?

• [ ] Gibt es unabhängige Bestätigungen?

• [ ] Passt die Aussage zum Gesamtkontext?

GOLDENE REGEL: Erst überprüfen, dann teilen.

Die Broschüre wurde im Rahmen des Projekts zur Überwachung von Desinformationsströmen erstellt.

#CivilSocietyCooperation #ishrarmenia #ishrfactcheck

Das Projekt wird mit finanzieller Unterstützung des Auswärtigen Amtes der Bundesrepublik Deutschland durchgeführt.