Richtlinie gegen synthetische oder manipulierte Medien

Übersicht

April 2023

Du darfst keine synthetischen, manipulierten oder aus dem Zusammenhang gerissenen Medien teilen, die Menschen täuschen oder verwirren und zu Schäden führen können („irreführende Medien“). Darüber hinaus können wir posts, die irreführende Medien enthalten, kennzeichnen, damit ihre Authentizität verdeutlicht und zusätzlicher Kontext geliefert wird.

Was verstößt gegen diese Richtlinie?

Damit Inhalte mit irreführenden Medien (u. a. Bilder, Videos, Audiodateien, GIFs und URLs, die zu davon betroffenen Inhalten führen) gemäß dieser Richtlinie gekennzeichnet oder entfernt werden, müssen sie:

  • Medien enthalten, die erheblich und auf betrügerische Weise verändert, manipuliert oder fabriziert wurden, oder
  • Medien enthalten, die auf betrügerische Weise oder mit falschem Kontext geteilt werden, und
  • Medien enthalten, die mit großer Wahrscheinlichkeit zu einer weit verbreiteten Verwirrung in Bezug auf öffentliche Themen führen, die öffentliche Sicherheit beeinträchtigen oder ernsthaften Schaden anrichten können.

Im Rahmen unserer fortlaufenden Arbeit zur Durchsetzung unserer Regeln und zur Gewährleistung gesunder und sicherer Unterhaltungen auf X verwenden wir die folgenden Kriterien, wenn wir posts und Medien für die Kennzeichnung oder Entfernung gemäß dieser Richtlinie in Betracht ziehen:

1. Wurden die Inhalte erheblich und auf betrügerische Weise verändert, manipuliert oder fabriziert?

Damit Inhalte gemäß dieser Richtlinie gekennzeichnet oder entfernt werden können, müssen wir Grund zu der Annahme haben, dass die Medien erheblich und auf betrügerische Weise verändert, manipuliert oder fabriziert wurden. Synthetische und manipulierte Medien können viele verschiedene Formen annehmen und Menschen können eine breite Palette von Technologien zur Produktion dieser Medien einsetzen. Wir berücksichtigen unter anderem die folgenden Faktoren:

  • ob Medien erheblich und in einer Weise bearbeitet oder nachbearbeitet wurden, die ihre Zusammensetzung, Reihenfolge, Timing oder Rahmung grundlegend verändert und ihre Bedeutung verzerrt; 
  • ob visuelle oder akustische Informationen (z. B. neue Videoframes, überspielte Audiodateien oder geänderte Untertitel) hinzugefügt, bearbeitet oder entfernt wurden, die das Verständnis, die Bedeutung oder den Kontext der Medien grundlegend verändern;
  • ob Medien mit Verbesserungen oder Filtern erstellt, bearbeitet oder nachbearbeitet wurden, die das Verständnis, die Bedeutung oder den Kontext der Inhalte grundlegend verändern; und
  • ob Medien, die eine reale Person darstellen, fabriziert oder simuliert wurden, insbesondere durch den Einsatz von Algorithmen für künstliche Intelligenz

Wir werden keine Medien kennzeichnen oder entfernen, die auf eine Weise bearbeitet wurden, die ihre Bedeutung nicht grundlegend verändert, wie z. B. retuschierte Fotos oder farbkorrigierte Videos. 

Wir können unsere eigene Technologie verwenden oder Berichte über unsere Partnerschaften mit Drittanbietern erhalten und somit feststellen, ob Medien erheblich und auf betrügerische Weise verändert oder fabriziert wurden. In Situationen, in denen wir nicht zuverlässig feststellen können, ob Medien verändert oder fabriziert wurden, ergreifen wir möglicherweise keine Maßnahmen zur Kennzeichnung oder Entfernung.

2. Wird der Inhalt auf betrügerische Weise oder mit falschem Kontext geteilt?

Wir prüfen auch, ob der Kontext, in dem Medien geteilt werden, zu Verwirrung führen könnte oder auf eine bewusste Absicht hindeutet, Nutzer*innen über die Art oder Herkunft der Inhalte zu täuschen, z. B. wenn fälschlicherweise behauptet wird, dass sie die Realität abbilden. Wir bewerten den zusammen mit den Medien bereitgestellten Kontext, damit wir feststellen können, ob sie wahre und sachliche Informationen darstellen. Damit wir diese Bestimmung treffen können, ziehen wir unter anderem folgende Arten von Kontext zurate:

  • ob unechte, fiktive oder produzierte Medien als Tatsache oder Realität präsentiert oder gebilligt werden, darunter produzierte und inszenierte Werke, Nachstellungen oder Ausstellungen, die als tatsächliche Ereignisse dargestellt werden;
  • ob Medien mit falschem oder irreführendem Kontext in Bezug auf Quelle, Standort, Zeit oder Authentizität der Medien präsentiert werden;
  • ob Medien mit falschem oder irreführendem Kontext in Bezug auf die Identität der in den Medien visuell dargestellten Personen oder Organisationen präsentiert werden;
  • ob Medien mit falschen Angaben oder Zitaten oder mit fabrizierten Tatsachenbehauptungen über das Dargestellte präsentiert werden

Wir werden keine Maßnahmen zur Kennzeichnung oder Entfernung von Medien ergreifen, die mit Kommentaren oder Meinungen geteilt wurden, bei denen keine irreführende Behauptung über den Kontext der Medien wie oben aufgeführt dargestellt oder gefördert wird. 

Wir können unsere eigene Technologie verwenden oder Berichte über unsere Partnerschaften mit Drittanbietern erhalten und somit feststellen, ob Medien auf betrügerische Weise oder mit falschem Kontext geteilt wurden. In Situationen, in denen wir nicht zuverlässig ermitteln können, ob Medien mit falschem Kontext geteilt wurden, werden wir die Inhalte weder kennzeichnen noch entfernen.

3. Werden die Inhalte mit großer Wahrscheinlichkeit zu einer weit verbreiteten Verwirrung in Bezug auf öffentliche Themen führen, die öffentliche Sicherheit beeinträchtigen oder ernsthaften Schaden anrichten?

posts, die irreführende Medien teilen, können gemäß dieser Richtlinie entfernt werden, wenn sie mit hoher Wahrscheinlichkeit ernsthaften Schaden anrichten können. Zu den spezifischen Schäden, die wir in Betracht ziehen, zählen unter anderem:

  • Die Bedrohung der physischen Sicherheit einer Person oder Gruppe
  • Die Anstiftung zu missbräuchlichem Verhalten gegenüber einer Person oder Gruppe
  • Das Risiko von Massengewalt oder weit verbreiteten Bürgerunruhen
  • Das Risiko, die Bereitstellung öffentlicher Dienste, Schutzbemühungen oder Notfallmaßnahmen zu behindern oder zu erschweren
  • Die Bedrohung der Privatsphäre oder der Fähigkeit einer Person oder Gruppe, sich frei zu äußern oder an öffentlichen Veranstaltungen teilzunehmen, wie z. B.:
    • Stalking oder unerwünschte und obsessive Aufmerksamkeit
    • Zielgerichtete Inhalte, die darauf abzielen, jemand anderen zu belästigen, einzuschüchtern oder zum Schweigen zu bringen
    • Unterdrückung oder Einschüchterung von Wählern

Wir berücksichtigen außerdem den Zeitrahmen, in dem die Inhalte am wahrscheinlichsten die öffentliche Sicherheit beeinträchtigen oder ernsthaften Schaden anrichten, und werden eher Inhalte im Rahmen dieser Richtlinie entfernen, wenn ein unmittelbarer Schaden besonders wahrscheinlich ist.

posts mit irreführenden Medien, die wahrscheinlich keinen unmittelbaren Schaden anrichten, aber dennoch die öffentliche Sicherheit gefährden, Schaden anrichten oder zu einer weit verbreiteten Verwirrung in Bezug auf ein öffentliches Problem (Gesundheit, Umwelt, Sicherheit, Menschenrechte und Gleichberechtigung, Einwanderung sowie soziale und politische Stabilität) führen können, werden möglicherweise von uns gekennzeichnet, damit ihre Verbreitung eingeschränkt und zusätzlicher Kontext bereitgestellt wird. 

Wir haben weitere Regeln zur Schadensvermeidung, einschließlich unserer Richtlinien zu Gewaltandrohungen, der Integrität staatsbürgerlicher Prozesse und Hass schürendem Verhalten. In einigen Ausnahmefällen, bei denen möglicherweise nicht gegen bestehende Regeln für posts verstoßen wird, die irreführende Medien enthalten, behalten wir uns das Recht vor, eine Entfernung vorzunehmen.

Was verstößt nicht gegen diese Richtlinie?
 

Wir versuchen, die öffentliche Unterhaltung über verschiedene Themen zu schützen. Diese Gespräche werden oft von Medien begleitet, welche zum weiteren Diskurs anregen. Sofern keine anderen Richtlinienverstöße vorliegen, werden die folgenden Beispiele im Allgemeinen nicht als Verstöße gegen diese Richtlinie erachtet:

  • Memes oder Satire, sofern diese nicht zu einer erheblichen Verwirrung über die Echtheit der Medien führen;
  • Animationen, Illustrationen und Cartoons, sofern diese nicht zu einer erheblichen Verwirrung über die Echtheit der Medien führen.
  • Kommentare, Bewertungen, Meinungen und/oder Reaktionen. Das Teilen von Medien mit Bearbeitungen, die nur Kommentare, Bewertungen, Meinungen oder Reaktionen hinzufügen, ermöglicht weitere Debatten und Diskussionen zu verschiedenen Themen und verstößt nicht gegen diese Richtlinie.
  • Gegenrede. Wir erlauben direkte Reaktionen auf irreführende Informationen, die deren Auswirkungen zu mindern versuchen, indem sie Aussagen korrigieren, glaubwürdige Informationen betonen und die Community über die Verbreitung und Dynamik irreführender Informationen aufklären.

Was geschieht bei Verstößen gegen diese Richtlinie?
 

Die Konsequenzen für einen Verstoß gegen unsere Richtlinie zu synthetischen und manipulierten Medien hängen von der Schwere des Verstoßes ab.

post-Löschung
Bei schwerwiegenden Verstößen gegen die Richtlinie, einschließlich irreführender Medien, die ein ernsthaftes Schadensrisiko für Einzelpersonen oder Communities darstellen, werden wir dich dazu auffordern, diese Inhalte zu entfernen.

Kennzeichnung
Wenn posts irreführenden Medien teilen, wir die gegen die Richtlinie verstoßenden Inhalte jedoch nicht entfernen, können wir dort zusätzlichen Kontext bereitstellen, wo sie auf X erscheinen. Das bedeutet, dass wir Folgendes in Betracht ziehen:

  • Eine Kennzeichnung und/oder eine Warnmeldung auf dem post anzeigen
  • Nutzer*innen eine Warnung anzeigen, bevor sie den post teilen oder mit „Gefällt mir“ markieren
  • Die Sichtbarkeit des posts auf X verringern und/oder verhindern, dass er weiterempfohlen wird
  • „Gefällt mir“-Angaben, Antworten und Reposts abschalten
  • Einen Link zu weiteren Erklärungen oder Erläuterungen bereitstellen, z. B. in relevanten X Richtlinien

In den meisten Fällen führen wir bei posts, die wir kennzeichnen, eine Kombination der oben genannten Maßnahmen durch. 

Sperrung von Accounts
Wenn wir feststellen, dass ein Account schädliche irreführende Narrative fördert oder fortlaufend verbreitet, die gegen die Richtlinie zu synthetischen und manipulierten Medien verstoßen, können wir die Sichtbarkeit des Accounts vorübergehend einschränken oder den Account sperren. 

Wenn du der Meinung bist, dass dein Account fälschlicherweise gesperrt wurde, kannst du Einspruch einlegen.

Zusätzliche Ressourcen
 

Hier erfährst du mehr über unsere verschiedenen Durchsetzungsmaßnahmen.

Diesen Artikel teilen