Wir kämpfen gegen sexuelle Erpressung und den Missbrauch von intimen Bildern

Unsere Richtlinien und wie wir sie durchsetzen

Wir haben strenge Regeln, um Inhalte und Verhaltensweisen zu unterbinden, durch die Menschen ausgebeutet werden. Dazu gehört auch das Teilen von intimen Bildern einer anderen Person sowie die Drohung, solche Bilder zu teilen. Wir möchten alle unsere Nutzer*innen darin bestärken, Inhalte zu melden, die ihrer Ansicht nach gegen unsere Regeln verstoßen – und haben eine spezielle Meldeoption, wenn es dabei um das Teilen privater Bilder geht. Wenn wir von solchen Inhalten erfahren, werden wir sofort aktiv.

Es gibt bei uns spezielle Teams für den Kampf gegen die sexuelle Erpressung. Wir haben bestimmte Muster ermittelt, die mit dieser Verhaltensweise in Verbindung stehen, und daraufhin automatisierte Systeme entwickelt, die im großen Umfang solche Konten aufspüren und entfernen. Außerdem gibt es bei uns spezielle Teams, die die Straftäter*innen überprüfen, entfernen und sie den Behörden melden. Das können unter Umständen auch die Strafverfolgungsbehörden und das National Center for Missing and Exploited Children (NCMEC) sein. In Zusammenarbeit mit Partnern wie dem NCMEC oder der International Justice Mission tragen wir zur Weiterbildung von Strafverfolgungsbehörden weltweit bei, damit sie solche Fälle erkennen, überprüfen und entsprechende Maßnahmen ergreifen können.

Wie wir unerwünschte Kontakte verhindern

Wir tragen zum Schutz unserer Nutzer*innen vor sexueller Erpressung bei, indem wir eine unerwünschte Kontaktaufnahme verhindern, insbesondere zwischen Erwachsenen und Jugendlichen. Das erreichen wir auf verschiedenen Wegen:

• Wenn Teenager unter 16 Jahren (in einigen Ländern unter 18 Jahren) ein neues Instagram-Konto erstellen, setzen wir dieses automatisch auf „privat“. Standardmäßig dürfen Teens von Personen, denen sie nicht folgen, weder markiert noch erwähnt und ihre Inhalte auch nicht in Reel-Remixes oder Guides verwendet werden. Dies verhindert ziemlich effektiv, dass Erwachsene Kontakt zu Jugendlichen aufnehmen, die sie nicht kennen oder die diesen Kontakt nicht wünschen. Mit einem privaten Konto können Teenager und Erwachsene auch verhindern, dass andere eine Liste der Personen sehen, mit denen sie befreundet sind oder die ihnen folgen. Solche Listen könnten zum Zweck der sexuellen Erpressung missbraucht werden.
• Wir verhindern, dass Erwachsene über 18 Jahre auf Instagram und im Messenger private Chats mit Teens starten können, mit denen sie nicht vernetzt sind.
• Nachrichtenanfragen von Nutzer*innen an Personen, die ihnen nicht folgen oder mit denen sie noch keinen Kontakt hatten, dürfen nur Text enthalten. Erst wenn die Person die Nachrichtenanfrage angenommen hat, kann der*die Nutzer*in ihr Bilder, Videos, oder Sprachnachrichten senden. (Letztes Update am 25. November um 14:30 Uhr PT unter Berücksichtigung unserer neuesten Richtlinien.)
• Zudem haben wir für Teenager unter 16 Jahren (in einigen Ländern unter 18) strengere Standardeinstellungen für Nachrichten eingeführt. Teenager können also von Personen, denen sie nicht folgen und mit denen sie auf Instagram oder im Messenger auch keinen Kontakt haben, keine Nachrichten erhalten oder zu einem Gruppenchat hinzugefügt werden. Das soll Teens mehr Sicherheit geben, dass sie keine privaten Nachrichten von Personen erhalten, die sie nicht kennen.
• Mit technologischen Hilfsmitteln ermitteln wir potenziell verdächtige Erwachsene und verhindern, dass diese Teen-Konten finden, folgen und mit ihnen interagieren können. Diesen Erwachsenen empfehlen wir auch keine Konten von Teenagern.

Unsere Informationskampagnen

Wenn Teenager mit bestimmten Erwachsenen interagieren, informieren wir sie entsprechend.

• Wir teilen Teens mit, wenn ein potenziell verdächtiges Konto versucht, ihnen zu folgen, und fordern jüngere Nutzer*innen auf, sich vorsichtiger zu verhalten.
• Unsere proaktiven Sicherheitshinweise erscheinen immer dann, wenn Erwachsene, die sich potenziell verdächtig verhalten, jungen Nutzer*innen Nachrichten senden. Wenn zum Beispiel ein*e Erwachsene*r viele Freundschaftsanfragen an Personen unter 18 Jahren sendet, informieren wir die Empfänger*innen innerhalb der Nachrichten darüber und geben ihnen die Möglichkeit, die erwachsene Person zu blockieren, zu melden oder einzuschränken.

Zusammenarbeit mit Expert*innen

Unsere Zusammenarbeit mit Expert*innen im Kampf gegen die sexuelle Erpressung weltweit ist uns außerordentlich wichtig und wir engagieren uns seit vielen Jahren zu diesem Thema.

• In Zusammenarbeit mit Thorn haben wir 2017 die Initiative Stop Sextortion gegründet und diese Ressourcen gemeinsam in unser Safety Center integriert, indem wir sie in mehr als 60 weitere Sprachen übersetzt haben. Auf Deutsch findest du sie unter „Stark gegen sexuelle Erpressung“. In einer weiteren Zusammenarbeit mit dem Thorn-Projekt NoFiltr haben wir Infomaterialien erstellt. Damit sollen Scham und Stigma rund um intime Bilder abgebaut werden. Wir möchten Teenager darin bestärken, sich Unterstützung zu suchen und auf diese Weise die Kontrolle zurückgewinnen, wenn sie solche Bilder geteilt haben oder sexuell erpresst werden.
• Meta ist ebenfalls ein Gründungsmitglied des Programms Lantern. Dies wird von der Tech Coalition organisiert und ermöglicht es Technologieunternehmen, Hinweise über Konten und Verhaltensweisen auszutauschen, die gegen ihre Richtlinien zum Schutz von Kindern verstoßen. Wir haben der Tech Coalition die technische Infrastruktur für das Programm zur Verfügung gestellt und pflegen sie auch weiterhin. Die teilnehmenden Unternehmen können anhand solcher Hinweise ihre eigenen Plattformen überprüfen und entsprechende Maßnahmen ergreifen. Das ist ungemein wichtig, denn es ist bekannt, dass Sexualstraftäter*innen sich nicht auf eine bestimmte Plattform beschränken – wir müssen das Ganze also gemeinsam angehen.
• Meta unterstützt auch weiterhin StopNCII.org bei der Erweiterung seines globalen Partnernetzwerks: Über 90 Opferanwält*innen und Nonprofit-Organisationen weltweit organisieren Präventionskampagnen und unterstützen Menschen, die sexuelle Erpressung und den Missbrauch intimer Bilder selbst erlebt haben.