Facebook-Gruppe bringt Tools nach Europa, die helfen, Posts von gefährdeten Personen zu identifizieren: offener Kampf gegen Selbstbeschädigung und Selbstmord
Facebook und Instagram machen einen weiteren Schritt nach vorne, um das komplexe Thema der psychischen Gesundheit zu unterstützen. Um die bereits in den letzten Jahren unternommenen Anstrengungen zu konsolidieren, haben die beiden sozialen Netzwerke beschlossen, die Vorschriften gegen Inhalte, die zu Selbstmord und Selbstverletzung anstiften, auf die Europäische Union auszuweiten.
Bereits 2016 hatte Facebook seine Kampagne zur Unterstützung von Suizid- und Selbstverletzungsgefährdeten gestartet und einen anonymen Meldedienst eingeführt, um alle besonders gefährdeten Nutzer umgehend zu identifizieren. Im Laufe der Zeit wurden die Maßnahmen auch auf Instagram ausgedehnt, das inzwischen unter die Ägide des sozialen Netzwerks fällt. Während dieses System in vielen anderen Ländern bereits in Kraft ist, stößt es in Europa auf größere Schwierigkeiten, insbesondere aufgrund der europäischen Datenschutzverordnung, die es nicht zulässt, dass solche Inhalte mit menschlicher Unterstützung bearbeitet werden, weder für die Anerkennung noch für die Ansprache von Unterstützungsgruppen.
Facebook und Instagram, wie sie derzeit bei riskanten Inhalten vorgehen
Um potenziell gefährliche Posts zu identifizieren, die, wie in diesem Fall, Menschen mit Schwierigkeiten aufstacheln könnten, wurde ein System entwickelt, das auf einer Technologie basiert, die riskante Inhalte erkennen kann. Nach der Identifizierung werden solche Beiträge, ob in Text- oder Fotoformat, wie Bilder, Zeichnungen, Memes oder echte Fotos, an ein Überprüfungsteam weitergeleitet, das aus echten Menschen besteht und nicht von einer künstlichen Intelligenz repräsentiert wird.
Nach der Analyse solcher Inhalte kann das Überprüfungsteam auf verschiedene Weise handeln. In einem ersten Schritt kann das Team beschließen, die Beiträge oder Bilder zu entfernen, oder, wenn sie als gefährlicher eingestuft werden, die Person mit lokalen Organisationen in Verbindung zu setzen, die ihr bei der Bewältigung dieser Probleme helfen können, oder sogar die Notdienste zu kontaktieren, falls erforderlich.
Und es ist der letzte Teil, an dem Facebook arbeitet und versucht, eine Lösung mit dem Gesetzgeber zu finden, um seine Unterstützung endlich auf europäische Bürger auszuweiten, die bisher von dieser Art von Hilfe ausgeschlossen waren.
Facebook und Instagram, die Notrufnummern für Selbstmord und Selbstverletzung
Nach Angaben von Facebook und Instagram liefern die Systeme zur Erkennung von Posts über Selbstmord und Selbstverletzung bereits hervorragende Ergebnisse. Der Meldung zufolge wurden über 90 Prozent der zwischen April und Juni 2020 identifizierten Inhalte von der Technologie erkannt, noch bevor andere Nutzer der Plattformen sie gemeldet hatten.
Die beiden Plattformen engagieren sich zunehmend und haben sich auch dazu entschlossen, einen Unterstützungsdienst für Personen anzubieten, die nach Konten oder Hashtags im Zusammenhang mit diesen Themen suchen. In enger Zusammenarbeit mit zahlreichen lokalen Hilfsorganisationen wollen die beiden Größen des sozialen Netzwerks als Bindeglied zwischen den beiden Parteien fungieren, wobei die strengen europäischen Datenschutzbestimmungen stets eingehalten werden.