Facebook hat die Hilfe eines Social-Media-Analyseunternehmens in Anspruch genommen, um gefälschte Profile aufzuspüren, und hat einige mit computergenerierten Fotos gefunden
Facebook geht hart gegen gefälschte Profile vor. Das in Menlo Park ansässige soziale Netzwerk hat beschlossen, gegen gefälschte Profile mit Fotos von Gesichtern vorzugehen, die mit Hilfe künstlicher Intelligenz erstellt wurden und nach Angaben des Social-Media-Analyseunternehmens Graphika vor allem zur Verbreitung von Regierungspropaganda auf der Plattform genutzt wurden.
Das soziale Netzwerk gab am Dienstag bekannt, dass im Rahmen der Operation 155 Konten, 11 Seiten, neun Gruppen auf Facebook und sechs Konten auf der Plattform Instagram wegen "nicht authentischen, koordinierten Verhaltens im Namen einer ausländischen oder staatlichen Einrichtung" gelöscht wurden. Die über die Konten verbreiteten Inhalte konzentrierten sich insbesondere auf Ereignisse in Südostasien und den Vereinigten Staaten. Zu den häufigsten Beiträgen in der ersten, größten Gruppe von Profilen gehörten solche, die sich auf Pekings Interessen im Südchinesischen Meer und in Hongkong bezogen, während in der zweiten, kleineren Gruppe Beiträge über die künftigen US-Präsidentschaftskandidaten Pete Battigie, Joe Biden und Donal Trump zu finden waren, die sowohl pro als auch contra waren.
Gefälschte Profile auf Facebook: Die Ergebnisse der Untersuchung
Um die Problematik besser zu verstehen und wichtige Informationen zu erhalten, hat Facebook Graphika beauftragt, eine gründliche Analyse der gefälschten Profile durchzuführen, bevor sie geschlossen und in Vergessenheit geraten.
Das mit dem US-Verteidigungsministerium verbundene Unternehmen hat bei seinen Untersuchungen in einigen Fällen besonders alarmierende Daten ermittelt, vor allem im Bereich des Identitätsdiebstahls.
Fake-Profile: Woher die Fotos der Nutzer kommen
In einigen Fällen hat Graphika festgestellt, dass die Profilbilder völlig authentisch waren, aber von Bildern gestohlen wurden, die von echten Personen online gestellt wurden und durch eine Rückwärtssuche leicht identifizierbar waren. In anderen Fällen ergab die Studie jedoch, dass die fiktiven Charaktere in dem sozialen Netzwerk von Generative Adversial Networks (GANs) erstellt wurden, die mit Hilfe des Lernens von neuronalen Netzen äußerst realistische menschliche Gesichter erstellen, die für das menschliche Auge glaubwürdig sind.
Der Verdacht des Unternehmens hinsichtlich der Verwendung von GANs wurde durch 12 Profilfotos mit Unregelmäßigkeiten im Aussehen geweckt. Die Bilder zeigten verzerrte Hintergründe oder Elemente, die nicht ganz symmetrisch waren, obwohl sie es in der Realität waren, wie Ohren und Brillen. Um die Art der Fotos genau bestimmen zu können, hat das Unternehmen die Bilder überbelichtet, nachdem es sie undurchsichtig gemacht hatte, so dass die Fehlausrichtung der Elemente sichtbar wurde.
Gefälschte Profile und künstliche Intelligenz: ein neuer Trend?
Obwohl es durch Beobachtung möglich ist, gefälschte Profilbilder und gefälschte Profile zu erkennen, ist dies nicht das erste Mal, dass ein solches Verhalten von Gruppen mit zweifelhaften Absichten gemeldet wird. Ebenfalls im September 2020 versuchte ein anderes Netzwerk, das mit der russischen Internet Research Agency (IRA) in Verbindung steht, mit der gleichen Masche für die gefälschte PeaceData-Website zu werben.