Wie Facebooks Chief Security Officer Joe Sullivan gegenüber Reuters bestätigte, scannt Facebook Nachrichten und Chats auf kriminellen Inhalt.
Dabei setzt Facebook auf verschiedene Logiken hinter den Scanns um möglichst wenige Fehlmeldungen zu erhalten. "Wir wollten niemals eine Umgebung schaffen, in der Mitarbeiter private Gespräche prüfen. Von daher ist es sehr wichtig, dass wir eine Technik mit einem sehr geringen Anteil an Falschmeldungen verwenden" sagte Sullivan dazu gegenüber Reuters. So wird ein Chat nach verschiedenen Kriterien erst bewertet und dann gegebenenfalls an einen Mitarbeiter weitergeleitet. Dabei spielt neben dem Altersunterschied der Chatpartner auch die Anzahl der gemeinsamen Freunde eine Rolle. Des Weiteren wird im Chat selbst nach verschiedenen Formulierungen, die man aus Chatprotokollen von Kriminellen und Sexualstraftätern entnommen hat gesucht. Einen Erfolg konnte man mit dieser Technik schon vermelden.
"Ein Mann Anfang 30 hat mit einem 13-jährigen Mädchen aus Florida über Sex gechattet und für den nächsten Tag ein Treffen nach der Schule verabredet. Facebooks weitreichende, aber wenig diskutierte Technik für das Scannen von Nachrichten und Chats nach kriminellen Vorgängen markierte die Unterhaltung automatisch für Mitarbeiter, die sie gelesen und sofort die Polizei gerufen haben. Beamte übernahmen die Kontrolle über den PC des Mädchens und verhafteten den Mann am nächsten Tag."
