Ein Facebook-Algorithmus liest die privaten Unterhaltungen, die in der Chat zwischen den Nutzern stattfinden. Hier wird erklärt, warum.
Füge uns deinen bevorzugten Quellen hinzu.
Die Verhinderung von Online-Kriminalität ruft manchmal Empörung hervor: Einerseits wird es immer notwendiger, die Aktivitäten der Nutzer zu überwachen, andererseits äußern viele Bedenken hinsichtlich des Datenschutzes.
Genau das geschieht gerade, nachdem die Nachricht verbreitet wurde, dassFacebookkannprivate Chats der eigenen Nutzer lesen.
Direkt aus dem Hauptquartier in Palo Alto, dem Sitz vonFacebook, kam die Bestätigung, dass beschlossen wurde, einen speziellen digitalen Überwachungsdienst einzurichten.
Kein Mitarbeiter wird tatsächlich und vorab alle Unterhaltungen zwischen Nutzern lesen: Ein Algorithmus wird dies übernehmen.
Das System erweist sich als besonders nützlich, um potenziell gefährliche Situationen aufzudecken, insbesondere zum Schutz von Jungen und Mädchen: Ein Großteil dieses Projekts wurde nämlich als Kontrollinstrument im Kampf gegen Pädophilie entwickelt.
Der Algorithmus verfolgt zum Beispiel Gespräche zwischen Personen mit großem Altersunterschied oder die geografisch weit voneinander entfernt wohnen; er bewertet auch, wie lange die Nutzer schon befreundet sind und ob es gemeinsame Kontakte gibt; schließlich ist er in der Lage, gefährliche Formulierungen zu erkennen.
Basierend auf früheren Beispielen kann das System tatsächlich Ausdrücke, die von anderen Pädophilen verwendet wurden, melden und sowohl das Gespräch als auch das „verdächtige“ Profil einem zuständigen Team anzeigen.
Erst zu diesem Zeitpunkt kann ein menschliches Auge den Inhalt des Chats lesen und die tatsächliche Tragweite der Aussagen bewerten.
Die beauftragte Person kann dann entscheiden, den Vorfall den zuständigen Behörden zu melden und den Gesprächsinhalt an diese zu übergeben.
Bis heute ist nicht geklärt, ob die vom automatischen System gemeldeten Gespräche gespeichert werden und ob sie, nachdem die Unschädlichkeit der Situation festgestellt wurde, gelöscht werden können.
Es wäre ungünstig, wegen eines falschen positiven Ergebnisses eines Algorithmus in der Akte mutmaßlicher Online-Pädophiler zu landen.
Viele fragen sich daher, ob die heilige Sicherheit, die für schwächere Personen gewährleistet werden muss, nicht der Weg sein könnte, um Zugang zu privaten Gesprächen zu erhalten.
Hinterlasse jetzt einen Kommentar