Un algorithme de Facebook lit les conversations privées qui ont lieu dans les chats entre les utilisateurs. Voici pourquoi expliqué.
Ajoutez-nous à vos sources préférées.
Prévenir la criminalité en ligne fait parfois scandale : d’un côté, il devient de plus en plus nécessaire de surveiller les activités des utilisateurs, de l’autre, beaucoup soulèvent des questions concernant la vie privée.
C’est ce qui se passe en ce moment, après la diffusion de la nouvelle selon laquelleFacebookpeutlire les chats privés de ses abonnés.
Directement depuis le quartier général de Palo Alto, siège deFacebook, est venue la confirmation qu’il a été décidé d’établir un service spécifique de surveillance numérique.
Aucun employé ne lira matériellement et préalablement toutes les conversations entre utilisateurs : ce sera un algorithme qui le fera.
Le système s’avère particulièrement utile pour débusquer des situations potentiellement dangereuses surtout au détriment des garçons et filles mineurs : la majeure partie de ce projet naît en effet comme un outil de contrôle dans la lutte contre la pédophilie.
L’algorithme suit, par exemple, les conversations entre personnes avec une grande différence d’âge ou qui habitent loin l’une de l’autre ; il évalue aussi depuis combien de temps elles sont amies et s’il y a des contacts en commun ; enfin, il est capable de reconnaître des phrases insidieuses.
Sur la base d’exemples passés, le système peut en effet signaler des expressions utilisées par d’autres pédophiles, alertant une équipe dédiée autant sur la conversation que sur le profil « incriminé ».
Ce n’est qu’à ce moment que l’œil humain pourra lire le contenu du chat, évaluant la portée réelle des phrases et des mots.
La personne responsable pourra alors décider de signaler l’épisode aux autorités compétentes, en remettant le contenu de la conversation aux autorités.
À ce jour, il n’a pas été clarifié si les conversations signalées par le système automatique sont également sauvegardées et, une fois la non-gravité de la situation évaluée, si elles peuvent être effacées.
Il serait inapproprié de finir dans le dossier des présumés pédophiles en ligne à cause d’un faux positif décidé par un algorithme.
Beaucoup se demandent donc si la sécurité sacrée à garantir aux sujets les plus faibles ne pourrait pas être cependant le prétexte pour accéder aux conversations privées.
Soyez le premier à commenter