Un algoritmo di Facebook legge le conversazioni private che avvengono in chat tra gli utenti. Qui spiegato il perchè.
Facebook spia le chat degli utentiPrevenire il crimine online fa talvolta gridare allo scandalo: se da un verso diventa sempre più necessario monitorare le attività degli utenti, dall’altro verso in molti sollevano questioni relative alla privacy.
E’ quanto sta accadendo in queste ore, dopo la diffusione della notizia secondo la quale Facebook può leggere le chat private dei propri iscritti.
Direttamente dal quartier generale di Palo Alto, sede di Facebook, è arrivata la conferma al fatto che si è deciso di istituire un apposito servizio di sorveglianza digitale.
Nessun impiegato leggerà materialmente e preliminarmente tutte le conversazioni tra utenti: sarà un algoritmo a farlo.
Il sistema si rende particolarmente utile nello stanare situazioni potenzialmente pericolose soprattutto ai danni di ragazzini e ragazzine: gran parte di questo progetto nasce infatti proprio come strumento di controllo nella lotta alla pedofilia.
L’algoritmo tiene traccia, ad esempio, di conversazioni tra persone con una marcata differenza d’età o che abitano lontane tra loro; valuta anche da quanto tempo si è amici e si ci sono contatti in comune; infine, è in grado di riconoscere frasi insidiose.
Sulla scorta di esempi del passato, il sistema riesce infatti a segnalare espressioni usate da altri pedofili, segnalando ad uno staff preposto sia la conversazione che il profilo “incriminato”.
Solo a questo punto l’occhio umano potrà leggere il contenuto della chat, valutando l’effettiva portata delle frasi e delle parole.
La persona incaricata potrà dunque decidere di segnalare l’episodio agli organi competenti, consegnando il contenuto della conversazione alle autorità.
Ad oggi non è stato chiarito se le conversazioni segnalate dal sistema automatico vengano anche salvate e se, una volta valutata la non gravità della situazione, possano essere cancellate.
Sarebbe sconveniente finire nella cartella di presunti pedofili online, per via di un falso positivo deciso da un algoritmo.
In molti si chiedono dunque se la sacrosanta sicurezza da garantire a soggetti più deboli possa essere però il viatico per accedere alle conversazioni private.
Commenta per primo