Un algoritmo de Facebook lee las conversaciones privadas que ocurren en chat entre los usuarios. Aquí se explica por qué.
Prevenir el crimen en línea a veces provoca escándalo: si por un lado se vuelve cada vez más necesario monitorear las actividades de los usuarios, por otro muchos plantean cuestiones relativas a la privacidad.
Esto es lo que está sucediendo en estas horas, tras la difusión de la noticia según la cual Facebook puede leer los chats privados de sus suscriptores.
Directamente desde la sede central de Palo Alto, sede de Facebook, llegó la confirmación de que se ha decidido instituir un servicio especial de vigilancia digital.
Ningún empleado leerá materialmente y previamente todas las conversaciones entre usuarios: será un algoritmo el encargado de hacerlo.
El sistema resulta particularmente útil para detectar situaciones potencialmente peligrosas especialmente contra niños y niñas: gran parte de este proyecto nace precisamente como herramienta de control en la lucha contra la pedofilia.
El algoritmo rastrea, por ejemplo, conversaciones entre personas con una marcada diferencia de edad o que viven alejadas; también evalúa desde cuándo son amigos y si tienen contactos en común; finalmente, es capaz de reconocer frases comprometedoras.
Basándose en ejemplos del pasado, el sistema puede señalar expresiones usadas por otros pedófilos, alertando a un equipo responsable tanto la conversación como el perfil «incriminado».
Sólo en ese momento el ojo humano podrá leer el contenido del chat, evaluando la verdadera gravedad de las frases y palabras.
La persona encargada podrá entonces decidir reportar el episodio a las autoridades competentes, entregando el contenido de la conversación a las autoridades.
Hasta ahora no se ha aclarado si las conversaciones señaladas por el sistema automático también se guardan y si, una vez evaluada la falta de gravedad de la situación, pueden ser borradas.
Sería inconveniente terminar en la carpeta de supuestos pedófilos en línea, debido a un falso positivo determinado por un algoritmo.
Por eso muchos se preguntan si la legítima seguridad a garantizar a sujetos más vulnerables podría ser, sin embargo, el camino para acceder a las conversaciones privadas.
Sé el primero en comentar