App de reconocimiento facial amenaza la privacidad de sus usuarios

Hasta hace poco, entre los mayores éxitos de Hoan Ton-That figuraban un juego poco conocido para el iPhone y una app que permitía a los usuarios sobreponer el distintivo cabello de Donald Trump a sus propias fotos.

Luego, Ton-That, de 31 años, hizo algo trascendental: inventó una herramienta que podría poner fin a la habilidad de uno de caminar por la calle de manera anónima y se la proporcionó a cientos de agencias de imposición de la ley, desde la policía local en Florida hasta el FBI y el Departamento de Seguridad Nacional de Estados Unidos.

Clearview AI, su pequeña compañía, ideó una innovadora app de reconocimiento facial. Tomas la fotografía de una persona, la cargas y puedes ver fotografías públicas de esa persona, junto con ligas a los sitios donde aparecieron esas fotos.

El sistema —cuya piedra angular es una base de datos de más de 3 mil millones de imágenes que Clearview afirma fueron extraídas de Facebook, YouTube, Twitter y millones de sitios web más— va mucho más allá de cualquier cosa creada jamás en Estados Unidos.

VEA TAMBIÉN: La calidad de vida es difícil fuera de Caracas

Más de 600 agencias de imposición de la ley han comenzado a usar Clearview en el año pasado, de acuerdo con la compañía. Y Clearview también ha otorgado licencia para el uso de la app a un puñado de empresas.

“Las posibilidades de convertirla en un arma son infinitas”, dijo Eric Goldman, codirector del High Tech Law Institute en la Universidad de Santa Clara, en California. “Imagine a un agente de policía deshonesto que quiere acosar a posibles parejas románticas o a un gobierno extranjero que usa esto para hallar secretos sobre personas para chantajearlas o enviarlas a la cárcel”.

Aunque la empresa rechazó mis solicitudes de una entrevista, me estaba monitoreando. A solicitud mía, varios policías pasaron mi fotografía por la app de Clearview. Poco después recibieron llamadas de representantes de la compañía preguntándoles si estaban hablando con los medios -una señal de que Clearview tiene la capacidad para monitorear a quién está buscando la policía.

Además de Ton-That, Clearview fue fundada por Richard Schwartz —quien fue asistente de Rudolph W. Giuliani cuando fue alcalde de Nueva York— y respaldada financieramente por Peter Thiel, el inversionista de capital de riesgo detrás de Facebook y Palantir.

Otro primer inversionista es una pequeña empresa llamada Kirenaga Partners. David Scalzo, su fundador, desestimó las preocupaciones respecto a Clearview, al decir que es una herramienta valiosa para resolver delitos.

“He llegado a la conclusión de que, como la información aumenta constantemente, jamás habrá privacidad”, comentó Scalzo. “Las leyes deben determinar lo que es legal, pero no puedes prohibir la tecnología. Claro, eso podría conducir a un futuro distópico o algo así, pero no puedes prohibirla”.

Volviéndose viral

Los departamentos de policía han tenido acceso a herramientas de reconocimiento facial durante casi 20 años, pero han sido limitados a revisar imágenes proporcionadas por el Gobierno.

VEA TAMBIÉN: Aishe Ghosh: es el rostro de la protesta más grande en India

Ton-That, un australiano de descendencia vietnamita, quería ir más allá de eso. Comenzó en el 2016 al reclutar a un par de ingenieros para perfeccionar un algoritmo de reconocimiento facial. También diseñaron un programa que puede recabar automáticamente imágenes del rostro de la gente de toda Internet, como sitios de empleo, sitios noticiosos, sitios educativos y redes sociales incluyendo Facebook, YouTube, Twitter e Instagram. Los representantes de esas compañías dijeron que sus políticas prohíben ese tipo de recolección de datos.

Clearview creó un directorio que agrupaba las fotografías con vectores, o fórmulas matemáticas, similares en “vecindarios”. Cuando un usuario carga la fotografía de un rostro al sistema de Clearview, este convierte el rostro en un vector y después muestra todas las fotos extraídas y almacenadas en el vecindario de ese vector, junto con los enlaces a los sitios de donde provinieron esas imágenes.

Para fines del 2017, la compañía tenía una herramienta formidable de reconocimiento facial, que empezó a comercializar a las agencias de imposición de la ley.

En febrero, la policía estatal de Indiana comenzó a experimentar con Clearview. Resolvieron un caso a los 20 minutos de comenzar a usar la app.

En Gainesville, Florida, el detective Sargento Nick Ferrara dijo que anteriormente había dependido de FACES, una herramienta de reconocimiento facial proporcionada por el Estado. Encontró superior a la app de Clearview.

“Con Clearview, puedes usar fotos que no son perfectas”, dijo Ferrara. “Una persona puede llevar puesto un sombrero o lentes o puede ser una toma de perfil o una vista parcial de su rostro”.

Las agencias federales de imposición de la ley, incluyendo al FBI y al Departamento de Seguridad Nacional de Estados Unidos, la están probando, al igual que las autoridades canadienses, de acuerdo con la compañía y con funcionarios de Gobierno.

‘Todos estamos arruinados’

Ton-That dijo que la herramienta no siempre funciona. La mayoría de las fotografías en la base de datos de Clearview se toman al nivel de los ojos. Mucho del material que la policía carga proviene de cámaras de vigilancia montadas en techos o en lo alto de los muros.

“Colocan las cámaras de vigilancia demasiado altas”, dijo Ton-That. “El ángulo es el equivocado para un buen reconocimiento facial”.

A pesar de eso, señaló la compañía, su herramienta encuentra coincidencias hasta en el 75 por ciento de los casos. Pero no está claro con qué frecuencia ofrece la herramienta coincidencias falsas.

Pero policías jubilados y en funciones dicen que la app es efectiva. “Para nosotros, la prueba fue si funcionó o no”, dijo Chuck Cohen, ex capitán de la Policía Estatal de Indiana.

Una razón por la que Clearview está teniendo éxito es que su servicio es único. Eso se debe a que Facebook y otras redes sociales prohíben que las personas extraigan las imágenes de los usuarios. Al hacerlo, Clearview está violando los términos de servicio de estas plataformas.

VEA TAMBIÉN: Un satírico se mofa de la realeza saudita

“Mucha gente lo está haciendo”, dijo Ton-That. “Facebook lo sabe”.

Jay Nancarrow, un portavoz de Facebook, dijo que la compañía estaba revisando la situación con Clearview y que “tomará las medidas apropiadas si descubrimos que están violando nuestras reglas”.

Algunos oficiales de imposición de la ley dijeron no haber caído en cuenta de que las fotografías que cargaban eran enviadas y almacenadas en los servidores de Clearview.

Clearview dice que no ve las fotografías que carga la policía. Pero Clearview ahora posee una base de datos cada vez mayor de personas que han atraído la atención de las autoridades.

“Es espeluznante lo que están haciendo, pero habrá muchas más de estas empresas. No hay un monopolio sobre las matemáticas”, dijo Al Gidari, profesor de privacidad en la Facultad de Derecho de la Universidad de Stanford, en California. “A falta de una ley federal de privacidad muy fuerte, todos estamos arruinados”.

Woodrow Hartzog, profesor de Derecho y Ciencias Computacionales en la Universidad Northeastern, en Boston, considera que Clearview es la prueba más reciente de que debe prohibirse el reconocimiento facial en Estados Unidos.

“Hemos dependido de los esfuerzos de la industria para autovigilarse y no acoger una tecnología tan riesgosa, pero ahora esos controles se están desintegrando porque hay mucho dinero sobre la mesa”, dijo Hartzog. “No veo un futuro en el que aprovechemos los beneficios de la tecnología de reconocimiento facial sin el abuso paralizante de la vigilancia que conlleva. La única manera de frenarla es prohibirla”.

No más secretos

Durante una entrevista reciente en las oficinas de Clearview en Manhattan, Ton-That demostró la app consigo mismo. Se tomó una selfie y la subió. La app arrojó 23 fotos de él.

Los oficiales de policía y los inversionistas de Clearview predicen que la app con el tiempo estará disponible para el público.

Pero Ton-That dijo estar renuente. “Siempre habrá una comunidad de personas malas que harán mal uso de ella”, dijo.

Pero incluso si Clearview no pone a la app a disposición del público en general, otra empresa podría hacerlo. Sería el fin del anonimato público.

Cuando se le preguntó a Ton-That sobre las implicaciones de traer tal poder al mundo, pareció desconcertado.

“Tengo que pensar en eso”, dijo. “Creemos que este es el mejor uso de la tecnología”.

Jennifer Valentino-DeVries, Gabriel J.X. Dance y Aaron Krolik brindaron reportes.