Tecnología de reconocimiento facial de Amazon ¿puede ser racista?
Los diputados estadounidenses John Lewis, de Georgia, y Bobby L. Rush, de Illinois, son demócratas, miembros del caucus de personas negras del Congreso y líderes del movimiento a favor de los derechos civiles.
Sin embargo, la tecnología de reconocimiento facial que fabrica Amazon, la cual comenzaron a utilizar algunos departamentos de policía estadounidenses y otras organizaciones, relacionaron de forma incorrecta a los legisladores con gente que había sido arrestada por cometer un crimen, informó la Unión Americana de Libertades Civiles (ACLU, por su sigla en inglés).
Los errores surgieron como parte de una prueba más amplia en la que los grupos en favor de las libertades civiles utilizaron el software de reconocimiento facial de Amazon para contrastar las fotos de todos los legisladores federales con una base de datos de 25 000 fotos policiales disponibles para todo el público. En la prueba, la tecnología de Amazon relacionó de forma errónea a veintiocho miembros del Congreso de Estados Unidos con gente que había sido arrestada: el equivalente a un cinco por ciento de tasa de error entre los legisladores.
La prueba relacionó de manera desproporcionada a los integrantes negros y latinos del Congreso con las personas en las fotos policiales.
“Esta prueba confirma que el reconocimiento facial tiene fallas, es prejuicioso y peligroso”, opinó Jacob Snow, abogado especializado en tecnología y libertades civiles que trabaja con la ACLU en el norte de California.
Nina Lindsey, una representante de Amazon Web Services, mencionó en un comunicado que los clientes de la empresa han usado la tecnología de reconocimiento facial para varios fines benéficos, entre ellos evitar el tráfico de personas y reunir a niños perdidos con sus familias. Lindsey agregó que la ACLU, durante su prueba, utilizó la tecnología de comparación de rostros, llamada Amazon Rekognition, de forma diferente a la recomendada por la empresa a los clientes que se dedican a la impartición de justicia.
Para empezar, señaló Lindsey, los departamentos de policía no suelen utilizar el software para tomar decisiones completamente autónomas sobre las identidades de las personas. “Vale la pena destacar que, en los escenarios del mundo real, Amazon Rekognition se utiliza casi de forma exclusiva para reducir las posibles coincidencias y permitir que los humanos revisen y consideren de manera diligente sus opciones por medio de su raciocinio”, dijo Lindsey en un comunicado.
La representante de Amazon también hizo notar que la ACLU había usado la configuración predeterminada del sistema, un umbral de confianza del 80 por ciento; esto quiere decir que el grupo tomó en cuenta cualquier propuesta del sistema para un rostro con una calificación de similitud del 80 por ciento o más. Lindsey señaló que Amazon recomendaba a los departamentos de policía usar una calificación de similitud bastante más alta —un 95 por ciento—, para reducir la probabilidad de correspondencias equivocadas.
El reconocimiento facial —una tecnología que se puede utilizar para identificar a gente desconocida en fotos o videos sin que lo sepa o sin su permiso— es cada vez más prioritario para los expertos en privacidad.
Sus defensores lo consideran una herramienta útil que sirve para reconocer criminales. Hace poco tiempo, este sistema pudo identificar al hombre que fue arrestado por el tiroteo mortal que ocurrió en la sala de prensa de The Capital Gazette, en Annapolis, Maryland.
Sin embargo, las agrupaciones que defienden las libertades civiles lo perciben como un sistema de vigilancia que puede limitar la capacidad de la gente para participar en protestas políticas o para dedicarse a sus vidas de una manera anónima.
Durante los últimos dos meses, Amazon ha sufrido una presión creciente por haber vendido su tecnología de reconocimiento facial, llamada Rekognition, a las fuerzas de seguridad. La empresa ha vendido el servicio para que los departamentos de policía puedan identificar con mayor facilidad a los sospechosos en las fotos y los videos.
En mayo, la ACLU encabezó a una veintena de agrupaciones defensoras de las libertades civiles en una carta dirigida al director ejecutivo de Amazon, Jeff Bezos, en la cual le exigían que su empresa dejara de vender la tecnología de reconocimiento facial a agencias dedicadas al cumplimiento de la ley. Las agrupaciones advirtieron que el software podría utilizarse para monitorear a manifestantes, inmigrantes ilegales u otros miembros del público en general, no solo a sospechosos de crímenes.
Poco después, Bezos recibió exigencias similares de empleados de Amazon, inversionistas de la firma y varios cientos de académicos.
No obstante, en una publicación de blog de junio, el gerente general de inteligencia artificial en Amazon Web Services, Matt Wood, mencionó que no habían recibido reportes de que las autoridades abusaran de la tecnología de reconocimiento facial de Amazon. Wood agregó que Amazon creía que era “equivocada la estrategia de imponer una prohibición a nuevas tecnologías prometedoras porque en el futuro pudieran utilizarlas personajes malintencionados para fines nefarios”.
Por su parte, Snow, el abogado de la ACLU, dijo que los resultados de la prueba que hizo la organización con el software no deben ser desestimados.
“Creemos que los resultados de esta prueba en verdad aumentan la preocupación de que el reconocimiento facial pueda tener un problema racial”, dijo.
(Con información de NYTimes)
