[quads id=1]

La Unión Estadounidense por las Libertades Civiles (ACLU, por sus siglas en inglés) informó que tras poner a prueba el sistema de reconocimiento facial Amazon Rekognition -escaneando las caras de los 535 miembros del congreso de Estados Unidos y confrontándolas con 25.000 fotografías públicas de sospechosos de la policía-  el sistema ha confundido a 28 congresistas con posibles delincuentes.

Además ACLU puso de relieve que en la prueba, “casi el 40% de las coincidencias falsas correspondían con las fotografías de personas de color, pese a que estas solo representaban a un 20% de los congresistas analizados”.

“Que una identificación sea precisa o no puede costarle a una persona su libertad o incluso su vida…El Congreso debe tomarse en serio estas amenazas, pisar el freno y promulgar una moratoria sobre la aplicación de la ley para el reconocimiento facial”, expresa ACLU en un comunicado.

En mayo de este año, ACLU ya había alertado a través de un informe que Amazon Rekognition estaba siendo utilizado por organismos oficiales. Por ejemplo, la policía de Orlando tenía un programa piloto que usaba este sistema en tiempo real, debido a su bajo costo.

De su parte, Amazon ha atribuido los resultados erróneos a una mala calibración del sistema, según reseña The Verge, medio especializado en tecnología. “Las pruebas se han realizado con el umbral de confianza predeterminado por el programa, que es de un 80%. Amazon recomienda que los organismos oficiales como el Gobierno o la policía usen un umbral de un 95%, ya que las consecuencias de una equivocación pueden ser graves: Una identificación podría costarle a la gente su libertad” señalan.

Sin embargo, “el programa no recomienda en el momento de su configuración que el umbral sea del 95% y no hay nada que impida que estos organismos utilicen la configuración predeterminada”, dice The Verge.

Fuentes: El País, The Verge, ACLU