La policía de Detroit detuvo a un afroamericano que fue identificado por error por esta tecnología, que según sus críticos refuerza el sesgo racial, como el autor de un robo en una joyería.

25 de junio de 2020, 6:40 AM
25 de junio de 2020, 6:40 AM

Un fallo en el sistema informático de reconocimiento facial llevó al arresto de un afroestadounidense en Detroit, de acuerdo a una denuncia presentada ayer que resalta las preocupaciones sobre el uso de una tecnología que, según sus críticos, refuerza el sesgo racial. La Unión Estadounidense de Libertades Civiles (ACLU, por sus siglas en inglés) dijo que se trata del primer caso conocido de un arresto "ilegal" fundamentado en tecnología de reconocimiento facial, que sus detractores consideran como imprecisa para distinguir rostros afroestadounidenses.

"Aunque el de Robert Williams puede ser el primer caso conocido, seguramente no es la primera persona que fue erróneamente arrestada e interrogada en base a un hallazgo falso por reconocimiento facial", dijo ACLU en Twitter. En una denuncia formal ante el departamento de policía, el abogado de ACLU Phil Mayor pidió que se retiren los cargos, que se elimine el registro del arresto y que se emita una disculpa pública a Williams, trabajador de la industria automotriz de 42 años.

Williams escribió en el periódico The Washington Post que fue arrestado fuera de su casa en enero y detenido por 30 horas, y que más tarde supo que había sido identificado de forma errónea a partir de imágenes tomadas por cámaras de vigilancia durante un robo de cinco relojes en una joyería. "Nunca pensé que tendría que explicarle a mis hijas por qué papá fue arrestado", escribió Williams. "¿Cómo le explica uno a dos niñas pequeñas que una computadora se equivocó, pero que la policía igual le hizo caso?".

La noticia llega en medio de crecientes tensiones y protestas callejeras en contra del racismo y la brutalidad policial tras una serie de muertes de afroestadounidenses a manos de agentes blancos, y la preocupación de que tecnologías como la de reconocimiento facial que podrían exacerbar la discriminación racial. En este contexto, empresas entre las que se incluyen IBM, Amazon y Microsoft anunciaron que no venderían sistemas de reconocimiento facial a los departamentos de policía. Sin embargo, sistemas de otras compañías se utilizan a gran escala en el país.

En un comunicado, la fiscal Kym Worhy se disculpó por el incidente y añadió que ella había expresado desde hace tiempo sus reservas hacia esta tecnología "especialmente respecto a gente de color". "Este caso no tendría que haber tenido lugar en base a una investigación del Departamento de Policía de Detroit, y por eso nos disculpamos", dijo, aunque añadió que "afortunadamente fue desestimado por propia iniciativa de nuestra oficina". "Esto de ninguna manera compensa las horas que el Sr. Williams pasó en la cárcel", admitió.

La Policía de Detroit no hizo comentarios al respecto aludiendo que hay un "proceso en curso", pero el departamento declaró a la radio pública que se han implantado nuevas reglas que limitan el uso del reconocimiento facial a casos de crímenes violentos en los que existan fotografías fijas de los sospechosos, y no solo videos de cámaras de seguridad.