- Сравнение
- Видео
- Amazon prohíbe a la policía usar tecnología de reconocimiento facial
Amazon ha prohibido a la policía usar su software de reconocimiento facial durante un año.
Según el gabinete, la moratoria sobre el uso de Amazon Rekognition está diseñada para brindar a los gobiernos muchas oportunidades de introducir regulaciones y marcos para evitar que el reconocimiento facial contribuya a la discriminación en cualquier forma.
Mientras tanto, Amazon continuará permitiendo que las organizaciones dedicadas a abordar problemas como la trata de personas y el secuestro de niños utilicen su tecnología.
El anuncio sigue una acción similar por parte de IBM, que ha detenido todas las actividades de desarrollo e investigación asociadas con la controvertida tecnología debido al riesgo de mal uso.
Reconocimiento facial amazónico
Aunque la tecnología de reconocimiento facial ha avanzado considerablemente en los últimos años y puede contribuir a investigaciones policiales legítimas, su aplicación siempre ha sido controvertida.
Las preocupaciones sobre las posibilidades de vigilancia masiva y puntuación social se ven agravadas por el problema del sesgo relacionado con la IA, que podría hacer que las personas sean discriminadas en función de sus atributos físicos.
Los métodos de auditar los conjuntos de datos que subyacen a los modelos de IA (incluido el software de reconocimiento facial) por sesgos siguen siendo inconsistentes y no regulados, lo que aumenta la posibilidad de que la tecnología pueda perjudicar aún más a los grupos demográficos minoritarios.
Amazon Rekognition se ha enfrentado al sesgo racial en sí mismo, con un artículo de 2019 en coautoría de los investigadores Joy Buolamwini y Deborah Raji que afirma que el software no identifica correctamente a las personas de piel más oscura, y también confunde a las mujeres de piel oscura con los hombres. El estudio también encontró que el sistema Amazon podría evaluar imágenes de individuos de piel clara con una precisión casi perfecta.
Luego, los resultados fueron verificados por un grupo de investigadores de IA, quienes se hicieron eco de las preocupaciones expresadas por Buolamwini de que la tecnología no debería usarse en un contexto de aplicación de la ley.
Amazon parece haber llegado a la misma conclusión, aunque nunca ha admitido acusaciones de que su software Rekognition tenga un sesgo racial.
"Estamos implementando una moratoria de un año sobre el uso policial de la tecnología de reconocimiento facial de Amazon", dijo un comunicado emitido por la firma.
"Hemos abogado por que los gobiernos establezcan regulaciones más estrictas para regular el uso ético de la tecnología de reconocimiento facial, y en los últimos días, el Congreso parece estar listo para asumir este desafío".
"Esperamos que esta moratoria de un año pueda darle al Congreso suficiente tiempo para implementar las reglas apropiadas, y estamos listos para ayudar si se nos solicita".
No se sabe cuántas agencias de aplicación de la ley usaron Amazon Rekognition antes de la prohibición, aunque esta decisión marca un cambio radical en la política desde 2018, cuando el CEO de AWS, Andy Jassy, dijo a los empleados que se sintió satisfecho con el valor que el servicio ofrecía a todos los clientes, incluida la policía.
Via The Verge