/ viernes 19 de agosto de 2022

El reconocimiento facial también discrimina

Con frecuencia los dispositivos de reconocimiento facial se utilizan para vigilar a las personas de color, más que a las blancas. Irónicamente, esta tecnología es más precisa con los tonos de piel claros que con los oscuros

Una tarde en nuestro laboratorio, mi colega y yo estábamos probando nuestro nuevo prototipo de software de reconocimiento facial en una computadora portátil. El software usó una cámara de video para escanear nuestros rostros y adivinar nuestra edad y sexo.

El dispositivo adivinó correctamente mi edad, pero cuando mi colega, que es de África, lo probó, la cámara no detectó ningún rostro. Intentamos encender las luces de la habitación, ajustamos los asientos y el fondo, pero el sistema aún tenía problemas para detectar su rostro.

Te puede interesar: San Francisco, primera ciudad en prohibir el reconocimiento facial

Después de varios intentos fallidos el software finalmente detectó su rostro, pero se equivocó de edad y proporcionó el género incorrecto.

Nuestro software era sólo un prototipo, pero la dificultad para trabajar con tonos de piel más oscuros refleja las experiencias de las personas de color que intentan usar la tecnología de reconocimiento facial.

En los últimos años, los investigadores han demostrado la injusticia de los sistemas de reconocimiento facial y descubierto que el software y los algoritmos desarrollados por las grandes empresas tecnológicas son más precisos para reconocer los tonos de piel más claros que los más oscuros.

Sin embargo, The Guardian informó recientemente que el Ministerio del Interior del Reino Unido planea hacer que los inmigrantes condenados por delitos penales escaneen sus rostros cinco veces al día utilizando un reloj inteligente equipado con tecnología de reconocimiento facial.

Un portavoz del Ministerio del Interior dijo que la tecnología de reconocimiento facial no se usaría con los solicitantes de asilo que llegan ilegalmente al Reino Unido, y que el informe sobre su uso en delincuentes inmigrantes era “puramente especulativo”.

La Inteligencia Artificial carece de sentido común / Cortesía | EFE

Hay muchos matices en este tema, aunque debemos preguntarnos: ¿Qué derechos se ven frenados por una violación de la privacidad, en qué medida, y quién juzga si una violación de la privacidad está en equilibrio con la gravedad de un delito penal?

En el caso de los delincuentes a los que les toman fotografías de sus rostros varias veces al día, podríamos argumentar que la violación de la privacidad es de interés para la seguridad nacional de la mayoría de las personas, si el delito es grave. El gobierno tiene derecho a tomar tal decisión ya que es responsable de la seguridad de sus ciudadanos. Sin embargo, para delitos menores, el reconocimiento facial puede ser una medida demasiado fuerte.

En su plan, el Ministerio del Interior no ha diferenciado entre infractores leves y graves; ni ha proporcionado evidencia convincente de que el reconocimiento facial mejore el cumplimiento de las leyes de inmigración por parte de las personas.

En todo el mundo es más probable que el reconocimiento facial se utilice para vigilar a las personas de color al monitorear sus movimientos con más frecuencia que los de las personas blancas. y esto sucede a pesar del hecho de que los sistemas de reconocimiento facial son más precisos con los tonos de piel más claros que con los más oscuros.

Las fallas en el reconocimiento facial también podrían crear problemas de seguridad nacional para el gobierno. Por ejemplo, podría identificar erróneamente la cara de una persona como otra. La tecnología de reconocimiento facial no está lista para algo tan importante como la seguridad nacional.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Como sociedad, debemos esforzarnos por mantener la dignidad y la privacidad de las personas, excepto en los casos más graves. Más importante aún, debemos asegurarnos de que la tecnología no tenga el potencial de discriminar a un grupo de personas en función de su origen étnico. La ley y el reglamento deben aplicarse por igual a todas las personas.

El portavoz del Ministerio del Interior agregó: “El público espera que controlemos a los delincuentes extranjeros condenados... Los delincuentes extranjeros no deben tener ninguna duda de nuestra determinación de deportarlos, y el gobierno está haciendo todo lo posible para aumentar la cantidad de delincuentes extranjeros que están siendo deportados”.

* Investigadora Doctoral, Universidad de Northumbria, Newcastle.

Lee también otros contenidos de Normal ⬇️

Una tarde en nuestro laboratorio, mi colega y yo estábamos probando nuestro nuevo prototipo de software de reconocimiento facial en una computadora portátil. El software usó una cámara de video para escanear nuestros rostros y adivinar nuestra edad y sexo.

El dispositivo adivinó correctamente mi edad, pero cuando mi colega, que es de África, lo probó, la cámara no detectó ningún rostro. Intentamos encender las luces de la habitación, ajustamos los asientos y el fondo, pero el sistema aún tenía problemas para detectar su rostro.

Te puede interesar: San Francisco, primera ciudad en prohibir el reconocimiento facial

Después de varios intentos fallidos el software finalmente detectó su rostro, pero se equivocó de edad y proporcionó el género incorrecto.

Nuestro software era sólo un prototipo, pero la dificultad para trabajar con tonos de piel más oscuros refleja las experiencias de las personas de color que intentan usar la tecnología de reconocimiento facial.

En los últimos años, los investigadores han demostrado la injusticia de los sistemas de reconocimiento facial y descubierto que el software y los algoritmos desarrollados por las grandes empresas tecnológicas son más precisos para reconocer los tonos de piel más claros que los más oscuros.

Sin embargo, The Guardian informó recientemente que el Ministerio del Interior del Reino Unido planea hacer que los inmigrantes condenados por delitos penales escaneen sus rostros cinco veces al día utilizando un reloj inteligente equipado con tecnología de reconocimiento facial.

Un portavoz del Ministerio del Interior dijo que la tecnología de reconocimiento facial no se usaría con los solicitantes de asilo que llegan ilegalmente al Reino Unido, y que el informe sobre su uso en delincuentes inmigrantes era “puramente especulativo”.

La Inteligencia Artificial carece de sentido común / Cortesía | EFE

Hay muchos matices en este tema, aunque debemos preguntarnos: ¿Qué derechos se ven frenados por una violación de la privacidad, en qué medida, y quién juzga si una violación de la privacidad está en equilibrio con la gravedad de un delito penal?

En el caso de los delincuentes a los que les toman fotografías de sus rostros varias veces al día, podríamos argumentar que la violación de la privacidad es de interés para la seguridad nacional de la mayoría de las personas, si el delito es grave. El gobierno tiene derecho a tomar tal decisión ya que es responsable de la seguridad de sus ciudadanos. Sin embargo, para delitos menores, el reconocimiento facial puede ser una medida demasiado fuerte.

En su plan, el Ministerio del Interior no ha diferenciado entre infractores leves y graves; ni ha proporcionado evidencia convincente de que el reconocimiento facial mejore el cumplimiento de las leyes de inmigración por parte de las personas.

En todo el mundo es más probable que el reconocimiento facial se utilice para vigilar a las personas de color al monitorear sus movimientos con más frecuencia que los de las personas blancas. y esto sucede a pesar del hecho de que los sistemas de reconocimiento facial son más precisos con los tonos de piel más claros que con los más oscuros.

Las fallas en el reconocimiento facial también podrían crear problemas de seguridad nacional para el gobierno. Por ejemplo, podría identificar erróneamente la cara de una persona como otra. La tecnología de reconocimiento facial no está lista para algo tan importante como la seguridad nacional.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Como sociedad, debemos esforzarnos por mantener la dignidad y la privacidad de las personas, excepto en los casos más graves. Más importante aún, debemos asegurarnos de que la tecnología no tenga el potencial de discriminar a un grupo de personas en función de su origen étnico. La ley y el reglamento deben aplicarse por igual a todas las personas.

El portavoz del Ministerio del Interior agregó: “El público espera que controlemos a los delincuentes extranjeros condenados... Los delincuentes extranjeros no deben tener ninguna duda de nuestra determinación de deportarlos, y el gobierno está haciendo todo lo posible para aumentar la cantidad de delincuentes extranjeros que están siendo deportados”.

* Investigadora Doctoral, Universidad de Northumbria, Newcastle.

Lee también otros contenidos de Normal ⬇️

Moda

La alta costura invadirá el centro histórico de la capital zacatecana

Veintidós modelos internacionales y 10 modelos zacatecanas lucirán diseños de la Semana deModa en París

Cultura

Más de cinco mil personas llegan al Festival de Gastronomía Rural

El festival se realizó con la finalidad de realizar un análisis para conocer las comidas típicas de las comunidades de Zacatecas

Exposiciones

'Huellitas' llega al Teatro Calderón; autoría de Daniel Garcés

La muestra de fotografía pretende crear conciencia sobre el abandono animal

Círculos

'El Juve' dictará conferencia en Zacatecas

El evento será mañana jueves 10 de octubre a las 10:00 de la mañana, en el Teatro del IMSS

Finanzas

Federalización de la nómina magisterial, principal reto financiero para Zacatecas

Continuará la gestión de la firma de un convenio macro con la SEP y la SHCP

Tecnología

Alarmo, el despertador de Nintendo que te levanta

Promete ser un emocionante aditamento a la vida diaria de los fans de Nintendo