Microsoft quiere que se regule el reconocimiento facial para prevenir sesgos

Este artículo es una especie de seguimiento. Hace seis meses publicamos la noticia de que Microsoft estaba trabajando para arreglar su software de reconocimiento facial que se consideraba racialmente sesgado. Ahora, la misma empresa pide que se regule el reconocimiento facial para evitar sesgos. Así que fueron atrapados con software sesgado, y ahora quieren que se regule toda la industria para evitar que cualquier otra persona tenga software sesgado racialmente.

El problema inicial

Como informamos en junio, Face API de Microsoft, basada en Azure, fue criticada en un artículo de investigación. El software tuvo dificultades para reconocer a las personas de color y a las mujeres. La tasa de error fue de hasta el 20,8 por ciento, pero con «rostros masculinos más claros», hubo una tasa de error del cero por ciento.

El razonamiento detrás de esta diferencia en el reconocimiento se debe a que la inteligencia artificial necesitaba ser programada por personas. Los resultados solo serán tan buenos como las personas que hicieron la programación. Los programadores de Microsoft no utilizaron suficientes personas con tonos de piel más oscuros o suficientes mujeres.

Microsoft trabajó para solucionar este problema diversificando sus datos de entrenamiento y comenzó a probar internamente sus sistemas antes de implementarlos. Pudieron reducir la tasa de error para las personas de piel más oscura hasta veinte veces y la tasa de error para las mujeres hasta nueve veces.

noticias-microsoft-reconocimiento-facial-legislación-hombre

Impulsando legislación

Son seis meses después y Microsoft pide a los gobiernos que aprueben legislación requerir que la tecnología de reconocimiento facial se pruebe de forma independiente para garantizar que sea precisa, para evitar prejuicios y para proteger los derechos de los usuarios.

«El genio del reconocimiento facial, por así decirlo, acaba de salir de la botella», explicó Brad Smith, abogado jefe de Microsoft, en una publicación de blog.

“A menos que actuemos, corremos el riesgo de despertarnos dentro de cinco años para descubrir que los servicios de reconocimiento facial se han extendido de manera que exacerban los problemas sociales. Para entonces, será mucho más difícil reprimir estos desafíos «.

La compañía solicita que las personas revisen los resultados del reconocimiento facial en lugar de dejar la tarea a las computadoras.

“Esto incluye donde las decisiones pueden crear un riesgo de daño físico o emocional para un consumidor, donde puede haber implicaciones sobre los derechos humanos o fundamentales, o donde la libertad personal o la privacidad de un consumidor puede verse afectada”, explicó.

noticias-microsoft-reconocimiento-facial-legislación-3-personas

Además, Smith sugirió que quienes usan el reconocimiento facial deben «reconocer que no están exentos de su obligación de cumplir con las leyes que prohíben la discriminación contra consumidores individuales o grupos de consumidores».

También quería asegurarse de que el uso gubernamental del reconocimiento facial no afectara las libertades democráticas y los derechos humanos de las personas.

“Debemos asegurarnos de que el año 2024 no se parezca a una página de la novela 1984”, concluyó.

además

Microsoft tiene razón, por supuesto. Es interesante que hace seis meses no reconocieron la necesidad de tener cuidado de que su software no discriminara, y ahora no solo lo reconocen, sino que también quieren asegurarse de que nadie más pueda cometer los mismos errores. lo hicieron.

Independientemente de su situación anterior, ¿tiene Microsoft razón en exigir legislación y que se regule el reconocimiento facial? Háganos saber su opinión sobre la solicitud de Microsoft en la sección de comentarios a continuación.

Categorías Hogar