El mundo tecnológico se mueve tan rápido que la distopía puede llegar sin que nos demos cuenta. Esa parece ser la trayectoria en la que estamos con el reconocimiento facial.
Algunos de los nombres más importantes en el espacio tecnológico están desarrollando sistemas avanzados de reconocimiento facial y vendiéndolos a gobiernos de todo el mundo, pero es posible que el público en general no entienda completamente todos los riesgos que conllevan.
flickr
Con políticos prominentes como la representante de Nueva York, Alexandria Ocasio-Cortez, que habla sobre los peligros del reconocimiento facial, es hora de ponerse al día sobre por qué tanta gente está tan preocupada por la polémica tecnología.
Es inherentemente espeluznante
La primera y más obvia razón por la cual las personas no están contentas con el reconocimiento facial es que es desagradable por naturaleza.
El aumento de la vigilancia gubernamental ha sido un tema candente durante muchos, muchos años y tecnología como el software Rekognition de Amazon solo hace que el futuro distópico se sienta aún más real.
El reconocimiento se ha utilizado en juicios policiales en los Estados Unidos como una manera de permitir que las autoridades policiales escaneen las caras en los espacios públicos y las comparen con las de las bases de datos policiales.
Suena como algo que un gobierno villano y tiránico haría en una historia de ciencia ficción, pero está sucediendo en la vida real.
Basándose en eso solo, no es difícil ver por qué la gente quiere rechazarla.
Puede pasar sin su consentimiento
Otro gran punto de discusión es que la tecnología de reconocimiento facial está siendo desarrollada y potencialmente utilizada sin el consentimiento de la población general.
Esto no es nuevo en tecnología; Es casi un hecho que cualquier información que proporcione a las redes sociales se está utilizando de manera cuestionable de la que probablemente no esté completamente al tanto, por ejemplo.
Sin embargo, es un problema diferente cuando se trata de tu cara.
A principios de 2019, descubrimos que IBM había estado copiando imágenes de Flickr para entrenar su inteligencia artificial de reconocimiento facial sin contarle a las personas que aparecen en las fotos de la plataforma.
Además, la Oficina de Aduanas y Protección Fronteriza de los EE. UU. ha estado recogiendo fotos de personas que entran y salen de los aeropuertos para su propio programa de reconocimiento facial.
Algunas de esas fotos se tomaron en una brecha de datos en mayo, lo que probablemente no hizo que nadie se sintiera mejor acerca de la recopilación de datos en masa.
Ni siquiera siempre funciona correctamente
Dado que los sistemas de reconocimiento facial se están implementando en escenarios del mundo real, debería asumir que al menos funcionan correctamente todo el tiempo. Ese supuesto sería erróneo, por desgracia.
Un estudio de la ACLU en 2018 encontró que el software de reconocimiento de Amazon emparejó incorrectamente a los miembros del Congreso con otras personas que aparecieron en fotos policiales.
Un número desproporcionado de esos falsos positivos pertenecía a los congresistas de color, destacando una de las mayores preocupaciones con el reconocimiento facial: parece bastante parcial contra las personas que no son hombres blancos.
Los investigadores del MIT llegaron a una conclusión similar en 2018 y encontraron que los errores en el reconocimiento facial se dispararon significativamente cuando se aplicaban a personas de color.
La línea general de pensamiento es que el reconocimiento facial tal como existe ahora refleja los sesgos de las personas que lo crean.
Teniendo en cuenta que Rekognition ha sido implementado por departamentos de policía reales y supuestamente se ha comercializado a ICE, es lógico que sus problemas con las personas de color puedan llevar a enormes problemas con la aplicación de la ley.
Tal vez la tecnología mejore y al menos una compañía, Microsoft, ha reconocido el problema, pero eso no es especialmente reconfortante para aquellos que podrían verse afectados por ella.
No ha sido debidamente regulado
El reconocimiento facial viene con un montón de problemas, como se describe anteriormente. Dicho esto, podría ser un poco más aceptable para las personas con supervisión federal integral para asegurarse de que no se abusa de ellos. Desafortunadamente, ese no es el caso en este momento.
El gobierno de los EE. UU. todavía no ha aprobado una amplia regulación para el reconocimiento facial, ya que la tecnología aún es lo suficientemente nueva como para que sea un problema en desarrollo a los ojos de muchos.
En una serie de audiencias en el Congreso en mayo, hubo un raro apoyo bipartidista para la legislación de reconocimiento facial, lo que podría ser un poco alentador.
Por supuesto, eso probablemente no será una solución perfecta, incluso si llega a pasar. Es probable que mucha gente no confíe en el Congreso actual y la administración presidencial de los Estados Unidos para elaborar la mejor legislación para el reconocimiento facial.
Sin embargo, las soluciones gubernamentales pueden no tener que venir a nivel federal. Somerville, Mass. y San Francisco han prohibido el reconocimiento facial en el cumplimiento de la ley a nivel de ciudad.
Es posible que los políticos locales tengan que intervenir y hacer algo al respecto, mientras que el gobierno federal determina qué hacer.